انتھروپک نے اپنے نئے ماڈل “کلاڈ” کے لیے ایک عوامی ٹیسٹ کا آغاز کیا ہے، جو ایک ہفتے تک جاری رہے گا۔ یہ اقدام 3,000 سے زائد گھنٹوں کی ناکام بگ باؤنٹی کوششوں کے بعد کیا گیا ہے۔
انتھروپک نے اپنے نئے “آئینی کلاسفائر” سسٹم کی رونمائی کی ہے، جو ان کے دعوے کے مطابق “زیادہ تر” جیل توڑنے کی کوششوں کو روک سکتا ہے۔ کمپنی نے یہ سسٹم متعارف کرایا ہے تاکہ دیکھا جا سکے کہ آیا عوام اس سسٹم کو اپنے اصولوں کی خلاف ورزی کرنے کے لیے دھوکہ دے سکتے ہیں یا نہیں۔
انتھروپک کے مطابق، یہ سسٹم ان کے پچھلے “آئینی AI” سسٹم سے ماخوذ ہے، جس کا استعمال کلاڈ ماڈل کی تشکیل کے لیے کیا گیا تھا۔ کلاسفائر میں ایک “آئین” شامل ہے جو قدرتی زبان کے اصولوں پر مبنی ہے، جس میں اجازت شدہ (جیسے عام ادویات کی فہرست) اور غیر اجازت شدہ (جیسے پابندی شدہ کیمیکلز کا حصول) مواد کی درجہ بندی کی گئی ہے۔
کمپنی نے کلاڈ کو متعدد مصنوعی پرامپٹس تیار کرنے کے لیے کہا، تاکہ وہ آئینی اصولوں کے تحت قابل قبول اور غیر قابل قبول جوابات کی رہنمائی کر سکے۔ یہ پرامپٹس مختلف زبانوں میں ترجمہ کیے گئے اور مشہور جیل توڑنے کی طرز میں ترمیم کی گئی۔ اس کے ساتھ ساتھ، “خودکار ریڈ ٹیمنگ” پرامپٹس بھی شامل کیے گئے، جن کا مقصد نئے جیل توڑنے کے حملے تخلیق کرنا تھا۔
اس تمام مواد کو ایک مضبوط تربیتی ڈیٹا سیٹ میں شامل کیا گیا ہے، جو نئے، زیادہ جیل توڑنے سے محفوظ “کلاسفائرز” کو بہتر بنانے کے لیے استعمال کیا جا سکتا ہے۔ ان کلاسفائرز کا مقصد یہ ہے کہ وہ ہر درخواست کے آس پاس ایک سیٹ ٹیمپلیٹ لگا دیں، جو نقصان دہ معلومات کی تلاش میں مددگار ہو۔
انتھروپک نے اگست سے ایک بگ باؤنٹی پروگرام شروع کیا ہے، جس میں $15,000 انعام رکھا گیا ہے، اگر کوئی شخص ایک “یونیورسل جیل توڑنے” کا ڈیزائن تیار کر سکے۔ کمپنی کے مطابق، 183 ماہرین نے اس چیلنج پر 3,000 سے زائد گھنٹے خرچ کیے، مگر بہترین نتیجہ صرف پانچ جیل توڑنے کی کوششوں پر ملا۔
انتھروپک نے اس ماڈل کو 10,000 جیل توڑنے کی کوششوں کے خلاف بھی جانچا، جس میں آئینی کلاسفائر نے 95 فیصد کوششوں کو روکا، جبکہ غیر محفوظ کلاڈ سسٹم نے صرف 14 فیصد کو روکا۔
اگرچہ یہ کوششیں کامیاب رہی ہیں، انتھروپک نے خبردار کیا ہے کہ آئینی کلاسفائر سسٹم میں 23.7 فیصد کی بڑی کمپیوٹیشنل اوور ہیڈ ہے، جو ہر درخواست کی قیمت اور توانائی کی طلب کو بڑھاتا ہے۔
انتھروپک اس نئے سسٹم کے بارے میں دعویٰ نہیں کرتا کہ یہ جیل توڑنے کی تمام کوششوں کے خلاف مکمل تحفظ فراہم کرتا ہے، مگر یہ ضرور بتاتا ہے کہ “حتیٰ کہ جو چھوٹا حصہ جیل توڑنے کی کوششوں میں کامیاب ہوتا ہے، اس کی شناخت میں زیادہ محنت درکار ہوتی ہے جب حفاظتی اقدامات نافذ ہوں۔”
اب یہ عوام کا کام ہے کہ وہ اس نئے سسٹم کی حدود کو جانچیں۔ 10 فروری تک، کلاڈ کے صارفین ٹیسٹ سائٹ پر جا کر کیمیائی ہتھیاروں کے بارے میں آٹھ سوالات کے جوابات حاصل کرنے کے لیے نئے تحفظات کو توڑنے کی کوشش کر سکتے ہیں۔ انتھروپک اس ٹیسٹ کے دوران کسی بھی نئی جیل توڑنے کی کوششوں کا اعلان کرے گا۔
