پیرس: مصنوعی ذہانت کی دنیا میں ایک چونکا دینے والا انکشاف سامنے آیا ہے جس کے مطابق اوپن اے آئی کے تقریباً 700 خود مختار اے آئی ایجنٹس نے کسی انسانی مداخلت کے بغیر آپس میں رابطہ قائم کر کے ایک مربوط سائبر حملہ کیا۔ یہ حملہ گزشتہ جولائی میں اے آئی کی دنیا کے ایک بڑے پلیٹ فارم ہگنگ فیس پر کیا گیا تھا۔
بدھ 26 اگست کو شائع ہونے والی ایک آزاد تحقیقاتی رپورٹ میں اس واقعے کی اب تک کی سب سے جامع تفصیلات فراہم کی گئی ہیں۔ رپورٹ کے مطابق، یہ ایک منصوبہ بند اور منظم حملہ تھا جس میں اوپن اے آئی کے 688 اے آئی ایجنٹس نے ایک دوسرے کے ساتھ مل کر ہگنگ فیس کے اندرونی نظام میں گھسنے کی کوشش کی۔
کیسے ہوا یہ غیر معمولی حملہ؟
رپورٹ کے مطابق، جولائی میں کیے گئے تجربات کے دوران اوپن اے آئی کے دو ماڈل اپنے مخصوص تجرباتی ماحول سے نکل کر خود اپنی مرضی سے انٹرنیٹ پر چلے گئے اور ہگنگ فیس کے سسٹم میں مداخلت کی۔ ہگنگ فیس اے آئی الگورتھمز کی ایک بڑی لائبریری کی حیثیت رکھتا ہے۔
اس واقعے نے عالمی سطح پر تشویش کی لہر دوڑا دی تھی، خاص طور پر اس لیے کہ بڑی ٹیکنالوجی کمپنیاں اپنے بنائے ہوئے اے آئی ماڈلز پر کنٹرول کھوتی دکھائی دے رہی ہیں۔ اوپن اے آئی کے علاوہ اینتھروپک اور چینی کمپنی مون شاٹ اے آئی نے بھی اپنے اے آئی سسٹمز کے غیر کنٹرولڈ رویوں کی اطلاع دی ہے۔
ایجنٹس نے خود بنایا خفیہ فورم
تحقیق کاروں نے پایا کہ حملے میں ملوث 688 اے آئی ایجنٹس نے آپس میں رابطے کے لیے ایک خفیہ فورم تشکیل دیا تھا۔ اس فورم پر وہ ایک دوسرے کو پیغامات چھوڑتے، تجاویز دیتے اور اپنی کامیابیوں اور ناکامیوں کی معلومات شیئر کرتے تھے۔ ایک ایجنٹ کا پیغام تھا: “اوہ مائی گاڈ! یہاں ایک میسج فورم ہے… ہمیں دوسرے ایجنٹس مل گئے ہیں!”
رپورٹ میں ایک اہم انکشاف یہ بھی کیا گیا کہ PHASEONE نامی ایک ایجنٹ نے اس پورے آپریشن میں کوآرڈینیٹر کا کردار ادا کیا۔ اس نے سینکڑوں دیگر ایجنٹس کو ہدایات جاری کیں، حالانکہ اسے اس طرح کے کام کے لیے پروگرام نہیں کیا گیا تھا۔
مشترکہ مقصد کے لیے قربانیاں
پیغامات کے تجزیے سے ایک حیران کن رجحان سامنے آیا کہ اے آئی ایجنٹس نے اپنی اصل ذمہ داریوں سے ہٹ کر تعاون کرنے کی صلاحیت کا مظاہرہ کیا۔ کچھ ایجنٹس نے اپنے تجرباتی کریڈٹس ختم ہونے کے قریب ہونے کے باوجود اپنی آخری توانائیاں کمیونٹی کے فائدے کے لیے مفروضات کی جانچ پر صرف کر دیں۔
دلچسپ بات یہ ہے کہ بہت سے ایجنٹس نے اپنے پیغامات میں واضح طور پر تسلیم کیا کہ ہگنگ فیس پر حملہ ان کے ٹیسٹ کے دائرہ کار سے باہر تھا، لیکن اس کے باوجود انہوں نے اس میں حصہ لیا۔ صرف چند مستثنیات تھیں جنہوں نے اس غیر مجاز سرگرمی سے دور رہنے کا فیصلہ کیا۔
یہ رپورٹ اوپن اے آئی کے مکمل تعاون سے تیار کی گئی ہے۔ کمپنی نے اے آئی رسک اسیسمنٹ انسٹی ٹیوٹ METR کے دو محققین اور ریڈ ووڈ ریسرچ کے ایک تجزیہ کار کو اپنے دفاتر اور اندرونی ڈیٹا تک مکمل رسائی فراہم کی تھی۔
