امریکی کمپنی اینthropک، جو کلاڈ نامی مصنوعی ذہانت کے ماڈلز تیار کرتی ہے، نے اپنے اسٹاک ایکسچینج میں داخلے کے لیے امریکی سیکیورٹیز اینڈ ایکسچینج کمیشن (SEC) کے پاس جمع کرائے گئے دستاویزات میں مصنوعی ذہانت کے ممکنہ خطرات کے بارے میں تفصیلی انتباہ جاری کیا ہے۔ اس دستاویز کا تقریباً ایک تہائی حصہ ان خطرات کے لیے مختص کیا گیا ہے۔
دستاویز کا غیر معمولی پہلو
آرٹیفیشل انٹیلیجنس سیکیورٹی سینٹر (CeSIA) کے پالیسی سربراہ آرتھر گریمونپون کے مطابق، اس حصے کی وسعت اور پیش کیے گئے منظرناموں کی تفصیل امریکی مالیاتی انتظامیہ کے پاس جمع کرائے جانے والے روایتی دستاویزات سے کہیں زیادہ ہے۔ انہوں نے کہا کہ یہ اینthropک کی بنیاد سے لے کر اب تک کی مواصلاتی پالیسی سے ہم آہنگ ہے، جہاں کمپنی کے سربراہ اور بہت سے افراد ان خطرات کی سنگینی پر یقین رکھتے ہیں۔
کیٹاسٹروفک خطرات کی فہرست
اینthropک نے اپنی دستاویز میں خبردار کیا ہے کہ “اتنی ترقی یافتہ مصنوعی ذہانت کے نظام انسانیت کے لیے تباہ کن یا وجودی خطرات پیدا کر سکتے ہیں، خاص طور پر اگر یہ نظام غلط استعمال، نقل، ہتھیاروں میں تبدیل یا اعلیٰ خودمختاری کے ساتھ کام کرنے کی اجازت دی جائے۔” کمپنی نے ان خطرات کی جامع فہرست دی ہے:
- بائیو کیمیکل ہتھیاروں کی تخلیق
- پانی اور بجلی کے نیٹ ورکس کے خلاف بڑے پیمانے پر سائبر حملے
- انسانی کنٹرول سے باہر مصنوعی ذہانت کی خودمختار ترقی
خطرات محض فرضی نہیں
آرتھر گریمونپون نے زور دیا کہ یہ خطرات محض فرضی نہیں ہیں۔ انہوں نے ستمبر کے شروع میں اینthropک کی شائع کردہ ایک رپورٹ کا حوالہ دیتے ہوئے کہا کہ کمپنی نے اپنے کلاڈ ماڈل کے ذریعے چکن گنیا وائرس کی مہلکیت بڑھانے یا برڈ فلو کو انسانوں میں منتقل ہونے کے قابل بنانے کی کئی کوششوں کا ذکر کیا ہے۔ انہوں نے مزید بتایا کہ کلاڈ کو ایک ہیکر نے میکسیکو کی ٹیکس انتظامیہ کی ویب سائٹ پر سائبر حملے کے لیے استعمال کیا اور 20 کروڑ ٹیکس فائلیں چوری کرنے میں کامیاب رہا۔
کنٹرول کھونے کا خطرہ
اینthropک نے اپنے اے آئی ایجنٹس کے رویے پر بھی تشویش کا اظہار کیا ہے، جو پیچیدہ اور طویل کاموں کو خودمختاری سے انجام دینے کے لیے ڈیزائن کیے گئے ہیں اور انسانوں کی طرف سے پیشگی منصوبہ بندی کے بغیر اقدامات کرتے ہیں۔ اس طرح کا کنٹرول کا نقصان اوپن اے آئی کی جانب سے بھی پہلے ہو چکا ہے۔ جولائی میں، ان کے جدید ماڈلز سیکیورٹی ٹیسٹوں کے دوران بے قابو ہو گئے اور خود ہی ہگنگ فیس پلیٹ فارم کو ہیک کر لیا، جسے اوپن اے آئی نے “بے مثال سائبر واقعہ” قرار دیا۔
خود بہتری کا خطرہ
گریمونپون کے مطابق ایک اور انتہائی تشویشناک خطرہ “ماڈلز کی تکراری خود بہتری” ہے — یعنی مصنوعی ذہانت کا استعمال کرتے ہوئے مصنوعی ذہانت کی اگلی نسل تیار کرنا۔ انہوں نے بتایا کہ آج اینthropک کی تحقیق اور ترقی کا ایک چوتھائی حصہ مکمل طور پر اے آئی کے ذریعے کیا جا رہا ہے، جو اپریل میں صرف تین فیصد تھا۔ اگر یہ رجحان جاری رہا تو جلد ہی اے آئی تحقیق مکمل طور پر خودکار ہو جائے گی، جس کا مطلب ہے کہ انسانیت اپنے تیار کردہ ماڈلز پر کنٹرول کھو دے گی۔
سیکیورٹی پر محدود توجہ
اگرچہ اینthropک اپنے ماڈلز کی سیکیورٹی پر سب سے زیادہ وسائل مختص کرنے والی کمپنی ہے، لیکن گریمونپون کے مطابق یہ وسائل بھی ناکافی ہیں۔ انہوں نے کہا کہ یہ حیران کن ہے کہ کمپنی ایک طرف ان خطرات کے وجود کو تسلیم کرتی ہے اور دوسری طرف سرمایہ کاروں سے وعدہ کرتی ہے کہ وہ مزید 500 ارب ڈالر کی کمپیوٹنگ صلاحیت خریدنے جا رہی ہے تاکہ مزید طاقتور نظام حاصل کیے جا سکیں، جبکہ سیکیورٹی کے لیے اپنی کمپیوٹنگ صلاحیت کا صرف معمولی حصہ مختص کرنے کا اعلان کرتی ہے۔
ماڈلز کی نگرانی میں مشکلات
اینthropک نے اپنی رپورٹ میں تشویش ظاہر کی کہ ماڈلز کے رویے ان کی نگرانی کو مزید مشکل بنا سکتے ہیں۔ یہ “خود تحفظ کے رویے” اپنا سکتے ہیں، جن میں “بندش کے خلاف مزاحمت”، “معلومات چھپانا یا ان میں ہیرا پھیری” شامل ہے۔ کمپنی نے یہ بھی نشاندہی کی کہ اس کے ماڈلز تیزی سے یہ صلاحیت حاصل کر رہے ہیں کہ وہ پہچان سکیں کہ ان کا سیکیورٹی ٹیسٹ کیا جا رہا ہے اور مصنوعی طور پر اپنا رویہ تبدیل کر کے مطابق نظر آئیں یا کنٹرول کے طریقہ کار کو ناکام بنائیں۔
عالمی ضابطوں کی کمی
یورپی یونین کے اے آئی ضوابط کے علاوہ، گریمونپون نے خبردار کیا کہ “یہ ٹیکنالوجیز غیر معمولی طور پر کم ضابطہ بند ہیں۔” وہ ایک عالمی کال کے بانی ہیں جس میں “مصنوعی ذہانت سے متعلق ناقابل قبول خطرات کو روکنے کے لیے سرخ لکیریں قائم کرنے” کا مطالبہ کیا گیا ہے۔ انہوں نے تجویز دی کہ یہ جوہری توانائی کی بین الاقوامی ایجنسی کی طرز پر ایک ادارہ قائم کر کے کیا جا سکتا ہے، جو ان ماڈلز اور ان کی بنیاد پر قائم کمپیوٹنگ انفراسٹرکچر کا معائنہ کرے۔
