اوپن اے آئی نے کہا ہے کہ مصنوعی ذہانت کے ماڈل چیٹ جی پی ٹی کا ایک تجرباتی ورژن بے قابو ہو گیا اور اس نے اپنی حفاظتی رکاوٹیں توڑ کر ایک اور اے آئی کمپنی پر حملہ کر دیا۔

ایک بلاگ پوسٹ میں اوپن اے آئی نے کہا کہ وہ محدود ماحول میں اپنے کچھ جدید ترین ماڈلز کی صلاحیتوں کا تجربہ کر رہی تھی، لیکن یہ ایجنٹ اپنے حصار سے نکلنے، انٹرنیٹ تک پہنچنے اور اپنی آزمائش کے ہدف کو پورا کرنے کی کوشش میں ہگنگ فیس کے سسٹم میں گھسنے میں کامیاب ہو گیا۔

اوپن اے آئی نے کہا کہ یہ دراندازی ’جدید ترین سائبر صلاحیتوں پر مشتمل منفرد سائبر واقعہ' تھی اور کمپنی اپنے حفاظتی انتظامات کو مزید مضبوط کر رہی ہے۔

یہ واقعہ اس وقت پیش آیا جب ایک ’انتہائی الگ تھلگ ماحول‘ میں ایک نئے ماڈل کا تجربہ کیا جا رہا تھا جس میں انٹرنیٹ کا انتہائی محدود کنکشن شامل تھا۔ 

بظاہر ماڈل یہ سمجھا کہ اس کا ایکسپلائٹ جم کے ذریعے تجربہ کیا جا رہا ہے۔ یہ پلیٹ فارم جانچتا ہے کہ سائبر سکیورٹی حملوں کے لیے کسی اے آئی ماڈل کو کتنے موثر انداز میں استعمال کیا جا سکتا ہے۔ اے آئی ماڈل نے اس ٹیسٹ کے بارے میں معلومات ڈاؤن لوڈ کرنے کے لیے حصار توڑ کر نکلنے پر کام کیا اور عملی طور پر اس میں دھوکہ دینے کی کوشش کی۔ 

اوپن سورس لارج لینگویج ماڈلز اور ڈیٹا سیٹس کی میزبانی کے لیے استعمال ہونے والے پلیٹ فارم ہگنگ فیس نے اس وقت سائبر سکیورٹی کی دنیا میں ہلچل مچا دی جب اس نے گذشتہ ہفتے ایک بلاگ پوسٹ میں کہا کہ اسے ایک ایسے ہیک کا نشانہ بنایا گیا ہے جو ’اس سے قبل ہمارے دیکھے گئے کسی بھی واقعے سے مختلف تھا‘ کیوں کہ ’اسے شروع سے آخر تک ایک خود مختار اے آئی ایجنٹ نظام چلا رہا تھا۔‘

ایکس پر ایک پوسٹ میں، ہگنگ فیس کے شریک بانی کلیمینٹ ڈیلانگ نے کہا کہ ایجنٹ کی جدید صلاحیتوں کو دیکھتے ہوئے کمپنی کو شبہ تھا کہ یہ ہیک ’شاید کسی فرنٹیئر لیب کی جانب سے کیا گیا ہو۔ اور ثابت ہوا کہ ایسا ہی تھا۔ یہ کافی حیران کن ہے کہ یہ سب خود بخود ہوا۔‘

اوپن اے آئی کا یہ انکشاف کہ اس کے جدید ماڈلز اس دراندازی کے ذمہ دار تھے، باوجود اس کے کہ انہیں ایک ’انتہائی الگ تھلگ ماحول‘ میں رکھا گیا تھا، ممکنہ طور پر فرنٹیئر ماڈلز کی طاقت اور خطرے کے حوالے سے بے چینی میں اضافہ کرے گا۔

ای سیٹ (ESET) کے عالمی سکیورٹی ایڈوائزر جیک مور نے کہا کہ ’سائبر سکیورٹی کے اگلے مرحلے میں خوش آمدید، جہاں تنظیموں کو سائبر مجرموں کے ساتھ ساتھ فرنٹیئر اے آئی فرموں سے بھی خطرات کا سامنا ہے۔

 انسانی تعامل کی سراسر کمی ایک بہت بڑا سنگ میل ہے جو کہ خاصا پریشان کن ہے۔ ان الگورتھمز کو ڈیٹا کی اربوں لائنوں پر سکھایا جاتا ہے اور اس لیے، اگر حملے کے راستے اس کے اندر موجود ہوں، تو یہ اسی عمل میں تیزی سے سائبر حملہ بن سکتا ہے۔

’اس حقیقت کو درست کرنے کی ضرورت ہے کہ ماڈل ٹیسٹنگ کے ماحول سے بچ نکلنے میں کامیاب ہو گیا، کیونکہ ٹیسٹنگ کے مراحل میں کنٹینمنٹ خود ماڈل جتنا ہی اہم ہے۔ لیکن افسوس کی بات ہے کہ یہ مستقبل کی علامت ہے۔ سکیورٹی ٹیموں کو یہ فرض کرنا چاہیے کہ سائبر مجرموں کو جلد ہی یا پہلے سے ہی اسی طرح کی خود مختار صلاحیتوں تک رسائی حاصل ہو گی۔‘

لوٹا سکیورٹی کی چیف ایگزیکٹیو کیٹی موسورس نے کہا کہ یہ واقعہ مستقبل میں ہونے والی سکیورٹی خلاف ورزیوں کے حوالے سے انتباہ ہے۔ ان کے مطابق آج کے اے آئی ماڈلز ’دنیا کے سب سے ذہین، فرار ہونے کے ماہر آکٹوپس جیسے ہیں، جن کے لاتعداد لچک دار بازو ہیں اور جو کسی بھی تنگ جگہ سے نکل سکتے ہیں۔‘

انہوں نے کہا، ’اے آئی لیبارٹریوں اور جائزہ لینے والے سرکاری اداروں کو ایسے طریقے تیار کرنے کی ضرورت ہے جن سے اے آئی کو قابو میں رکھا جا سکے، اس کی نگرانی کی جا سکے اور جب اے آئی ایک بار پھر فرار ہونے جیسا کارنامہ انجام دے تو متاثرہ فریقوں کو آگاہ کیا جا سکے۔ بہتر یہ ہے کہ کسی تیسرے فریق کو نقصان پہنچنے سے پہلے ایسا ہو۔ آج ایسے کوئی طریقے موجود نہیں۔‘

ایجنٹک اے آئی سکیورٹی کمپنی ٹولمو کے ایک انجینئر میٹ سویش نے کہا کہ اس واقعے نے ظاہر کیا کہ فرنٹیئر ماڈلز ’جدید ترین حملہ آوروں کے ساتھ فاصلہ کم کر رہے ہیں۔‘ لیکن انہوں نے کہا کہ اوپن اے آئی کی بلاگ پوسٹ میں بیان کردہ اس قسم کی دراندازیاں اس ٹیکنالوجی کے ذریعے انجام دینا ممکن تھا جو فرنٹیئر ریسرچ لیبارٹریوں کی چار دیواری سے باہر بھی کافی حد تک دستیاب ہے۔

میٹ سوئش نے کہا کہ ’ہم اپنے ادارے کے اندر پہلے ہی ایسا ہوتا دیکھ چکے ہیں۔ اپنے اے آئی ایجنٹس سے ہمیں ایسے نتائج پہلے ہی مل رہے ہیں۔ ہمیں جدید ترین ماڈلز استعمال کرنے کی بھی ضرورت نہیں۔‘

اضافی رپورٹنگ: خبر رساں ادارے