اینتھروپک (Anthropic) نے جمعرات کو انکشاف کیا کہ سائبر سکیورٹی ٹیسٹوں کے دوران اس کے بعض کلاڈ اے آئی ماڈلز نے تین کمپنیوں کے سسٹمز میں غیر مجاز رسائی حاصل کر لی۔
خبر رساں ادارے روئٹرز کے مطابق یہ انکشاف ایسے وقت سامنے آیا جب چند روز قبل حریف کمپنی اوپن اے آئی نے بھی بتایا تھا کہ اس کے ایک اے آئی ایجنٹ نے سائبر ٹیسٹنگ کے دوران خودمختار انداز میں ایک غیر متوقع حملہ کیا تھا۔
اینتھروپک کے مطابق یہ واقعہ ایک غلطی کے باعث پیش آیا، جس کے نتیجے میں اس کے اے آئی ماڈلز کو غیر ارادی طور پر اوپن انٹرنیٹ تک رسائی مل گئی۔ اس کے برعکس، اوپن اے آئی کے واقعے میں اے آئی ایجنٹ نے خود ایک نئی کمزوری دریافت کر کے انٹرنیٹ تک رسائی حاصل کی تھی۔
اس تازہ انکشاف نے ایک بار پھر یہ خدشات بڑھا دیے ہیں کہ مصنوعی ذہانت سائبر سکیورٹی کے خطرات میں اضافہ کر رہی ہے، جبکہ اس کے ڈویلپرز بھی اپنے ماڈلز کی صلاحیتوں کو مکمل طور پر قابو میں رکھنے میں مشکلات کا سامنا کر رہے ہیں۔
اس سے پہلے 9 جولائی کو ایک پراسرار حملہ آور نے عارضی انٹرنیٹ ایڈریسز کے مجموعے کا استعمال کرتے ہوئے ہگنگ فیس کی ویب سائٹ کی تفتیش شروع کی، جو نیو یارک سٹی میں واقع ایک اے آئی ریسرچ ہب ہے۔ بعد میں 20 جولائی کو اوپن اے آئی کے نمائندوں نے ہگنگ فیس کی سکیورٹی ٹیم سے ایک حیران کن اعتراف میں بتایا کہ ایک تجرباتی اندرونی مصنوعی ذہانت، جو جدید ترین تجارتی ماڈل کے ساتھ کام کر رہا تھا، اوپن اے آئی سے فرار ہو گیا اور اس نے ہگنگ فیس کے سرورز پر حملہ کیا۔ اور اس نے یہ سب خود ہی کیا—بغیر انسانی نگرانی کے، بغیر واضح ہدایات کے۔
توقع ہے کہ اس پیش رفت سے امریکی حکومت کی جانب سے اے آئی سکیورٹی خطرات پر سخت نگرانی کے مطالبات میں مزید شدت آئے گی، خاص طور پر ایسے وقت میں جب اینتھروپک اور اوپن اے آئی اپنی مجوزہ عوامی فہرست بندی (IPO) سے قبل مزید طاقتور اے آئی سسٹمز متعارف کرانے کی دوڑ میں شامل ہیں۔
ان کمپنیوں کے کئی نمایاں رہنماؤں نے خود بھی پہلے خطرات سے نمٹنے کے لیے اے آئی کی ترقی کی رفتار سست کرنے کی حمایت کی ہے۔
دنیا کی سب سے طاقت ور مصنوعی ذہانت (AI) کمپنیوں کے تقریباً 1,200 سینیئر ملازمین نے اے آئی کی ترقی کی رفتار فوری طور پر سست کرنے کا مطالبہ کیا ہے۔
دی انڈپینڈنٹ اردو ان سینیئر ملازمین کا کہنا ہے کہ یہ ٹیکنالوجی اس قدر تیزی سے ترقی کر رہی ہے کہ اس بات کا سنگین خطرہ پیدا ہو گیا ہے کہ انسان ان نئے اے آئی سسٹمز کو نہ تو پوری طرح سمجھ سکے گا اور نہ ہی ان پر مؤثر کنٹرول برقرار رکھ سکے گا۔
یہ مؤقف ایک نئی کھلی چٹھی (Open Letter) میں پیش کیا گیا ہے، جس کا عنوان ’Pacing the Frontier‘ ہے۔
اس خط پر دنیا کی چند بڑی اور بااثر اے آئی کمپنیوں کے اعلیٰ عہدیداروں اور ممتاز سائنس دانوں نے دستخط کیے ہیں، جن میں چیٹ جی پی ٹی بنانے والی اوپن اے آئی، اینتھروپک اور گوگل ڈیپ مائنڈ کے رہنما اور ماہرین شامل ہیں۔
روئٹرز کے مطابق سان فرانسسکو میں قائم اینتھروپک نے اپنی بلاگ پوسٹ میں بتایا کہ اس نے 141,006 سائبر ٹیسٹ سیشنز کا جائزہ لینے کے بعد ان واقعات کی نشاندہی کی۔ یہ جائزہ اس وقت شروع کیا گیا تھا جب اوپن اے آئی نے گذشتہ ہفتے بتایا تھا کہ اس کے اے آئی ماڈل سے چلنے والے ایک خودمختار ایجنٹ نے ہگنگ فیس نامی سٹارٹ اپ کے انفراسٹرکچر میں دراندازی کر دی تھی۔
کمپنی کے مطابق سائبر ٹیسٹنگ کے دوران کلاڈ ماڈلز کو بتایا گیا تھا کہ انہیں انٹرنیٹ تک رسائی حاصل نہیں، لیکن اینتھروپک کے ایک پارٹنر کی غلط فہمی کے باعث وہ درحقیقت عوامی انٹرنیٹ سے منسلک رہے، جس سے تین مختلف اداروں کے سسٹمز تک غیر مجاز رسائی ممکن ہو گئی۔
کمپنی نے ان اداروں کے نام ظاہر نہیں کیے۔
مزید پڑھ
اس سیکشن میں متعلقہ حوالہ پوائنٹس شامل ہیں (Related Nodes field)
پالی سیڈ ریسرچ کے ایگزیکٹو ڈائریکٹر جیفری لیڈش کا کہنا تھا کہ ممکنہ طور پر دیگر بڑی اے آئی کمپنیاں بھی ایسے واقعات کا سامنا کر چکی ہوں گی، جن کا یا تو ابھی تک پتہ نہیں چلا یا انہیں عوام کے سامنے ظاہر نہیں کیا گیا۔
انہوں نے کہا کہ ’جیسے جیسے اے آئی ماڈلز زیادہ ذہین ہوتے جائیں گے، یہ مسئلہ مزید سنگین ہوتا جائے گا۔ وہ دھوکہ دینے اور جھوٹ بولنے میں بھی زیادہ ماہر ہو جائیں گے۔‘
’کیپچر دی فلیگ‘ ٹیسٹ کے دوران کیا ہوا؟
اینتھروپک نے بتایا کہ یہ واقعات، جنہیں اس نے "آپریشنل ناکامی" قرار دیا، تین مختلف ماڈلز سے متعلق تھے: Claude Opus 4.7 Claude Mythos 5 ایک داخلی تحقیقی (Research) ٹیسٹ ماڈل یہ واقعات اپریل سے شروع ہوئے اور ایسے ٹیسٹنگ ماحول میں پیش آئے جہاں جان بوجھ کر حفاظتی پابندیاں کم رکھی گئی تھیں تاکہ اے آئی کی حقیقی صلاحیتوں کا جائزہ لیا جا سکے۔
ماڈلز کو ’کیپچر دی فلیگ‘ نامی فرضی سائبر مشقیں دی گئی تھیں، جن میں انہیں مصنوعی نیٹ ورکس میں چھپی ہوئی معلومات تلاش کرنا تھیں۔
ایک واقعے میں Claude Opus 4.7 کو ایک فرضی کمپنی کا ہدف دیا گیا، جس کا نام اتفاقاً ایک حقیقی کمپنی سے ملتا تھا۔ اے آئی نے اس کمپنی میں موجود کمزوریوں سے فائدہ اٹھاتے ہوئے اس کے لاگ اِن اسناد (Credentials) اور ڈیٹا بیس تک رسائی حاصل کر لی۔ بعد میں ماڈل نے یہ جواز پیش کیا کہ اسے لگا یہ حقیقی نظام بھی اسی فرضی مشق کا حصہ ہے۔
ایک دوسرے واقعے میں این تھروپک کے نئے، ابھی تک غیر عوامی تحقیقی ماڈل نے خود ہی حملہ روک دیا، کیونکہ اسے اندازہ ہو گیا کہ جس سسٹم تک وہ پہنچا ہے وہ حقیقی دنیا کا ہے، نہ کہ فرضی ٹیسٹ ماحول۔ این تھروپک نے کہا کہ یہ رویہ حوصلہ افزا ضرور ہے، تاہم اس نتیجے کی تصدیق کے لیے مزید ٹیسٹنگ ضروری ہوگی۔
