اوپن اے آئی نے مصنوعی ذہانت کے ’تباہ کن خطرات‘ روکنے کا کیا طریقہ نکالا؟

چیٹ جی پی ٹی بنانے والی کمپنی نے کہا کہ ’پریپیرڈنیس‘ نامی ٹیم کے مقاصد میں (مصنوعی ذہانت کے) ’تباہ کن خطرات سے بچنے کے لیے ٹریک کرنا، اندازہ لگانا، اور پیش گوئی کرنا‘ شامل ہیں۔

چار اکتوبر 2023 کو لی گئی تصویر میں ایک ٹورین کے قریب مانٹا میں ایک سمارٹ فون اور لیپ ٹاپ دکھائے گئے ہیں جن میں مصنوعی ذہانت اوپن اے آئی اور چیٹ جی پی ٹی کے لوگو دیکھے جاسکتے ہیں (اے ایف پی/ مارکو برٹوریلو)

مصنوعی ذہانت کے معروف پلیٹ فارم ’چیٹ جی پی ٹی‘ کی تخلیق کار کمپنی ’اوپن اے آئی‘ نے مصنوعی ذہانت کے ’تباہ کن خطرات‘ سے نمٹنے کے لیے ایک نیا گروپ تشکیل دیا ہے۔

کمپنی نے کہا کہ ’پریپیرڈنیس‘ نامی ٹیم کے مقاصد میں (مصنوعی ذہانت کے) ’تباہ کن خطرات سے بچنے کے لیے ٹریک کرنا، اندازہ لگانا، اور پیش گوئی کرنا‘ شامل ہیں۔

ان خطرات میں مصنوعی ذہانت کو بااثر پیغامات تیار کرنے، سائبر سکیورٹی کو خطرے میں ڈالنے اور جوہری اور دیگر قسم کے ہتھیاروں میں استعمال کرنا شامل ہے۔

یہ ٹیم ’آٹونومس ریپلیکیشن اینڈ ایڈاپشن (اے آر اے) کے خلاف بھی کام کرے گی جس کا مقصد مصنوعی ذہانت کو خود کو کاپی کرنے اور تبدیل کرنے کے قابل ہونے کی طاقت حاصل کرنے سے روکنا ہے۔

اوپن اے آئی نے اپنے بیان میں کہا: ’ہم سمجھتے ہیں کہ فرنٹیئر اے آئی ماڈلز، جس کی صلاحیت موجودہ جدید ترین ماڈلز میں موجود صلاحیتوں سے بھی زیادہ ہوں گی، پوری انسانیت کو فائدہ پہنچا سکتے ہیں لیکن اس سے شدید خطرات کے بڑھنے کا امکان بھی ہے۔‘

کمپنی نے مزید کہا کہ ان خطرناک حالات سے بچنے کا مطلب یہ ہوگا کہ لوگوں کو نئے مصنوعی ذہانت کے نظام کی خطرناک صلاحیتوں کے خلاف پیشن گوئی کرنے اور پھر ان کی حفاظت کرنے کے لیے فریم ورک بنانے کی ضرورت ہو گی اور یہ نئی ٹیم کے دیے گئے ٹاسکس میں سے ایک ہوگا۔

مزید پڑھ

اس سیکشن میں متعلقہ حوالہ پوائنٹس شامل ہیں (Related Nodes field)

اس دوران اوپن اے آئی نے ایک نئے ’پریپیرڈنیس چیلنج‘ کا آغاز بھی کیا ہے جس سے لوگوں کو ’سب سے منفرد لیکن ممکنہ طور پر ماڈل کے تباہ کن غلط استعمال‘ کے بارے میں سوچنے کی حوصلہ افزائی کی جائے گی مثال کے طور پر کسی پاور گرڈ کو بند کرنے کے لیے اس (منصوعی ذہانت) کا استعمال۔

خاص طور پر مصنوعی ذہانت کے بدنیتی پر مبنی استعمال کو روکنے کی اچھی تجاویز پیش کرنے والوں کو اوپن اے آئی کے ٹولز کو استعمال کرنے کے لیے کریڈٹس دیے جائیں گے اور کمپنی نے تجویز پیش کی کہ ان میں سے کچھ لوگوں کو کمپنی کی ٹیم میں بھی رکھا جا سکتا ہے۔ اوپن اے آئی نے کہا کہ اس ٹیم کی قیادت میسی چوسٹس انسٹی ٹیوٹ آف ٹیکنالوجی کے اے آئی ماہر الیگزینڈر میڈری کریں گے۔

اوپن اے آئی نے اگلے ہفتے برطانیہ میں ہونے والے ’آرٹیفیشل انٹیلی جنس سیفٹی سمٹ‘ میں شرکت کے لیے اپنی ٹیم کا بھی اعلان کیا ہے۔

اوپن آئی اے ان کمپنیوں میں سے ایک تھی جنہوں نے عہد کیا تھا کہ وہ مصنوعی ذہانت کے محفوظ استعمال کو یقینی بنائے گئیں۔

© The Independent

زیادہ پڑھی جانے والی ٹیکنالوجی