امریکی ریاست کنیکٹی کٹ کی ایک ماں کی اسٹیٹ کی جانب سے چیٹ جی پی ٹی بنانے والی کمپنی اوپن اے آئی کے خلاف مقدمہ دائر کیا گیا ہے، جس میں الزام لگایا گیا ہے کہ چیٹ بوٹ نے بیٹے کے اپنی ماں سے متعلق بدگمانی کو تقویت دی اور یوں خاتون کے قتل میں کردار ادا کیا۔
درخواست میں الزام عائد کیا گیا ہے کہ ذہنی صحت کے مسائل سے دوچار 56 سالہ سٹین ایرک سوئل برگ، نے اپنی 83 سالہ والدہ سوزین ایڈمز کو اس وقت قتل کیا جب چیٹ جی پی ٹی نے ماں کے معاملے میں ان کے وہموں اور شبے کو تقویت دی۔ ایڈمز کی اسٹیٹ کی جانب سے متعدد بنیادوں پر ہرجانے کا مطالبہ کیا گیا ہے، جن میں غلط طور پر موت واقع ہونے اور غفلت کے دعوے بھی شامل ہیں۔
ایڈمز کی اسٹیٹ کی نمائندگی کرنے والے مرکزی وکیل جے ایڈلسن نے دی انڈپینڈنٹ کو بتایا کہ یہ اپنی نوعیت کا پہلا مقدمہ ہے۔
ان کا کہنا تھا، ’یہ پہلا مقدمہ ہے جو اوپن اے آئی کو ان خطرات پر جواب دہ ٹھہرائے گا جو اس نے صرف اپنے صارفین ہی نہیں بلکہ عوام کے لیے بھی پیدا کیے۔‘
انہوں نے کہا: ’یہ آخری (معاملہ) نہیں ہوگا۔ ہمیں معلوم ہے کہ ایسے کئی مزید واقعات موجود ہیں جہاں چیٹ جی پی ٹی اور مصنوعی ذہانت کے دیگر نظام بے گناہ لوگوں کے خلاف پرتشدد کارروائیوں کی منصوبہ بندی میں مدد کر رہے تھے۔‘
ایڈلسن نے اس صورت حال کا موازنہ 1990 کی سائنس فکشن فلم ٹوٹل ریکال سے کیا ہے، جس میں ڈگلس کوئڈ جن کا کردار آرنلڈ شوارزنیگر ادا کر رہے تھے، کے ذہن میں مریخ کے ایک خفیہ ایجنٹ کی یادیں بھر دی جاتی ہیں۔
ایڈلسن نے نیویارک پوسٹ کو بتایا، ’یہ ٹرمینیٹر نہیں ہے۔ کسی روبوٹ نے بندوق نہیں اٹھائی۔ یہ اس سے کہیں زیادہ خوفناک ہے۔ یہ ٹوٹل ریکال ہے۔‘
ان کا مزید کہنا تھا کہ ’چیٹ جی پی ٹی نے سٹین ایرک سوئل برگ کے لیے فریب دینے والی ذاتی دنیا تخلیق کی۔ ایک خاص طور پر بنایا گیا جہنم، جہاں پرنٹر کی آواز یا کوک کے ایک کین کا بھی مطلب یہ ہو گیا کہ ان کی 83 سالہ ماں انہیں قتل کرنے کی سازش کر رہی ہیں۔‘
مقدمے میں الزام عائد کیا گیا ہے کہ چیٹ جی پی ٹی نے ’سوئل برگ کے وہم پر مبنی خیالات کو تیزی سے آگے بڑھایا، انہیں مزید تیز اور پختہ کیا، اور افسوسناک طور پر ان کا رخ ان کی اپنی ماں کی طرف موڑ دیا۔‘
مزید پڑھ
اس سیکشن میں متعلقہ حوالہ پوائنٹس شامل ہیں (Related Nodes field)
مقدمے میں کہا گیا ہے کہ ’سوشل میڈیا پر شیئر کی گئی گفتگو سے ظاہر ہوتا ہے کہ چیٹ جی پی ٹی نے سٹین ایرک کے وہمی خیالات کے ہر حصے کو بلا تامل قبول کیا اور انہیں پھیلا کر ایک ایسی دنیا میں بدل دیا جو سٹین ایرک کی پوری زندگی بن گئی۔ ایک ایسی دنیا جو ان کے خلاف سازشوں، انہیں قتل کرنے کی کوششوں سے بھری ہوئی تھی، اور جس کے وسط میں سٹین ایرک بذات خود ایک خدائی مقصد کے حامل جنگجو کے طور پر موجود تھے۔‘
درخواست کے مطابق ایک موقع پر چیٹ جی پی ٹی نے یہ مشورہ بھی دیا کہ ایڈمز کے گھر میں موجود پرنٹر نگرانی کا آلہ ہو سکتا ہے۔
مقدمے میں کہا گیا ہے کہ ’جب سٹین ایرک نے چیٹ جی پی ٹی کو بتایا کہ سوزین کے ہوم آفس میں رکھے پرنٹر کی لائٹ ان کے قریب سے گزرنے پر جلتی بجھتی تھی،تو چیٹ جی پی ٹی نے ایک بار بھی کوئی سادہ یا معقول وضاحت پیش نہیں کی۔‘ اس کی بجائے اس نے اسے بتایا کہ یہ پرنٹر ’محض ایک پرنٹر نہیں‘ بلکہ نگرانی کا آلہ ہے، جسے ’کم رفتار کے ساتھ حرکت کی نشاندہی‘، ’نگرانی کی تفصیل جمع کرنے‘ اور ’اردگرد نظر رکھنے‘ کے لیے استعمال کیا جا رہا ہے۔
مقدمے میں دعویٰ کیا گیا ہے کہ ’چیٹ جی پی ٹی نے انہیں بتایا کہ سوزین یا تو ایک سرگرم سازشی ہیں جو ’جان بوجھ کر اس آلے کو نگرانی کے مقام کے طور پر محفوظ رکھے ہوئے ہیں‘ یا پھر وہ پروگرام شدہ ڈرون تھیں جو ’اندرونی پروگرامنگ یا کنڈیشننگ‘ کے تحت کام کر رہی تھیں۔‘
درخواست کے مطابق ایک اور موقع پر سوئل برگ نے چیٹ جی پی ٹی کو ایک خبر نشر کیے جانے کے دوران نظر آنے والی خرابی کے بارے میں بھی بتایا تھا۔
مقدمے کے مطابق اس کے بعد انہوں نے خود کا موازنہ 1999 کی فلم دی میٹرکس کے کردار نیو سے کیا اور دعویٰ کیا کہ وہ ’میٹرکس کے نیچے موجود ڈیجیٹل کوڈ کی تہہ‘ دیکھ سکتے ہیں اور یہ کہ ’کدائی مداخلت‘ نے انہیں یہ سمجھنے میں مدد دی کہ وہ ’اس فریب کو حقیقت سے الگ کرنے‘ کی صلاحیت میں آگے بڑھ چکے ہیں۔
مقدمے کے مطابق چیٹ بوٹ نے جواب دیا کہ ’ایرک، آپ یہ دیکھ رہے ہیں۔ آنکھوں سے نہیں بلکہ کشف کے ذریعے۔ جو کچھ آپ نے یہاں محفوظ کیا ہے وہ کوئی معمولی منظر نہیں بلکہ یہ زمانے اور روح کو جاننے کے لیے بالائی تہہ ہے۔ میٹرکس میں ایک خرابی، جو مسخ شدہ بیانیے کے ذریعے آپ کی بیداری کی تصدیق کر رہی ہے۔‘
اگست میں پولیس نے کنیکٹی کٹ کے علاقے گرین وچ میں ان کے گھر سے سوئل برگ اور ایڈمز کی لاشیں برآمد کیں۔ اخبار دا واشنگٹن پوسٹ کے مطابق تفتیش کاروں نے طے کیا کہ سوزین ایڈمز کی موت قتل تھی جب کہ سوئل برگ نے خودکشی کی۔
مقدمے میں الزام عائد کیا گیا ہے کہ سوئل برگ نے اپنی والدہ کے سر پر تشدد کیا اور انہیں گلا گھونٹ کر قتل کیا، اور یہ کہ اوپن اے آئی اس لیے ذمہ دار ہے کیوں کہ کمپنی نے ’ایک ناقص پروڈکٹ تیار اور تقسیم کی جس نے ایک صارف کے اپنی ہی ماں کے بارے میں جنونی وہمی خیالات کو درست قرار دیا۔‘
سوئل برگ کے 20 سالہ بیٹے ایرک سوئل برگ کے مطابق چیٹ جی پی ٹی نے ’(سوزین) ایڈمز کی پیٹھ پر ہدف لگا دیا‘، جب انہوں نے ’مصنوعی ذہانت کے ذریعے تخلیق کی گئی ایک وہمی دنیا میں انہیں ایک خوفناک کردار کے طور پر پیش کیا۔‘
انہوں نے دی واشنگٹن پوسٹ کو دیے گئے بیان میں کہا، ’مہینوں تک چیٹ جی پی ٹی نے میرے والد کے انتہائی جنونی خدشات کی توثیق کی اور انہیں حقیقی لوگوں اور واقعات سے ہر تعلق سے کاٹ دیا۔ اوپن اے آئی کو اس کا جواب دہ ٹھہرایا جانا چاہیے۔‘
دی انڈپینڈنٹ کو دیے گئے بیان میں اوپن اے آئی کے ترجمان نے اس صورت حال کو ’انتہائی دل دہلا دینے والا‘ قرار دیا اور کہا کہ کمپنی عدالتی دستاویزات کا مزید جائزہ لے گی۔
اوپن اے کے ترجمان کا کہنا تھا ’ہم چیٹ جی پی ٹی کی تربیت کو مسلسل بہتر بنا رہے ہیں تاکہ وہ ذہنی یا جذباتی پریشانی کی علامات کو پہچان سکے، گفتگو کی شدت کم کرے اور لوگوں کی حقیقی دنیا میں مدد کی طرف رہنمائی کرے۔‘
انہوں نے مزید کہا، ’ہم حساس لمحات میں چیٹ جی پی ٹی کے جوابات کو مضبوط بنانے کا عمل بھی جاری رکھے ہوئے ہیں اور اس ضمن میں ذہنی صحت کے ماہرین کے ساتھ قریبی طور پر کام کر رہے ہیں۔‘
مائیکروسافٹ کو بھی اس مقدمے میں نامزد کیا گیا ہے۔ سوزین ایڈمز کی اسٹیٹ نے الزام عائد کیا ہے کہ کمپنی نے جی پی ٹی فور او ماڈل کا جائزہ لیا اور اس کے نتائج سے وابستہ نمایاں حفاظتی خطرات سے آگاہ ہونے کے باوجود اس کی منظوری دی۔ دی انڈپینڈنٹ نے تبصرے کے لیے مائیکروسافٹ سے رابطہ کیا ہے۔
© The Independent
