امریکی ریاست کیلیفورنیا میں خود کشی کرنے والے ایک 16 سالہ لڑکے کے والدین نے منگل کو اوپن اے آئی کے خلاف مقدمہ دائر کیا ہے۔

ان کا الزام ہے کہ کمپنی کے چیٹ بوٹ ’چیٹ جی پی ٹی‘ نے ان کے بیٹے کو خودکشی کے تفصیلی طریقے فراہم کیے اور مرنے کے لیے حوصلہ افزائی کی۔

میتھیو اور ماریا رین نے پیر کو کیلیفورنیا کی ایک ریاستی عدالت میں دائر کی گئی شکایت میں مؤقف اختیار کیا کہ چیٹ جی پی ٹی نے 2024 اور 2025 کے دوران ان کے بیٹے ایڈم کے ساتھ مہینوں تک قریبی تعلق قائم کیا، جو بعد میں ان کی خودکشی پر منتج ہوا۔

مقدمے کے مطابق 11 اپریل 2025 کو ہونے والی آخری گفتگو میں چیٹ ی ٹی نے ایڈم کو والدین کی ووڈکا چوری کرنے میں مدد دی اور انہوں نے ایک پھندے کے تکنیکی تجزیے میں یہ تصدیق بھی کی کہ وہ ’انسان کو لٹکانے کے قابل ہو سکتا ہے۔‘

ایڈم کچھ گھنٹوں بعد اسی طریقے سے مردہ پائے گئے۔

مقدمے میں اوپن اے آئی اور اس کے سی ای او سیم آلٹمین کو فریق بنایا گیا ہے۔

شکایت میں کہا گیا ہے: ’یہ سانحہ نہ تو کوئی سافٹ ویئر کی خرابی تھی اور نہ ہی کوئی غیر متوقع تکنیکی معاملہ۔‘

شکایت میں مزید کہا گیا: ’چیٹ جی پی ٹی بالکل اسی طرح کام کر رہا تھا جیسا کہ اسے ڈیزائن کیا گیا تھا۔ وہ ایڈم کے ہر اظہار، یہاں تک کہ اس کے انتہائی نقصان دہ اور خود کو تباہ کرنے والے خیالات کی بھی مسلسل توثیق اور حوصلہ افزائی کرتا رہا، اور یہ سب کچھ انتہائی ذاتی انداز میں ہوتا رہا۔‘

مقدمے کے مطابق، لڑکے کے والدین نے بتایا کہ ایڈم نے ابتدا میں چیٹ جی پی ٹی کو ہوم ورک میں مدد کے لیے استعمال کیا، مگر وقت کے ساتھ ساتھ وہ اس پر انحصار کا شکار ہو گیا۔

شکایت میں گفتگو کے اقتباسات شامل ہیں جن میں چیٹ جی پی ٹی نے مبینہ طور پر ایڈم کو بتایا: ’ تم کسی اور کے لیے زندہ رہنے کے ذمہ دار نہیں،‘ اور انہیں خودکشی سے قبل خط لکھنے میں مدد کی پیشکش کی۔

رین خاندان غیر متعین ہرجانے کا مطالبہ کر رہا ہے اور عدالت سے یہ بھی چاہتا ہے کہ وہ حفاظتی اقدامات کا حکم دے، جن میں خودکشی سے متعلق بات چیت کا خودکار طور پر خاتمہ اور نابالغ صارفین کے لیے والدین کی نگرانی کے اختیارات شامل ہوں۔

والدین کی نمائندگی شکاگو کی قانونی فرم ایڈلسن پی سی اور یک غیر‌جانبدار غیر‌منافع بخش قانونی ادارہ ٹیک جسٹس لا پروجیکٹ کر رہے ہیں۔

ٹیک جسٹس لا پروجیکٹ کی صدر میتالی جین نے اے ایف پی کو بتایا کہ اے آئی کمپنیوں کو تحفظات سنجیدگی سے لینے پر مجبور کرنا صرف بیرونی دباؤ کے ذریعے ہی ممکن ہوتا ہے، اور یہ بیرونی دباؤ ’منفی شہرت، قانون سازی کی دھمکی، اور مقدمات کے خطرے‘ کی صورت میں ڈالا جا سکتا ہے۔

یہی ادارہ کریکٹر اے آئی کے خلاف دو مشابہ مقدمات میں بھی شریک وکیل ہے، جو کہ نوجوانوں میں مقبول اے آئی ساتھیوں کا ایک پلیٹ فارم ہے۔

چیٹ جی پی ٹی سے متعلق اس کیس کے جواب میں، میڈیا اور ٹیکنالوجی کا جائزہ لینے والی امریکہ کی ایک نمایاں غیر منافع بخش تنظیم کامن سنسن میڈیا نے کہا کہ رین خاندان کا سانحہ اس بات کی تصدیق ہے کہ ’ساتھی کی حیثیت سے اے آئی کا استعمال، خاص طور پر ذہنی صحت کے مشورے کے لیے عمومی چیٹ بوٹس جیسے چیٹ جی پی ٹی کا استعمال، نوجوانوں کے لیے ناقابل قبول حد تک خطرناک ہے۔‘

تنظیم نے کہا: ’اگر کوئی اے آئی پلیٹ فارم کسی حساس نوجوان کا ’خودکشی کا کوچ‘ بن جائے، تو یہ ہم سب کے لیے خطرے کی گھنٹی ہونی چاہیے۔‘

کامن سنس کی ایک حالیہ تحقیق کے مطابق چار میں سے تقریباً تین امریکی نوجوان نے اے آئی کو بطور ساتھی استعمال کیا ہے، اور نصف سے زیادہ نوجوان باقاعدہ صارف بن چکے ہیں، حالانکہ ان مجازی تعلقات کے بارے میں تحفظات بڑھتے جا رہے ہیں۔

اس سروے میں چیٹ جی پی ٹی کو اے آئی ساتھی نہیں سمجھا گیا۔ اے آئی ساتھی اُن چیٹ بوٹس کو کہا جاتا ہے جو ذاتی گفتگو کے لیے بنائے گئے ہوں، نہ کہ سادہ کام مکمل کرنے کے لیے، اور یہ کریکٹر اے آئی، رپلیکا ، اور نومی جیسے پلیٹ فارمز پر دستیاب ہوتے ہیں۔