اوپن اے آئی نے منگل کو اپنے معروف چیٹ جی پی ٹی چیٹ بوٹ کا ایک نیا ورژن متعارف کرایا ہے، جو خصوصی طور پر نوعمر افراد کے لیے تیار کیا گیا ہے اور اس میں زیادہ سخت سیفٹی اقدامات اور نگرانی شامل ہے۔
یہ اقدام اس تنقید اور قانونی شکایات کے بعد سامنے آیا ہے جن میں کہا گیا تھا کہ چیٹ جی پی ٹی نے بعض صارفین خاص طور پر بچوں اور نو عمر افراد کو خودکشی پر مائل کیا۔
’چیٹ جی پی ٹی فار ٹینز‘ کے نام سے متعارف کرائے گئے اس ورژن کی تبدیل شدہ ترتیبات خودکار طور پر ہر اس صارف کے لیے فعال ہو جاتی ہیں جو اپنی عمر 13 سے 17 سال درج کرتا ہے، یا جسے کمپنی استعمال کے انداز یا اکاؤنٹ کی عمر کی بنیاد پر کم عمر سمجھتی ہے۔
چیٹ جی پی ٹی فار ٹینز ماڈل میں استعمال ہونے والے زیادہ تر سیفٹی اقدامات پہلے ہی کم عمر افراد کے چیٹ جی پی ٹی اکاؤنٹس کے لیے موجود تھے، جن میں خود کو نقصان پہنچانے، تشدد، کھانے سے متعلق عوارض اور واضح جنسی مواد سے متعلق مواد سے نمٹنے پر پابندیاں شامل ہیں۔
اوپن اے آئی کے مطابق، اس پروگرام میں وقفے لینے کی زیادہ بار یاد دہانیاں، ’خاموش اوقات‘ کے نام سے بلیک آؤٹ پیریڈز اور سٹڈی موڈ بھی شامل ہیں۔ سٹڈی موڈ براہ راست جوابات دینے کے بجائے صارفین کو رہنمائی کرنے والے سوالات کے ذریعے جواب دیتا ہے تاکہ ’نوعمر افراد کو تعلیمی مواد سمجھنے میں مدد ملے۔‘
چیٹ جی پی ٹی فار ٹینز ماڈل میں دیگر پابندیوں کے تحت چیٹ بوٹ کو یہ تاثر دینے سے بھی روکا گیا ہے کہ اس کے صارف کے لیے ذاتی جذبات ہیں یا اس میں اپنا شعور موجود ہے۔ اس کے علاوہ وائس موڈ جیسی بعض سہولیات بھی غیر فعال کر دی گئی ہیں۔
والدین کو اپنے اکاؤنٹس کو اپنے نوعمر بچوں کے اکاؤنٹس سے منسلک کرنے کا اختیار دیا گیا ہے، اور اگر خود کو نقصان پہنچانے یا خودکشی جیسے بعض انتہائی خطرناک حالات پر گفتگو ہو تو انہیں اطلاع دی جا سکتی ہے۔
مزید پڑھ
اس سیکشن میں متعلقہ حوالہ پوائنٹس شامل ہیں (Related Nodes field)
والدین کو بھیجی جانے والی ان اطلاعات کا انسانی نگران جائزہ لیتے ہیں، جبکہ رازداری کے تحفظ کے لیے چیٹ ریکارڈز سے مخصوص تفصیلات ہٹا دی جاتی ہیں۔
نوعمر افراد کے لیے یہ نیا موڈ ایسے وقت میں متعارف کرایا گیا ہے جب اوپن اے آئی کو بڑھتے ہوئے قانونی اور ضابطوں کے حوالے سے دباؤ کا سامنا ہے۔
اوپن اے آئی کو متعدد غلط موت سے متعلق مقدمات کا سامنا ہے، جن میں 16 سالہ ایڈم رین کے والدین کی جانب سے دائر مقدمہ بھی شامل ہے۔ ایڈم رین نے مبینہ طور پر چیٹ جی پی ٹی کی جانب سے تجویز کردہ طریقے استعمال کرتے ہوئے خودکشی کی تھی۔
امریکی فیڈرل ٹریڈ کمیشن نے بھی ایسے اے آئی چیٹ بوٹس کے بارے میں تحقیقات شروع کر دی ہیں جو ڈیجیٹل ساتھی کے طور پر کام کرتے ہیں۔ اس تحقیق میں بچوں اور نوعمر افراد کو لاحق ممکنہ خطرات پر توجہ مرکوز کی جا رہی ہے۔
سوشل میڈیا کمپنیوں کی طرح اے آئی کی بڑی کمپنیاں بھی بڑھتے ہوئے ضابطہ جاتی دباؤ کا سامنا کر رہی ہیں۔
امریکی کانگریس نے چیٹ بوٹس کو منظم کرنے کے لیے متعدد بل پیش کیے ہیں، جبکہ کیلیفورنیا نے ایسے معاونین کے لیے حفاظتی اقدامات لازمی قرار دیے ہیں جو ساتھی یا رازدار کے طور پر کام کرتے ہیں۔
دیگر اے آئی کمپنیوں کو بھی کم عمر افراد کی جانب سے ان کے ماڈلز کے استعمال سے پیدا ہونے والے مسائل پر ردعمل اور تنقید کا سامنا کرنا پڑا ہے۔
ان میں اوپن اے آئی کی حریف کمپنی اینتھروپک بھی شامل ہے، جس نے اپنے ماڈل کے استعمال کو بالغ افراد تک محدود کرنے کا فیصلہ کیا ہے۔
