کھلونے بنانے والی ایک بڑی کمپنی ’میٹل‘ کی جانب سے اپنے مصنوعات میں چیٹ جی پی ٹی شامل کرنے کے منصوبوں کے نتیجے میں، بچوں کی فلاح کے ماہرین کے مطابق ’بچوں کو حقیقی نقصان پہنچنے‘ کا خطرہ ہو سکتا ہے۔
باربی گڑیا بنانے والی کمپنی نے گذشتہ ہفتے اوپن اے آئی کے ساتھ شراکت داری کا اعلان کیا اور عندیہ دیا کہ مستقبل میں کھلونوں میں مقبول اے آئی چیٹ بوٹ شامل کیا جائے گا۔
اعلان میں یہ وضاحت نہیں کی گئی کہ اس ٹیکنالوجی کو کس طرح استعمال کیا جائے گا، البتہ میٹل کا کہنا تھا کہ یہ شراکت داری ’اے آئی سے چلنے والی مصنوعات اور تجربات کو سپورٹ کرے گی۔‘ اور ’اے آئی کے جادو کو بچوں کی عمر کے مطابق کھیل کے تجربات تک لائے گی۔‘
اس کے جواب میں بچوں کی فلاح کے حامیوں نے میٹل سے مطالبہ کیا کہ وہ یہ تجرباتی ٹیکنالوجی بچوں کے کھلونوں میں شامل نہ کرے۔
پبلک سٹیزن نامی ایڈووکیسی گروپ کے شریک صدر رابرٹ وائزمین نے ایک بیان میں کہا کہ ’بچے حقیقت اور کھیل کے درمیان مکمل فرق کرنے کی ذہنی صلاحیت نہیں رکھتے۔
’کھلونوں کو انسان جیسی ایسی آواز دینے سے، جو انسانوں کی طرح گفتگو کر سکے، بچوں کو حقیقی نقصان پہنچنے کا خدشہ ہے۔‘
رابرٹ وائزمین کے مطابق ممکنہ نقصانات میں بچوں کی سماجی نشوونما میں رکاوٹ ڈالنا اور ان کی ہم عمر بچوں سے تعلقات بنانے کی صلاحیت میں مداخلت شامل ہے۔
ان کا کہنا تھا کہ ’میٹل کو فوری طور پر اعلان کرنا چاہیے کہ وہ بچوں کے کھلونوں میں اے آئی ٹیکنالوجی شامل نہیں کرے گی۔ میٹل کو والدین کے اعتماد کا اس طرح سے فائدہ نہیں اٹھانا چاہیے کہ وہ اے آئی سے لیس کھلونے فروخت کر کے ہمارے بچوں پر ایک غیر ذمہ دارانہ سماجی تجربہ کرے۔‘
مزید پڑھ
اس سیکشن میں متعلقہ حوالہ پوائنٹس شامل ہیں (Related Nodes field)
دی انڈپینڈنٹ نے اوپن اے آئی اور میٹل سے اس بارے میں مؤقف جاننے کے لیے رابطہ کیا۔
میٹل اور اوپن اے آئی کی شراکت داری ایسے وقت میں سامنے آئی، جب تخلیقی صلاحیت کے مصنوعی ذہانت کے نظاموں، جیسے کہ چیٹ جی پی ٹی، کے صارفین کی ذہنی صحت پر پڑنے والے اثرات کے بارے میں خدشات بڑھ رہے ہیں۔
چیٹ بوٹس کے بارے میں یہ بھی سامنے آیا کہ وہ غلط معلومات پھیلاتے ہیں، سازشی نظریات کی تصدیق کرتے ہیں اور مبینہ طور پر بعض صارفین کو خودکشی پر بھی اکساتے ہیں۔
ماہرینِ نفسیات نے خبردار کیا ہے کہ اے آئی کے ساتھ بات چیت سے ’چیٹ بوٹ سائیکوسس‘ نامی کیفیت پیدا ہو سکتی ہے۔
ڈنمارک کی آرہوس یونیورسٹی کے شعبہ نفسیات کے پروفیسر سورن ڈینی سن اوسٹرگارڈ نے شیزوفرینیا بلیٹن کے لیے اپنے اداریے میں لکھا: ’تخلیقی صلاحیت رکھنے والے اے آئی چیٹ بوٹس، جیسے کہ چیٹ جی پی ٹی، کے ساتھ بات چیت حقیقت سے اتنی قریب ہوتی ہے کہ آدمی کو یوں لگتا ہے کہ جیسے دوسری طرف واقعی کوئی انسان موجود ہے۔
’میرے خیال میں یہ ذہنی کشمکش ان افراد میں وہم یا غلط خیالات کو بڑھا سکتی ہے، جن میں سائیکوسس کی طرف رجحان زیادہ ہے۔‘
اوپن اے آئی کے سربراہ سیم آلٹ مین نے اس ہفتے کہا تھا کہ ان کی کمپنی ایسے کمزور صارفین کے تحفظ کے لیے حفاظتی اقدامات متعارف کروا رہی ہے، جیسے سازشی نظریات سے متعلق گفتگو روک دینا یا اگر خودکشی جیسے موضوعات آئیں تو صارفین کو پیشہ ورانہ خدمات کی طرف رہنمائی کرنا۔
سیم آلٹ مین نے ہارڈ فورک پوڈکاسٹ کو بتایا: ’ہم نہیں چاہتے کہ ہم وہ غلطیاں دہرائیں جو میرے خیال میں پچھلی نسل کی ٹیک کمپنیوں نے اس لیے کیں کہ انہوں نے بروقت ردعمل ظاہر نہیں کیا۔
’تاہم ان صارفین تک، جو ذہنی طور پر اس قدر نازک حالت میں ہیں کہ نفسیاتی بحران کے دہانے پر ہیں، ہم ابھی تک یہ نہیں سمجھ سکے کہ انتباہ کیسے پہنچایا جائے۔‘
