ملائیشیا اور انڈونیشیا ایلون مسک کی کمپنی xAI کے تیار کردہ مصنوعی ذہانت پر مبنی چیٹ باٹ Grok کو بلاک کرنے والے پہلے ممالک بن گئے ہیں۔
حکام کا کہنا ہے کہ اس ٹول کا غلط استعمال کرکے غیر رضامندی کے خواتین کی فحش تصاویر بنائی جا رہی تھیں۔
یہ اقدامات اس عالمی تشویش کی عکاسی کرتے ہیں جو جنریٹیو اے آئی ٹولز کے حوالے سے بڑھ رہی ہے۔
ایسے ٹولز جو انتہائی حقیقی نظر آنے والی تصاویر، آواز اور متن پیدا کر سکتے ہیں لیکن موجودہ حفاظتی اقدامات ان کے غلط استعمال کو روکنے میں ناکام رہے ہیں۔
Grok چیٹ باٹ کو، جس تک رسائی مسک کے سوشل میڈیا پلیٹ فارم ایکس کے ذریعے حاصل کی جاتی ہے، اس بات پر تنقید کا سامنا ہے کہ یہ تصاویر بناتا ہے، جن میں زیر جامہ پہنی خواتین یا جنسی طور پر واضح انداز میں موجود خواتین کی تصاویر شامل ہیں، حتیٰ کہ بچوں سے متعلق مواد بھی پیدا ہوتا رہا ہے۔
دونوں ممالک کے ریگولیٹرز کا کہنا ہے کہ موجودہ کنٹرولز خواتین اور کم عمر افراد سے متعلق جعلی فحش مواد کی تخلیق اور پھیلاؤ کو روکنے میں ناکافی ثابت ہو رہے ہیں۔
انڈونیشیا کی حکومت نے ہفتے کو عارضی طور پر Grok تک رسائی روک دی، جس کے بعد اتوار کو ملائیشیا نے بھی یہی اقدام کیا۔
انڈونیشیا کی وزیر برائے کمیونیکیشن اینڈ ڈیجیٹل افیئرز میوٹیا حافظ نے ہفتے کو جاری ایک بیان میں کہا ’حکومت غیر رضامندی پر مبنی جنسی ڈیپ فیکس کو انسانی حقوق، عزت نفس اور شہریوں کی ڈیجیٹل دنیا میں سلامتی کی سنگین خلاف ورزی سمجھتی ہے۔‘
وزارت نے کہا کہ یہ اقدام خواتین، بچوں اور وسیع تر برادری کو اے آئی کے ذریعے تیار کردہ جعلی فحش مواد سے بچانے کے لیے کیا گیا ہے۔
ڈائریکٹر جنرل برائے ڈیجیٹل سپیس سپروژن الیگزینڈر سابر نے ایک علیحدہ بیان میں کہا کہ ابتدائی تحقیق سے معلوم ہوا کہ Grok میں مؤثر حفاظتی اقدامات موجود نہیں، جن کے ذریعے صارفین کو انڈونیشی باشندوں کی اصل تصاویر پر مبنی فحش مواد بنانے یا پھیلانے سے روکا جا سکے۔
انہوں نے کہا کہ اس طرح کی سرگرمیاں لوگوں کی پرائیویسی اور امیج رائٹس کی خلاف ورزی کا باعث بنتی ہیں اور بغیر رضامندی کے تصاویر میں ردوبدل یا شیئر کیے جانے سے نفسیاتی، سماجی اور شہرت کو نقصان پہنچ سکتا ہے۔
کوالالمپور میں ملائیشین کمیونیکیشنز اینڈ ملٹی میڈیا کمیشن نے اتوار کو Grok پر یہ کہہ کر عارضی پابندی عائد کی کہ اس ٹول کا ’بار بار غلط استعمال‘ کیا جا رہا تھا تاکہ فحش، جنسی طور پر واضح اور غیر رضامندی پر مبنی تصاویر بنائی جا سکیں، جن میں خواتین اور کم عمر افراد کی تصاویر بھی شامل تھیں۔
ریگولیٹر نے کہا کہ اس ماہ X کارپ اور xAI کو جاری کیے گئے نوٹسز میں زیادہ مؤثر حفاظتی اقدامات کا مطالبہ کیا گیا تھا، مگر کمپنیوں کے جوابات زیادہ تر صارفین کی جانب سے رپورٹنگ پر انحصار کرتے تھے۔
مزید پڑھ
اس سیکشن میں متعلقہ حوالہ پوائنٹس شامل ہیں (Related Nodes field)
بیان میں کہا گیا ’یہ پابندی ایک حفاظتی اور متناسب اقدام کے طور پر عائد کی گئی ہے جب کہ قانونی اور ریگولیٹری کارروائیاں جاری ہیں۔‘
اور یہ بھی کہ رسائی اسی وقت بحال کی جائے گی جب مؤثر حفاظتی نظام نافذ کر دیا جائے۔
2023 میں لانچ ہونے والا Grok ایکس پر مفت دستیاب ہے۔ صارفین پلیٹ فارم پر اس سے سوال کر سکتے ہیں اور اپنی بنائی پوسٹس یا دوسروں کے پوسٹس کے جوابات کو ٹیگ کر سکتے ہیں۔
گذشتہ سال کمپنی نے ایک امیج جنریٹر فیچر Grok Imagine شامل کیا تھا، جس میں ’سپائسی موڈ‘ موجود تھا جو فحش مواد تیار کر سکتا تھا۔
جنوب مشرقی ایشیائی ممالک کی پابندیوں کے ساتھ ساتھ دنیا کے دیگر خطوں یورپی یونین، برطانیہ، انڈیا اور فرانس میں بھی Grok پر نگرانی بڑھ رہی ہے۔
گذشتہ ہفتے Grok نے جنسی نوعیت کے ڈیپ فیکس پر عالمی ردعمل کے بعد امیج جنریشن اور ایڈیٹنگ کو صرف ادائیگی کرنے والے صارفین تک محدود کر دیا لیکن ناقدین کا کہنا ہے کہ اس اقدام سے مسئلہ مکمل طور پر حل نہیں ہوا۔
