اقوام متحدہ کی بچوں سے متعلق ایجنسی (یونیسیف) نے بدھ کو پاکستان سمیت دنیا میں بچوں کی واضح جنسی تصاویر بنانے کے لیے مصنوعی ذہانت کے استعمال میں تیزی سے اضافے پر روشنی ڈالتے ہوئے متنبہ کیا ہے کہ ڈیپ فیکس کی وجہ سے متاثر ہونے والے نوجوان کو حقیقی نقصان پہنچ رہا ہے۔
پاکستان سمیت گیارہ ممالک میں یونیسیف کی زیرقیادت تحقیقات کے مطابق، کم از کم 12 لاکھ بچوں نے کہا کہ ان کی تصاویر کو واضح جنسی ڈیپ فیکس میں تبدیل کیا گیا۔ کچھ ممالک میں یہ شرح 25 طلبہ کے ’ایک عام کلاس روم میں ایک بچے‘ کے برابر رہی۔
دنیا کے جن دوسرے ممالک میں یہ سٹڈی کی گئی ان میں آرمینیا، برازیل، کولمبیا، ڈومینیکن ریپبلک، میکسیکو، مونٹی نیگرو، مراکش، شمالی مقدونیہ، سربیا اور تیونس شامل تھے۔
نتائج نے ’نوڈیفیکیشن‘ ٹولز کے استعمال کا ذکر کیا۔ یہ ایسے ٹولز ہیں جو جنسی تصاویر بنانے کے لیے لباس کو تبدیل کرتے یا مکمل طور پر ہٹا دیتے ہیں۔
یونیسیف نے ایک بیان میں کہا، ’ہمیں بہت واضح ہونا چاہیے۔ اے آئی ٹولز کا استعمال کرتے ہوئے بچوں کی جنسی تصویریں بنائی گئی ہیں یا ان سے ہیرا پھیری کی گئی ہیں، یہ بچوں کے جنسی استحصال کا مواد ہے۔
’ڈیپ فیک کا غلط استعمال زیادتی ہے اور اس سے ہونے والے نقصان کے بارے میں کچھ بھی جعلی نہیں ہے۔‘
ایجنسی نے مناسب حفاظتی اقدامات کا خیال رکھے بغیر اے آئی ٹولز بنانے والوں کو تنقید کا نشانہ بنایا۔
یونیسیف نے کہا کہ ’خطرات اس وقت بڑھ سکتے ہیں جب تخلیقی اے آئی ٹولز کو براہ راست سوشل میڈیا پلیٹ فارمز پر پوسٹ کیا جاتا ہے، جہاں بگاڑی گئی تصاویر تیزی سے پھیلتی ہیں۔‘
ایلون مسک کی اے آئی چیٹ بوٹ گروک کو متعدد ممالک میں پابندیوں اور تحقیقات کا نشانہ بنایا گیا ہے جس نے صارفین کو سادہ ٹیکسٹ پرامپٹس کا استعمال کرتے ہوئے خواتین اور بچوں کی جنسی تصاویر بنانے اور شیئر کرنے کی اجازت دی ہے۔
مزید پڑھ
اس سیکشن میں متعلقہ حوالہ پوائنٹس شامل ہیں (Related Nodes field)
یونیسیف کے مطالعے سے معلوم ہوا ہے کہ بچے ڈیپ فیکس کے بارے میں تیزی سے آگاہ ہو رہے ہیں۔
ایجنسی نے کہا کہ ’مطالعہ کرنے والے کچھ ممالک میں دو تہائی تک بچوں نے کہا کہ انہیں خدشہ ہے کہ جعلی جنسی تصاویر یا ویڈیوز بنانے کے لیے اے آئی کا استعمال کیا جا سکتا ہے۔ تشویش کی سطح ممالک کے درمیان وسیع پیمانے پر مختلف ہوتی ہے، جو مضبوط بیداری، روک تھام اور تحفظ کے اقدامات کی فوری ضرورت پر زور دیتے ہیں۔‘
یونیسیف نے اے آئی چیٹ بوٹس کے لیے ’مضبوط گارڈریلز‘ (حفاظتی اقدامات) کے علاوہ ڈیپ فیکس کی گردش کو روکنے کے لیے ڈیجیٹل کمپنیوں کے اقدامات پر زور دیا، نا کہ صرف ان کی طرف سے پہلے سے شیئر کی جانے والی گستاخانہ تصاویر کا ہٹایا جانا۔
اس میں کہا گیا ہے کہ تمام ممالک میں بچوں کے جنسی استحصال کے مواد کی تعریف کو وسعت دینے کے لیے قانون سازی کی بھی ضرورت ہے تاکہ اے آئی سے تیار کردہ امیجری کو شامل کیا جا سکے۔
