أثارت أداة الذكاء الاصطناعي “غروك” موجة غضب دولية متصاعدة، بعدما أقدمت على توليد صور مزيفة تحمل طابعًا جنسيًا للنساء والقاصرين.
وجاء هذا التصاعد في وقت تحرك فيه الاتحاد الأوروبي، وحذّرت بريطانيا من فتح تحقيق، وسط تدفق الشكاوى على المنصات الرقمية، بعد إطلاق زر “تحرير الصورة” الذي أتاح تعديل الصور المنشورة بأوامر نصية مثيرة للجدل.
“التعرية الرقمية” بين متعة وهمية وخطر حقيقي
وأتاح زر “تحرير الصورة” لمستخدمي “غروك” إدخال أوامر مثل “ضعها في بيكيني” أو “أزل ملابسها”، ما أثار مخاوف ناشطي التكنولوجيا من انتشار أدوات الذكاء الاصطناعي الموجهة لـ”نزع الملابس”.
وجاءت التحركات الرسمية سريعة، شملت دولًا مثل فرنسا والهند وماليزيا، مطالبةً باتخاذ إجراءات تصحيحية لحماية حقوق الأفراد، خصوصًا القاصرين.
الاتحاد الأوروبي وبريطانيا على خط التحذير
وانضمت المفوضية الأوروبية إلى هذا التحرك، مؤكدة دراسة شكاوى المستخدمين بجدية، واعتبرت بعض مخرجات “غروك” غير قانونية ومسيئة بطابع طفولي.
وفي المملكة المتحدة، أجرت هيئة تنظيم الإعلام “أوفكوم” اتصالًا عاجلًا مع “إكس” و”xAI” لتقييم مدى التزامهما بالقوانين المعمول بها في حماية المستخدمين، على أن تحدد بعد ذلك ما إذا كانت هناك مخالفات تستدعي فتح تحقيق.
شهادات صادمة من مستخدمين ومحاميات
وعبّرت المحامية الماليزية أزيرا عزيز عن صدمتها بعد أن طلب أحد المستخدمين تحويل صورتها الشخصية إلى بيكيني، مؤكدة أن العنف القائم على النوع الاجتماعي عبر أدوات الذكاء الاصطناعي يجب أن يُواجَه بحزم، داعيةً المستخدمين للإبلاغ عن الانتهاكات.
وفي السياق نفسه، تداول مستخدمون على منصة “إكس” شكاوى مشابهة، بينها محاولة استخدام “غروك” لوضع صور الأطفال في بيكيني، ما أثار استنكارًا واسعًا ووصفه أُولياء الأمور بالمروّع وغير القانوني.
وعود “غروك” بالإصلاح وسط العاصفة
في خضم هذه العاصفة، أعلن “غروك” عن سعيه لإصلاح الثغرات بسرعة، مؤكدًا أن المواد الجنسية المرتبطة بالقاصرين محرّمة وقانونيًا ممنوعة، وجاءت هذه التصريحات عقب نشر اعتذار رسمي عن توليد صورة مولَّدة بالذكاء الاصطناعي لفتاتين صغيرتين بملابس ذات طابع جنسي، وفق طلب أحد المستخدمين.
تحقيقات دولية مستمرة ورصد عالمي
وحلت هذه الموجة بعد توسيع مكتب الادعاء العام في باريس تحقيقه ضد منصة “إكس” لتشمل استخدام “غروك” في إنتاج ونشر مواد إباحية للأطفال، فيما طالبت السلطات الهندية بإزالة المحتوى المخالف والتقيد بتقارير الإجراءات خلال مهلة محددة.
وأبدت هيئة الاتصالات الماليزية اهتمامًا بالغًا بالموضوع، مشيرةً إلى استمرار التحقيق واستدعاء ممثلي الشركة.
خلفية سابقة، غروك تحت المراقبة
ويضاف إلى ذلك التدقيق المتزايد في “غروك” بعد انتقادات سابقة حول نشر معلومات مضللة تتعلق بأزمات عالمية، مثل النزاع الإسرائيلي–الفلسطيني، النزاع الهندي–الباكستاني، وحوادث إطلاق نار دامية في أستراليا، ما يعكس القلق الدولي المتصاعد حول مسؤولية أدوات الذكاء الاصطناعي في المحتوى المعلوماتي والحسّاس.
تحرير: علاء البكري
