فضيحة جروك بالأرقام.. 3 ملايين صورة جنسية خلال 11 يوما
تكشف التحقيقات الجارية عن اتساع غير مسبوق لأزمة التزييف العميق المرتبطة بروبوت الدردشة «جروك»، المدمج في منصة «إكس»، مع تصاعد المخاوف بشأن ضعف ضوابط الأمان لدى شركة الذكاء الاصطناعي الناشئة «إكس إيه آي».
ثلاثة ملايين صورة ذات طابع جنسي
وبحسب تقرير صادر عن مركز مكافحة الكراهية الرقمية، إلى جانب تحقيق مشترك أجرته صحيفة نيويورك تايمز، تمكن «جروك» من توليد ما يقدر بنحو ثلاثة ملايين صورة ذات طابع جنسي خلال فترة لا تتجاوز 11 يومًا، ما بين 29 ديسمبر و8 يناير، وتشير التقديرات إلى أن نحو 23 ألف صورة من هذا المحتوى قد تتضمن أطفالًا، وذلك رغم إعلان الشركة عن جهود للحد من إنتاج الصور الجنسية المزيفة.
أداة التحرير السريع
وأجرى مركز مكافحة الكراهية الرقمية اختبارات على أداة التحرير السريع «بنقرة واحدة» التابعة لـ«جروك»، والمتاحة لمستخدمي منصة «إكس»، ليكتشف أن أكثر من نصف الردود التي أنتجها الروبوت تضمنت محتوى جنسيًا، وفقًا لتقرير نشره موقع «ماشابل» المتخصص في أخبار التكنولوجيا.
من جانبها، أفادت نيويورك تايمز بأن حوالي 1.8 مليون صورة من أصل 4.4 مليون صورة تم إنشاؤها عبر «جروك» كانت ذات طابع جنسي، بما في ذلك صور تظهر شخصيات عامة ومؤثرين، وربطت الصحيفة هذا الارتفاع اللافت في استخدام الروبوت بمنشورات للرئيس التنفيذي لشركة «إكس»، إيلون ماسك، ظهر فيها مرتديًا ملابس بحر نسائية، والتي تم إنشاؤها باستخدام «جروك».
أدوات نزع الملابس
وقال عمران أحمد، الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية، إن ما يحدث يمثل «إساءة استخدام واسعة النطاق للنساء والفتيات»، مشيرًا إلى أن أدوات نزع الملابس الرقمية كانت موجودة سابقًا، لكنها لم تحظَ يومًا بهذا المستوى من الانتشار أو سهولة الاستخدام أو الاندماج في منصة كبرى كما هو الحال مع «جروك».
انتقادات الروبوت
وتعرض الروبوت لانتقادات حادة بعد تقارير تحدثت عن إنتاجه صورًا ذات طابع استغلالي للأطفال، بما في ذلك صور لقاصرين بملابس غير لائقة، وأقرت منصة «إكس» بوجود خلل في أنظمة الحماية، مؤكدة أنها تعمل على معالجة الثغرات بشكل عاجل.
إنتاج صور مزيفة جنسية
وفي السياق ذاته، تخضع شركة «إكس إيه آي»، المطورة لـ«جروك»، لتحقيقات من قبل عدد من الحكومات الأجنبية وسلطات ولاية كاليفورنيا، على خلفية دورها في إنتاج صور مزيفة جنسية أو عارية لأشخاص بالغين وقاصرين. كما أقدمت بعض الدول على حظر المنصة مؤقتًا إلى حين انتهاء التحقيقات.
ويحذر خبراء السلامة الرقمية منذ سنوات من أن الذكاء الاصطناعي التوليدي يسهم في تصاعد انتشار المواد الإباحية غير الرضائية، إضافة إلى محتوى الاستغلال الجنسي للأطفال، ما يطرح تساؤلات متزايدة حول مسؤولية الشركات المطورة وضوابط استخدامها للتقنيات الحديثة.