إندونيسيا تحظر مؤقتا روبوت الدردشة «جروك» لمواجهة المحتوى الجنسي المزيف

أعلنت إندونيسيا اليوم السبت عن حظر مؤقت على روبوت الدردشة "جروك"، التابع لإيلون ماسك، بعد المخاطر المرتبطة بإمكانية استخدامه لإنشاء محتوى جنسي عبر الذكاء الاصطناعي، لتصبح بذلك أول دولة تتخذ هذه الخطوة ضد الأداة.

انتقادات وتحركات من هيئات تنظيمية

وجاء القرار بعد انتقادات وتحركات من هيئات تنظيمية وحكومات في أوروبا وآسيا بشأن تداول محتوى جنسي عبر التطبيق، حيث فتحت بعض الجهات تحقيقات بهذا الشأن، وفقًا لما نقلته وكالة "رويترز".

بدورها، قالت شركة "إكس إيه آي"، المطورة لـ"جروك"، إنها ستقصر وظيفة إنشاء وتعديل الصور على المشتركين الذين يدفعون رسومًا، في محاولة لسد الثغرات التي كانت تسمح بإنتاج محتوى جنسي، بما في ذلك صور لأطفال بملابس فاضحة.

 إنتاج محتوى جنسي مزيف

وأوضحت وزيرة الاتصالات الإندونيسية، ميوتيا حفيظ، أن إنتاج محتوى جنسي مزيف دون موافقة يعد انتهاكًا خطيرًا لحقوق الإنسان وكرامة المواطنين وأمنهم في الفضاء الرقمي، مشيرة إلى أن الوزارة استدعت مسؤولي منصة "إكس" لمناقشة هذه التطورات.

من جهته، أكد إيلون ماسك عبر منصة "إكس" أن أي شخص يستخدم "جروك" لإنشاء محتوى غير قانوني سيواجه نفس العقوبات المترتبة على نشر محتوى غير قانوني.

اقرأ أيضا

ماسك يختبر "جروك" طبيًا.. هل ينافس الذكاء الاصطناعي خبرة الأطباء؟

"جروك" توقف خاصية توليد الصور بعد جدل استخدمها لأغراض جنسية

ويأتي هذا الحظر بعد انتشار صور عارية لأشخاص حقيقيين خلال الأسبوعين الماضيين على منصة "إكس"، تم تعديلها باستخدام الذكاء الاصطناعي عبر روبوت "جروك"، ما أثار غضبًا واسعًا وانتقادات كبيرة.

والجدير بالذكر أن وقفت أداة الذكاء الاصطناعي جروك التابعة لإيلون ماسك خاصية إنشاء الصور لمعظم المستخدمين، عقب موجة احتجاجات وانتقادات حادة بسبب استخدام التقنية في إنتاج محتوى جنسي صريح وعنيف، واستغلالها للتلاعب بصور نساء دون موافقتهن، وفقًا لما نشره موقع "theguardian".

وجاء القرار بعد تهديدات بفرض غرامات وإجراءات تنظيمية محتملة، إضافة إلى تقارير تحدثت عن إمكانية حظر منصة إكس في المملكة المتحدة إذا استمرت الانتهاكات. 

كانت الأداة قد استخدمت على نطاق واسع لإزالة ملابس النساء رقميًا ووضعهن في أوضاع جنسية، ما أثار غضبًا عامًا ومخاوف متزايدة بشأن السلامة الرقمية.

أعلنت جروك عبر منشور على منصة إكس أن إنشاء الصور وتعديلها سيقتصر حاليًا على المشتركين المدفوعين فقط، ويعني ذلك أن غالبية المستخدمين لن يتمكنوا من الوصول إلى هذه الخاصية، بينما تخضع حسابات المشتركين لبيانات تعريف كاملة تتيح تتبع أي إساءة استخدام.