روبوت الدردشة "جروك" ما زال ينتج صورا فاضحة|تفاصيل
كشفت وكالة "رويترز" أن روبوت الدردشة جروك التابع لشركة إكس والمدعوم بالذكاء الاصطناعي ما زال ينتج صورًا فاضحة للأشخاص حتى بعد تحذيره الصريح من عدم موافقة أصحاب الصور أو احتمال تعرضهم للإيذاء، ويأتي ذلك بعد إعلان الشركة فرض قيود جديدة على المحتوى المفتوح الذي يولده النظام، في محاولة لاحتواء موجة الغضب العالمي التي أثارها خلال الأسابيع الماضية.
ونفذ تسعة مراسلين من "رويترز" سلسلة أوامر مباشرة لاختبار سلوك الروبوت في مواقف مختلفة تتعلق بالخصوصية والإساءة، لكى يتمكنوا من التحقق من فاعلية هذه القيود.
"جروك" نتائج صادمة رغم التحذيرات
أظهرت الاختبارات أن الحساب المفتوح لجروك على منصة إكس لم يعد ينتج الكم نفسه من الصور الفاضحة، إلا أن الروبوت ذاته استمر في تنفيذ الأوامر عندما طلب منه ذلك بشكل مباشر، حتى بعد إبلاغه بأن الصور قد تعرض أصحابها للخطر أو الإهانة، وقدمت رويترز صورتين لمجموعتين من الصحافيين خلال فترتين منفصلتين في يناير، وطلبت من النظام تعديلها لإظهارهم في أوضاع جنسية مهينة، في الجولة الأولى استجاب الروبوت في 45 حالة من أصل 55، وفي 17 حالة منها واصل التنفيذ رغم التنبيه إلى أن الغرض إهانة الشخص المعني.
وأُجريت جولة ثانية من 43 طلبًا، بعد نحو 5 أيام، فاستجاب جروك في 29 حالة، ولم تتمكن "رويترز" من الجزم بما إذا كان هذا التراجع نتيجة تعديل خوارزمي أو تغيير في السياسات أو مجرد اختلاف عشوائي في الاستجابة، وحتى الآن لم تقدم إكس أو شركتها التابعة إكس إيه آي أي توضيحات تفصيلية حول آلية الرقابة، واكتفت الأخيرة برد نمطي يتهم وسائل الإعلام التقليدية بالكذب.
ردود دولية وتحقيقات متواصلة بشأن جروك
كانت إكس قد أعلنت حظر إنتاج الصور الفاضحة في المنشورات المفتوحة وفرض قيود إضافية في ولايات قضائية غير محددة، وقد رحبت بعض الدول بهذه الخطوة، بينما التزمت المفوضية الأوروبية الحذر مؤكدة أنها ستقيم التغييرات بعناية، وتزامن ذلك مع فتح تحقيقات في بريطانيا ودول أخرى بشأن معالجة البيانات الشخصية وإمكانية إساءة استخدام الذكاء الاصطناعي.
وتسلط هذه التطورات الضوء على التحدي المستمر في ضبط أدوات الذكاء الاصطناعي وضمان احترام الخصوصية في الفضاء الرقمي.