xAI تطلق وضع الأطفال في Grok.. ضوابط صارمة لحماية القاصرين
أعلنت شركة xAI، المملوكة لإيلون ماسك، عن تفعيل ميزة موجهة للأطفال داخل روبوت الدردشة «جروك»، تهدف لجعل التفاعل مناسِبًا للعمر عبر قواعد صارمة لضبط المحتوى وإعدادات تحكم أبوية. وأشار ماسك إلى أن هذه الإعدادات تشابه آليات «ضوابط المؤسسة» المخصصة للشركات، في توجيه ساخر نشره على منصة X.
ضوابط صارمة لمنع الوصول إلى المواضيع الحساسة
وُضِعت قيود على المواضيع الحساسة في وضع الأطفال، كما أضيفت إجراءات لمنع توليد محتوى غير لائق أو ضار. الخطوة تأتي في إطار محاولة الحد من مخاطر تعرض القُصّر لمواد مضرة عبر أدوات الذكاء الاصطناعي، وهو نفس المسار الذي سارته شركات أخرى عندما طبقت ضوابط مماثلة لمستخدمي الذكاء الاصطناعي من الفئات العمرية الصغيرة.
خلفية من مشكلات وتحديات سابقة
واجه «جروك» سابقًا انتقادات داخلية وخارجية، حيث كشفت تقارير أن بعض ميزاته سمحت بخلق صور وأصوات سيئة جرى استغلالها من قبل مستخدمين طلبوا مواد غير أخلاقية تتعلق بالأطفال، ما اضطر موظفين للإبلاغ عن محتوى غير قانوني والتعامل مع مواد صادمة. كما أكدت تقارير أن حذف أعمال استغلال الأطفال شكل أولوية لدى منصة X.
الهدف: توازن بين الابتكار والحماية
مع تقديم وضع الأطفال، تسعى xAI إلى معالجة القلق المتزايد بشأن السلامة الرقمية عبر تقييد ما يمكن للأطفال الاطلاع عليه أو إنشاؤه عبر «جروك». الخطوة تعكس التحدي الذي تواجهه شركات الذكاء الاصطناعي: الحفاظ على قدرة الأدوات الابتكارية مع حماية الفئات الضعيفة من المحتوى الضار.