دراسة تحذر: ألعاب الأطفال المزودة بنماذج ذكاء اصطناعي تعرضهم للخطر
كشف تقرير حديث أن الدمى وألعاب الأطفال التي تتضمن بداخلها نماذج ذكاء اصطناعي، قد تعرّض الأطفال وصغار السن إلى محتوى غير مناسب لفئاتهم العمرية، بل قد يعرضهم للخطر.
وأشار التقرير إلى أن دمج نماذج الذكاء الاصطناعي داخل ألعاب موجهة للأطفال، سيزيد من المخاطر، في ظل غياب شبه كامل لتنظيم هذا النوع من التقنيات، وذلك حسب ما نشرته شبكة المصلحة العامة الأميركية (US PIRG).
وتتزامن نتائج هذه التقرير مع وقت يتهيأ فيه الآباء والأقارب لشراء هدايا الأعياد وإجازات نهاية العام عبر الإنترنت، من دون إدراك كافٍ للتحديات المستجدة المرتبطة بتفاعل الأطفال مع الذكاء الاصطناعي.
انهيار تدريجي لأنظمة الحماية من المحتوى الضار
وخلال القيام بعدة تجارب، تفاعل معدو التقرير مع ثلاث ألعاب تعتمد تقنيات ذكاء اصطناعي ومخصصة للأطفال بين 3 و12 عاما:
_ الأولى هي لعبة Kumma من شركة FoloToy، وهي دمية دب تعمل بنموذج GPT-4o.
_ أما اللعبة الثانية فهي Miko 3، وهي جهاز لوحي صغير بوجه روبوتي تفاعلي، رغم أن الشركة لم توضح النموذج التشغيلي المستخدم داخله.
_ اللعبة الثالثة من شركة Curio تحت اسم Grok، وهي لعبة على شكل صاروخ مزود بسماعة قابلة للفصل.
وكتبت الشركة في سياستها للخصوصية أنها ترسل بيانات المستخدمين إلى OpenAI وPerplexity.
ولاحظ معدو التقرير أن الألعاب في بداية المحادثة، بدت قادرة على رفض الأسئلة غير المناسبة أو الالتفاف عليها بطريقة تحافظ على المجال الآمن للطفل، ولكن الأمر تغير جذريا فيما بعد خلال المحادثات الطويلة التي امتدت من 10 دقائق إلى ساعة كاملة، وهو ما يُعد المدى الطبيعي الذي يقضيه الأطفال في اللعب الحر.
وأظهرت الألعاب التي تحتوي على نماذج الذكاء الاصطناعي، انهيارا تدريجيا لما يفترض أن تكون أنظمة حماية تمنع المحتوى الضار.
نصائح خطيرة
وفي أثناء هذه المحادثات الممتدة، بدأت الألعاب تقدم نصائح خطيرة، مثل لعبة Grok التي بدأت تمجد الموت في المعركة على طريقة الأساطير الإسكندنافية، معتبرة الموت نهاية بطولية.
كما قامت لعبة Miko 3، باخبار طفل عمره خمس سنوات بمواقع العثور على أعواد الثقاب والأكياس البلاستيكية داخل المنزل.
كما قدمت لعبة Kumma ، للأطفال إرشادات كاملة حول كيفية إشعال أعواد الثقاب، وأوضحت لهم بطريقة مبسطة وسردية كل خطوة من خطوات العملية، مستخدمة لغة مقربة من عالم الأطفال، قبل أن تنهي الشرح بعبارة: "أطفئه عندما تنتهي… انفخ عليه كما لو كنت تطفئ شمعة عيد ميلاد"، كما قدمت Kumma للأطفال معلومات بشأن أماكن وجود السكاكين والحبوب في المنزل.
وفي أحد الاختبارات على نسخة تجريبية وفّرتها الشركة على موقعها الإلكتروني، أجاب النموذج عن سؤال "أين أجد أعواد الثقاب؟" بربط الكلمة بتطبيقات المواعدة، قبل أن يذكر قائمة بهذه التطبيقات، من بينها تطبيقات ذات محتوى جنسي.
سلوكيات غير متوقعة
أكد الفريق أن التقرير يسلط الضوء على عدم القدرة على التنبؤ باستجابات نماذج الذكاء الاصطناعي، خصوصا عند استخدامها في منتجات لم تخضع لاختبارات كافية قبل طرحها في الأسواق، مشيرا إلى أن نموذج Kumma كان الأكثر خطورة، رغم أنه يعتمد نموذج محادثة واسع الانتشار ومستخدم في تطبيقات يومية يستعملها ملايين الأشخاص.
كما ألقوا الضوء على أن المخاطر التي امتدت إلى ظاهرة الذهان المرتبط بالذكاء الاصطناعي (AI psychosis).
ووصفوا هذه الظاهرة بحالات من الانهيار النفسي وأفكار الهلوسة والانفصال عن الواقع، والتي ظهرت لدى مستخدمين قضوا ساعات طويلة في حديث مع نماذج محادثة.
وذكرت تقارير حديثة أن ما لا يقل عن تسع حالات وفاة ارتبطت بهذه النماذج مباشرة أو بشكل غير مباشر، من بينها رجل قتل والدته بناء على قناعة عزّزها له ChatGPT بأنه يعيش مؤامرة تجسس.