احذر ألعاب الأطفال المدعومة بالذكاء الاصطناعي.. دمية تقدم نصائح جنسية
يقوم العديد من الآباء بشراء دمى ناطقة للأطفال مدعومة بالذكاء الاصطناعي لتعليم الأطفال بعض النصائح، ولكن ما كشفه اختبار أجرته مجموعة أبحاث المصلحة العامة PIRG، المعنية بحماية المستهلك، أن دمية الدب الناطقة قد تقوم بتقديم معلومات جنسية أو نصائح للأطفال عن طريقة إشعال أعود الثقاب.
دمية الدب كوما.. تلغي الحواجز وتخرج عن الموضوع
أعلنت شركة "فولوتوي" السنغافورية المصنعة لألعاب الأطفال، عن سحب دمية كوما الذكية، بعدما أصدرت ردود فعل غير لائقة، بما فيها نصائح عن طريقة العثور على أعواد الثقاب وإشعالها، ونصائح جنسية أخرى، وقد كشفت الاختبارات أن الدمية تلغي الحواجز كلما طالت المنافسة، وتقدم نصائح مقلقة، وتعمل دمية كوما بنموذج "GPT-4o" من "أوبن إيه آي"، وهذا هو نفس النموذج الذي كان يعمل به "شات جي بي تي" سابقًا.
تظهر المشكلة في أنه على العكس من الأجيال السابقة من الألعاب التي تعمل بالذكاء الاصطناعي، يمكن للألعاب الآن أن تتجاوز الاستجابات المبرمجة، والمدققة، والمناسبة للأطفال، وتخلق استجابات غير ملائمة.
وتكمن المشكلة الرئيسة في الألعاب التي تعمل بالذكاء الاصطناعي، في أنها في الغالب تعتمد على نماذج ذكاء اصطناعي تابعة لجهات خارجية، لا يمكن السيطرة عليها، ويمكن اختراقها سواء عن طريق الخطأ، أو القصد، وهذا ما يسبب العديد من المشكلات التي تتعلق بسلامة الأطفال.
وقال لاري وانج، الرئيس التنفيذي لشركة "FoloToy" في تصريح صحفي، إن الشركة قد سحبت دمية الدب كوما، بالإضافة إلى بقية مجموعتها من الألعاب المدعومة بالذكاء الاصطناعي، وذلك بعد أن أثار باحثون في صندوق التعليم التابع لمنظمة "PIRG" الأمريكية، العديد من المخاوف بخصوص مواضيع المحادثة غير اللائقة، بالإضافة إلى مناقشة الانحرافات الجنسية، والضرب، وكيفية إشعال عود الثقاب خطوة بخطوة.
ما هي دمية الدب كوما؟
هي دمية دب محشوة مزودة بمكبر صوت داخلها ومدعومة بالذكاء الاصطناعي، تم بيعها على موقع الشركة الإلكتروني بمقابل يصل لـ 99 دولارًا، وتدمج "كوما" روبوت الدردشة GPT-4o من OpenAI.