"لحماية المستخدمين الصغار".. "ChatGPT" يضيف ميزة التنبؤ بالعمر

مع استمرار تزايد المخاوف بشأن تأثير الذكاء الاصطناعي على الشباب، قدمت OpenAI ميزة "التنبؤ بالعمر" في ChatGPT المصممة للمساعدة في تحديد القاصرين ووضع قيود معقولة على محتوى محادثاتهم.

انتقادات حادة

وفقا لموقع "techcrunch"، تعرضت شركة OpenAI لانتقادات حادة في السنوات الأخيرة بسبب تأثيرات برنامج ChatGPT على الأطفال، فقد رُبط عدد من حالات انتحار المراهقين بهذا البرنامج، ومثل غيرها من شركات الذكاء الاصطناعي، وُجهت انتقادات لشركة OpenAI لسماحها لبرنامج ChatGPT بمناقشة مواضيع جنسية مع المستخدمين الصغار، وفي أبريل الماضي، اضطرت الشركة إلى معالجة خلل برمجي سمح لبرنامجها بإنشاء محتوى إباحي للمستخدمين دون سن الثامنة عشرة.

التنبؤ بالعمر

تعمل الشركة منذ فترة على حل مشكلة المستخدمين القاصرين، وميزة "التنبؤ بالعمر" الجديدة تُعزز إجراءات الحماية القائمة، وأوضحت OpenAI في منشور على مدونتها أن هذه الميزة الجديدة تعتمد على خوارزمية ذكاء اصطناعي تُقيم حسابات المستخدمين بناءً على "مؤشرات سلوكية ومؤشرات خاصة بالحساب"، وذلك بهدف تحديد المستخدمين الصغار.

أوضحت الشركة أن هذه "الإشارات" تشمل أمورًا مثل عمر المستخدم المُعلن، ومدة إنشاء الحساب، وأوقات نشاطه المعتادة، ولدى الشركة بالفعل فلاتر محتوى مصممة لاستبعاد النقاشات المتعلقة بالجنس والعنف وغيرها من المواضيع التي قد تُشكل إشكالية للمستخدمين دون سن 18 عامًا، وفي حال رصدت آلية التنبؤ بالعمر أن الحساب يخص مستخدمًا دون سن 18 عامًا، تُطبق هذه الفلاتر تلقائيًا.

اقرأ أيضا

تطبيقات يمكن استخدامها على شات جي بي تي تحوله إلى مساعد للسفر والتصميم

يتحدث معك كأنه بشر.. «شات جي بي تي» أصبح يتذكر محادثاتك بالكامل

استعادة الحساب

إذا تم تصنيف المستخدم خطأً على أنه قاصر، فبإمكانه استعادة حسابه "البالغ"، ويمكنه إرسال صورة شخصية (سيلفي) إلى شركة بيرسونا، شريك التحقق من الهوية التابع لشركة أوبن إيه آي، وفقًا لما ذكرته أوبن إيه آي.

تستند آليات الحماية هذه إلى أبحاثٍ في مجال نمو الأطفال والمراهقين، مع مراعاة الاختلافات في سلوكيات المخاطرة، والتحكم في الاندفاع، والتنظيم العاطفي، إذا لم يتأكد تطبيق ChatGPT من عمر المستخدم، فسيوفر تجربة استخدام أكثر أمانًا بشكل افتراضي، وأوضحت الشركة أن بإمكان أولياء الأمور أيضًا إضافة عناصر تحكم، مثل تحديد ساعات الاستخدام، وإدارة ميزات كالذاكرة أو التدريب، وتلقي تنبيهات في حال رصد أي ضائقة شديدة.

تُظهر هذه الخطوات مجتمعة محاولة OpenAI للسير على حبل مشدود وتشديد إجراءات السلامة للقاصرين مع الاستعداد لتخفيف القيود المفروضة على البالغين الذين يثبتون أنهم بالغون.