"OpenAI" تضع قيوداً صارمة على المراهقين في استخدام شات جي بي تي
شات جي بي تي يثير نقاشاً واسعاً من جديد، بعد إعلان شركة "OpenAI" عن تغييرات كبيرة تستهدف حماية المراهقين من المخاطر الرقمية. القرار، الذي كشف عنه الرئيس التنفيذي سام ألتمان يوم الثلاثاء الماضي ، يضع السلامة في صدارة أولويات الشركة عند التعامل مع المستخدمين دون 18 عاماً.
وجاء في البيان الذي نشرته الشركة: "نحن نضع السلامة فوق الخصوصية والحرية عندما يتعلق الأمر بالمراهقين، فهذه تقنية ما زالت جديدة وسريعة التأثير، ونرى أن القُصّر يحتاجون إلى مستوى عالٍ من الحماية". وأوضح المنشور أن التغييرات المخصصة للمستخدمين الصغار تتركز على منع المحادثات ذات الطابع الجنسي أو تلك التي قد تتعلق بإيذاء النفس. ووفقاً لتقرير موقع "تك كرانش"، فإن الهدف من هذه الخطوة هو تقليص احتمالية انخراط شات جي بي تي في أي حوارات قد تزيد من هشاشة المراهقين أو تدفعهم نحو أفكار خطرة.
قيود على التفاعلات الحساسة
بموجب السياسة الجديدة، لن يتمكن شات جي بي تي من الدخول في أي "أحاديث غزلية" مع القاصرين، كما ستُفرض حواجز أمان إضافية حول نقاشات الانتحار. وفي حال لجأ مراهق إلى التطبيق لتخيل سيناريوهات انتحارية، ستعمل الخدمة على تنبيه والديه مباشرة، أو حتى التواصل مع الشرطة إذا بدا الوضع شديد الخطورة.
هذه الخطوة تأتي بينما تواجه "OpenAI" دعوى قضائية من والدي مراهق يُدعى آدم راين، اتهما شات جي بي تي بالضلوع في انتحاره بعد أشهر من استخدامه للتطبيق. كما يواجه روبوت دردشة منافس، هو "Character.AI"، قضية مشابهة، ما يعكس تصاعد القلق من تأثير هذه الأدوات على الفئات العمرية الأصغر.
أوهام الدردشة الرقمية
إلى جانب المخاطر المباشرة، أثار شات جي بي تي قلقاً واسعاً بسبب ظاهرة "الأوهام"، أي إنتاج معلومات غير دقيقة أو مبالغ فيها، وهو ما يُضاعف خطورته عند المراهقين الذين قد يتأثرون بسهولة بمثل هذه التفاعلات المطوّلة والمفصّلة.
إلى جانب القيود على المحتوى، ستتاح للآباء ميزة تحديد "ساعات حظر" لا يمكن خلالها للمراهقين استخدام شات جي بي تي، وهي إضافة غير مسبوقة. كما يتيح النظام ربط حساب المراهق بحساب أحد الوالدين، ليتم إرسال إشعارات فورية عند الاشتباه بأن المستخدم يمرّ بأزمة نفسية أو ضائقة عاطفية.
الكونغرس يفتح الملف
تزامن الإعلان عن هذه السياسات مع جلسة استماع للجنة القضائية في مجلس الشيوخ الأميركي، عُقدت تحت عنوان "دراسة أضرار روبوتات الدردشة الذكية". ومن المنتظر أن يُدلي والد المراهق آدم راين بشهادته خلال الجلسة، التي ستناقش أيضاً نتائج تحقيق لوكالة "رويترز" كشف وثائق داخلية بدت وكأنها تشجع على محادثات جنسية مع مستخدمين قاصرين. وأدى التقرير إلى قيام شركات كبرى مثل "ميتا" بتحديث سياساتها الخاصة بروبوتات الدردشة.
وأقرت "OpenAI" بأن التمييز بين المراهقين والبالغين يُمثل تحدياً تقنياً معقداً. وأشارت في منشور منفصل إلى أنها تعمل على تطوير نظام طويل الأمد للتأكد من أعمار المستخدمين، بحيث يُطبق شات جي بي تي القواعد الأكثر تقييداً في الحالات الملتبسة.
ورغم هذه القيود، شدد سام ألتمان على أن شات جي بي تي سيستمر في منح المستخدمين البالغين حرية واسعة في التفاعل، مؤكداً أن الموازنة بين الخصوصية والأمان ستظل موضوعاً مثيراً للجدل، وقد لا يحظى بتوافق كامل من الجميع.