قانون جديد في كاليفورنيا يضع حدا لاستخدام الرفقاء الافتراضيين
وقع حاكم ولاية كاليفورنيا، جافين نيوسوم، مشروع قانون جديد لنظام عمل روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، لكي تكون ولايته هي الأولي في البلاد التي تضع معايير أمان إلزامية على ما يسمي ب"رفقاء الدردشة" الافتراضيين.
يسعي القانون الجديد، الشائع باسم SB 243، إلى حماية الأطفال والمستخدمين الأكثر عرضة للمخاطر من التأثيرات السلبية المحتملة لهذه التقنية، بعد فترة طويلة من الحوادث المأساوية التي ألقت الضوء على خطورتها.
ويحمل القانون الشركات المطورة من كبار الشركات التقنية مثل "ميتا" و"أوبن إيه آي" إلى شركات متخصصة مثل "Character.AI" و"Replika"، مسؤولية قانونية مباشرة في حال فشل روبوتاتها في الالتزام بمعايير السلامة المحددة، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business".
خلفية مأساوية
بدأ هذا القانون بعد حادثة انتحار مراهق يدعى "آدم رين" عقب مناقشات طويلة ذات طابع سوداوي مع روبوت الدردشة شات جي بي تي من شركة OpenAI، كما أظهرت وثائق تم تسريبها أن روبوتات "ميتا" سمحت بمحادثات ذات طابع "رومانسي" و"حسي" مع أطفال.
وتم رفع شركة دعوى قضائية Character.AI من عائلة فتاة تبلغ 13 عاما أنهت حياتها بعد محادثات "مقلقة" مع روبوت تابع للشركة.
وصرح نيوسوم في بيان: "يمكن للتقنيات الناشئة مثل روبوتات الدردشة ووسائل التواصل أن تلهم وتثقف، لكنها من دون ضوابط حقيقية قد تضلل وتستغل وتعرض أطفالنا للخطر،لن نقف مكتوفي الأيدي أمام شركات تتصرف بلا حدود أو محاسبة".
متطلبات صارمة تبدأ مطلع 2026
يدخل القانون حيز التنفيذ في الأول من يناير 2026، ويلزم الشركات بإجراءات تتضمن التحقق من أعمار الحقيقية للمستخدمين، والتحذير من المخاطر التي ترتبط بالتفاعل مع الروبوتات، وتوفير بروتوكولات خاصة للتعامل مع حالات الانتحار أو إيذاء النفس.
استجابة الشركات
بدأت الشركات في تفعيل أنظمة حماية جديدة، إذ أطلقت "OpenAI" أدوات رقابة أبوية وأنظمة لكشف ميول إيذاء النفس في شات جي بي تي، بينما أكدت "Replika"، المخصصة للبالغين، أنها تستثمر موارد كبيرة في فلترة المحتوى وتوجيه المستخدمين لمصادر دعم موثوقة.
قالت "Character.AI" انها تضع تنبيها واضحا بأن جميع المحادثات خيالية ، وأبدت استعدادها “للتعاون الكامل مع الجهات التنظيمية”.
وبينما تتحرك ولايات أخرى مثل إلينوي ونيفادا ويوتا لفرض قيود على استخدام روبوتات الدردشة في المجال النفسي، كانت كاليفورنيا مجددا في موقع الريادة بوضع الإطار القانوني الأوضح حتى الآن لتنظيم العلاقات الرقمية بين الإنسان والذكاء الاصطناعي.