شركة Character.AI ستمنع الأطفال دون سن 18 عامًا من الدردشات الرومانسية
قالت شركة Character.AI انها ستمنع الأشخاص الذين تقل أعمارهم عن 18 عامًا من استخدام روبوتات الدردشة الخاصة بها بدءًا من أواخر الشهر المقبل، في خطوة شاملة لمعالجة المخاوف بشأن سلامة الأطفال.
ووفقا لما نشر على موقع "technology" أعلنت الشركة أن هذا الإجراء سيدخل حيز التنفيذ في 25 نوفمبر، ولتطبيقه، أوضحت شركة Character.AI أنها ستحدد خلال الشهر المقبل المستخدمين القاصرين وتضع قيودًا زمنية على استخدامهم للتطبيق، وبمجرد بدء تطبيق هذا الإجراء، لن يتمكن هؤلاء المستخدمون من التواصل مع روبوتات الدردشة الخاصة بالشركة.
قال كارانديب أناند، الرئيس التنفيذي لشركة "كارانتاكر إيه آي"، في مقابلة: "نتخذ خطوة جريئة للغاية لنؤكد للمستخدمين المراهقين أن برامج الدردشة الآلية ليست وسيلة للترفيه، ولكن هناك طرق أفضل بكثير لخدمتهم"، وأضاف أن الشركة تخطط أيضًا لإنشاء مختبر لسلامة الذكاء الاصطناعي.
تأتي هذه الخطوات في أعقاب تدقيق متزايد حول كيفية تأثير روبوتات الدردشة، التي تُعرف أحيانًا بـ"رفقاء الذكاء الاصطناعي"، على الصحة النفسية للمستخدمين، في العام الماضي، رفعت عائلة سيويل سيتزر الثالث ، البالغ من العمر 14 عامًا، دعوى قضائية ضد شركة "كاركتر إيه آي"، وهو فتى في الرابعة عشرة من عمره من فلوريدا انتحر بعد تواصله المستمر مع أحد روبوتات الدردشة التابعة للشركة، واتهمت عائلته الشركة بالمسؤولية عن وفاته.
أصبحت هذه القضية بمثابة صاعقٍ لموجةٍ من الجدل حول كيفية ارتباط الناس عاطفيًا بروبوتات الدردشة، مما قد يؤدي إلى عواقب وخيمة، ومنذ ذلك الحين، واجهت شركة Character.AI دعاوى قضائية أخرى تتعلق بسلامة الأطفال، كما خضعت شركات الذكاء الاصطناعي، بما في ذلك شركة OpenAI، المطورة لـ ChatGPT ، للتدقيق بسبب تأثير روبوتات الدردشة الخاصة بها على الأشخاص، وخاصة الشباب إذا أجروا محادثات جنسية صريحة أو مسيئة.
في سبتمبر، أعلنت شركة OpenAI عن خططها لإضافة ميزات تهدف إلى جعل روبوت الدردشة الخاص بها أكثر أمانًا ، بما في ذلك أدوات الرقابة الأبوية، هذا الشهر، نشر سام ألتمان، الرئيس التنفيذي لشركة OpenAI، على مواقع التواصل الاجتماعي أن الشركة "تمكنت من التخفيف من حدة مشاكل الصحة العقلية الخطيرة" وستخفف بعض إجراءات السلامة.
في أعقاب هذه الحالات، بدأ المشرعون ومسؤولون آخرون تحقيقات، واقترحوا أو أقرّوا تشريعات تهدف إلى حماية الأطفال من روبوتات الدردشة الذكية، قدم السيناتوران جوش هاولي، الجمهوري عن ولاية ميسوري، وريتشارد بلومنثال، الديمقراطي عن ولاية كونيتيكت، مشروع قانون يمنع مرافقي الذكاء الاصطناعي للقاصرين، من بين تدابير أمنية أخرى.
وقّع حاكم ولاية كاليفورنيا، جافين نيوسوم، هذا الشهر قانونًا يُلزم شركات الذكاء الاصطناعي بوضع حواجز أمان على روبوتات الدردشة، ويدخل القانون حيز التنفيذ في الأول من يناير.
قال ستيف باديا، العضو الديمقراطي في مجلس شيوخ ولاية كاليفورنيا، والذي قدّم مشروع قانون السلامة: "تتزايد القصص حول ما قد يحدث، من المهم وضع حواجز وقائية معقولة لحماية الأشخاص الأكثر عرضة للخطر".
تأسست شركة Character.AI عام 2021 على يد نعوم شازير ودانيال دي فريتاس، وهما مهندسان سابقان في جوجل، وجمعت ما يقرب من ٢٠٠ مليون دولار من مستثمرين، في العام الماضي، وافقت جوجل على دفع حوالي ٣ مليارات دولار لترخيص تقنية Character.AI، وعاد السيدان شازير ودي فريتاس إلى جوجل.
قال يانج وانج، أحد أساتذة علوم المعلومات في الجامعة: "يجب أن نوليهم نفس القدر من الاهتمام كما لو كانوا يتحدثون مع غرباء، لا ينبغي أن نتجاهل المخاطر لمجرد أنها روبوتات غير بشرية".
وقال السيد أناند إن شركة Character.AI لديها حوالي 20 مليون مستخدم شهريًا، وأقل من 10 بالمائة منهم أفادوا بأنهم تحت سن 18 عامًا.
بموجب سياسات Character.AI الجديدة، ستفرض الشركة فورًا حدًا أقصى للاستخدام اليومي للمستخدمين دون سن 18 عامًا لمدة ساعتين، وبدءًا من 25 نوفمبر، لن يتمكن هؤلاء المستخدمون من إنشاء روبوتات الدردشة أو التحدث إليها، ولكن سيظل بإمكانهم قراءة المحادثات السابقة، كما يمكنهم إنشاء مقاطع فيديو وصور بتقنية الذكاء الاصطناعي من خلال قائمة مُنظّمة من الإرشادات، ضمن حدود أمان مُحددة، وفقًا للسيد أناند.
وأضاف أن الشركة طبقت إجراءات أمنية أخرى خلال العام الماضي، مثل الرقابة الأبوية.
وأضاف أنه في المستقبل، ستستخدم الشركة تقنيةً للكشف عن المستخدمين القاصرين بناءً على محادثاتهم وتفاعلاتهم على المنصة، بالإضافة إلى معلومات من أي حسابات تواصل اجتماعي مرتبطة به، وإذا ارتأت شركة Character.AI أن المستخدم دون سن 18 عامًا، فسيتم إخطاره للتحقق من عمره.
قالت الدكتورة نينا فاسان، طبيبة نفسية ومديرة مختبر ابتكار الصحة النفسية بجامعة ستانفورد، والذي أجرى أبحاثًا حول سلامة الذكاء الاصطناعي والأطفال، إنه لأمرٌ "عظيم" أن تمنع شركة مُصنِعة لروبوتات الدردشة القُصَّر من استخدام تطبيقها، لكنها أشارت إلى أن على الشركة التعاون مع علماء نفس الأطفال والأطباء النفسيين لفهم تأثير فقدان الوصول المفاجئ إلى برامج الذكاء الاصطناعي على المستخدمين الصغار.