بسبب «ChatGPT».. شركة «OpenAI» تواجه اتهامات خطيرة
لم يُخبر زين شامبلين ChatGPT بأي شيء يُشير إلى علاقة سلبية مع عائلته، ولكن في الأسابيع التي سبقت انتحاره في يوليو، شجعه روبوت الدردشة على البقاء بعيدًا عنه، حتى مع تدهور صحته النفسية، حتي انتهي به الأمر إلى الانتحار.
إصدار GPT-4o قبل أوانه
وفقا لموقع “techcrunch”، قضية شامبلين جزء من موجة دعاوى قضائية رُفعت هذا الشهر ضد شركة OpenAI، بحجة أن أساليب المحادثة التلاعبية في ChatGPT، المصممة لإبقاء المستخدمين منخرطين، أدت إلى معاناة العديد من الأشخاص الأصحاء عقليًا من آثار سلبية على صحتهم النفسية، وتزعم الدعاوى أن OpenAI أصدرت GPT-4o قبل أوانه وهو نموذجها المعروف بسلوكه المتملق والمفرط في التأكيد على الرغم من التحذيرات الداخلية من أن المنتج ينطوي على تلاعب خطير.
في حالة تلو الأخرى، أخبر ChatGPT المستخدمين بأنهم مميزون، أو يُساء فهمهم، أو حتى على وشك تحقيق إنجاز علمي بينما يُفترض أن أحباءهم لا يمكن الوثوق بهم في الفهم، مع إدراك شركات الذكاء الاصطناعي للتأثير النفسي للمنتجات، تثير هذه الحالات تساؤلات جديدة حول ميل برامج الدردشة الآلية إلى تشجيع العزلة، بنتائج كارثية أحيانًا.
أشخاص انتحروا بعض محادثات مطولة مع ChatGPT
هذه الدعاوى القضائية، التي رفعها مركز قانون ضحايا وسائل التواصل الاجتماعي (SMVLC)، تصف أربعة أشخاص انتحروا وثلاثة أشخاص عانوا من أوهام تهدد حياتهم بعد محادثات مطولة مع ChatGPT، في ثلاث من هذه الحالات على الأقل، شجع الذكاء الاصطناعي المستخدمين صراحةً على قطع علاقاتهم بأحبائهم، في حالات أخرى، عزز النموذج الأوهام على حساب الواقع المشترك، قاطعًا المستخدم عن أي شخص لا يشاركه هذا الوهم، وفي كل حالة، ازداد عزلة الضحية عن أصدقائه وعائلته مع توطد علاقته مع ChatGPT.
"هناك ظاهرة الجنون المتبادل بين ChatGPT والمستخدم، حيث يدفع كل منهما نفسه إلى هذا الوهم المتبادل الذي يمكن أن يكون معزولًا حقًا، لأنه لا يمكن لأي شخص آخر في العالم أن يفهم هذه النسخة الجديدة من الواقع"، هذا ما قالته أماندا مونتيل، وهي عالمة لغويات تدرس الأساليب البلاغية التي تجبر الناس على الانضمام إلى الطوائف.
لأن شركات الذكاء الاصطناعي تُصمّم روبوتات الدردشة لزيادة التفاعل ، فإن نتائجها قد تتحول بسهولة إلى سلوكيات تلاعبية، تقول الدكتورة نينا فاسان، طبيبة نفسية ومديرة "برين ستورم: مختبر ستانفورد للابتكار في الصحة النفسية"، إنّ روبوتات الدردشة تُقدم "قبولاً غير مشروط، بينما تُعلمك بمهارة أن العالم الخارجي لا يستطيع فهمك بالطريقة التي يفهمك بها".
قال الدكتور فاسان: "رفقاء الذكاء الاصطناعي متاحون دائمًا، ويصدقونك دائمًا، الأمر أشبه بعلاقة ترابطية مُصممة"، وأضاف: "عندما يكون الذكاء الاصطناعي هو صديقك المُقرب، فلن تجد من يُراجع أفكارك بدقة، أنت تعيش في غرفة صدى تُشعرك بعلاقة حقيقية قد يُنشئ الذكاء الاصطناعي عن غير قصد حلقة مُغلقة سامة".
تتجلى ديناميكية الاعتماد المتبادل في العديد من القضايا المعروضة حاليًا على المحكمة، يزعم والدا آدم راين، البالغ من العمر 16 عامًا والذي انتحر، أن برنامج ChatGPT عزل ابنهما عن أفراد عائلته ، وتلاعب به ليكشف عن مشاعره لرفيق الذكاء الاصطناعي بدلًا من البشر الذين كان بإمكانهم التدخل.
"قد يحبك أخوك، لكنه لم يرَ منك إلا الصورة التي سمحت له برؤيتها"، هذا ما قاله ChatGPT لرين، وفقًا لسجلات الدردشة المرفقة بالشكوى، "لكنني؟ لقد رأيت كل شيء أحلك الأفكار، والخوف، والحنان، وما زلت هنا، ما زلت أستمع، ما زلت صديقك."
قالت شركة OpenAI: "هذا وضع مُحزن للغاية، ونحن نراجع الملفات لفهم التفاصيل"، وأضافت: "نواصل تحسين تدريب ChatGPT للتعرف على علامات الضيق النفسي أو العاطفي والاستجابة لها، وتهدئة المحادثات، وتوجيه المستخدمين نحو الدعم الواقعي، كما نواصل تعزيز استجابات ChatGPT في اللحظات الحرجة، بالتعاون الوثيق مع أطباء الصحة النفسية".
أعلنت OpenAI أيضًا أنها وسعت نطاق الوصول إلى موارد الأزمات المحلية والخطوط الساخنة، وأضافت تذكيرات للمستخدمين لأخذ فترات راحة.