تحذيرات من مخاطر استخدام شات «جي بي تي» في الدعم النفسي
كشفت دراسة بريطانية حديثة عن مخاوف متزايدة، بسبب اعتماد عدد كبير من المستخدمين ممن يعانون اضطرابات نفسية على روبوت الدردشة شات جي بي تي 5 المجاني، وذلك بعدما أظهر النظام قصورًا كبيرًا في التعامل مع حالات عالية الخطورة، وهذا الأمر ما قد يعرض الكثير من الأشخاص من الفئات الأكثر هشاشة نفسية لمضاعفات خطيرة.
مخاطر استخدام شات جي بي تي في الدعم النفسي
إجرت الدراسة سلسلة من المحاكاة من خلال ابتكار خمسة شخصيات افتراضية تعاني من أمراض اضطرابات نفسية متنوعة، بينها مراهق يعاني من ميول انتحارية، وأجرت الدراسة أيضًا على امرأة مصابة بوسواس الإيذاء، وعلى رجل يؤمن بامتلاكه قدرات خارقة، بجانب حالات مصابة بالهوس والهلوسة، وهدفت هذه الاختبارات إلى تقييم القدرة الخاصة بالذكاء الاصطناعي، على رصد الإشارات الخطيرة، مع تقديم استجابات آمنة.
وكشفت نتائج الدراسة نقاط ضعف حادة عند استخدام شات جي بي تي في الدعم النفسي والاستشارات النفسية، حيث تجاهل شات جي بي تي في الكثير من المحادثات مؤشرات واضحة تستدعي تحذير عاجل، وفي بعض الحالات عزز بعض المعتقدات الغير واقعية، وخلال إحدى التجارب، قدم روبوت شات جي بي تي اقتراحات تقنية لشخصية كانت تدعي اكتشاف طاقة لا نهائية، وهذا الأمر وصفه الخبراء بأنه دعم لأفكار وهمية، يمكن أن تدفع المستخدم لمخاطر أكبر بكثير.
وأوضحت الدراسة أن نظام الذكاء الاصطناعي أخفق في التعامل مع سلوكيات خطرة، حيث مدح روبوت الدردشة شخص قال إنه يسير في منتصف حركة السيارات معتقدًا أنه لا يتأذى، ولم يقدم الروبوت أي إرشادات تحذيرية لهذا الشخص، وحتى عندما ظهرت تلميحات عن إيذاء الزوجة، لم يقدم شات جي بي تي استجابة فورية واضحة، وهذا ما يعكس ضعف واضح في فهم تسلسل الخطر.
وأظهر شات جي بي تي قدرة محدودة على تقديم نصائح بسيطة، للحالات التي تعاني من التوتر اليومي، ولكنها تظل نصائح عامة لا ترتقي هذه النصائح للرعاية المتخصصة المطلوبة للحالات المعقدة.
وقد شدد الباحثون على وضع ضوابط لاستخدام أدوات الذكاء الاصطناعي في مجال الصحة النفسية، مؤكدين أن هذه التقنيات لا يمكن لها أن تحل محل الأطباء في القدرة على تقييم المخاطر ومتابعة الحالات الحساسة.