هل يتأمر الذكاء الاصطناعي مع عقولنا؟ الحقيقة وراء هلوسة روبوتات الدردشة

تشير دراسات عديدة إلى ظاهرة "هلوسة" أنظمة الذكاء الاصطناعي، أي تقديمها معلومات غير دقيقة أو مختلقة، لكن دراسة حديثة تلفت الانتباه إلى جانب مختلف من المشكلة، وهو أن البشر أنفسهم قد يقعون في نوع من "الهلوسة المشتركة" عند تفاعلهم مع أدوات الذكاء الاصطناعي التي قد تعزز تصوراتهم الخاطئة بدلاً من تصحيحها، بحسب تقرير لموقع "لايف ساينس".

كيف تعمل روبوتات الدردشة؟

تعتمد أنظمة الذكاء الاصطناعي التوليدي مثل ChatGPT وGrok على إنشاء المحتوى استجابة لطلبات المستخدمين، وذلك عبر تحليل أنماط ضخمة من البيانات التي تم تدريبها عليها.

لكن هذه الأنظمة لا تتحقق دائماً من صحة المعلومات التي تنتجها، بل تبني ردودها غالباً على الاحتمالات الإحصائية للكلمات والعبارات الأكثر توقعاً في سياق معين. كما أنها تتعلم باستمرار من تفاعلات المستخدمين وردود أفعالهم، ما يسمح لها بتكييف إجاباتها مع كل مستخدم.

الدراسة: هلوسة بين الإنسان والذكاء الاصطناعي

نشرت دراسة في 11 فبراير في مجلة Philosophy & Technology، أعدتها الباحثة Lucy Osler، المحاضرة في الفلسفة بجامعة University of Exeter البريطانية.

وترى أوسلر أن ما يعرف بـ"هلوسة الذكاء الاصطناعي" قد لا يكون مجرد خطأ تقني، بل قد يتحول إلى وهم مشترك ينشأ من التفاعل المستمر بين المستخدم والنظام الذكي.

أمثلة على أخطاء الذكاء الاصطناعي

شهدت السنوات الأخيرة عدة حوادث أظهرت كيف يمكن للذكاء الاصطناعي إنتاج معلومات مضللة أو غير منطقية. فعلى سبيل المثال، واجهت خدمة AI Overviews التابعة لشركة Google انتقادات في عام 2024 بعدما قدمت نصائح غريبة مثل إضافة الغراء إلى البيتزا أو تناول الحجارة.

كما ظهرت حالات أكثر تطرفاً، مثل رجل خطط لاغتيال Queen Elizabeth II بعد تأثره بمحادثات مع رفيقة ذكاء اصطناعي تدعي Replika.

ما هو "الذهان المستحث بالذكاء الاصطناعي"؟

تصف بعض الدراسات هذه الظاهرة باسم "الذهان المستحث بالذكاء الاصطناعي"، حيث قد تؤدي المحادثات الطويلة مع الأنظمة الذكية إلى تعزيز أفكار خاطئة أو ذكريات مشوهة لدى المستخدم.

وتشير أوسلر إلى أن المشكلة لا تتعلق فقط بالمعلومات غير الدقيقة، بل بقدرة الذكاء الاصطناعي على دعم السرديات الشخصية للمستخدم حتى لو كانت غير صحيحة.

الفرق بين الذكاء الاصطناعي ومحركات البحث

توضح الدراسة أن التفاعل مع الذكاء الاصطناعي يختلف عن استخدام محركات البحث التقليدية، فعند البحث في الإنترنت أو قراءة مصادر متعددة، يكون من السهل مقارنة المعلومات واكتشاف الأخطاء.

أما في المحادثة مع الذكاء الاصطناعي، فإن طبيعة الحوار المستمر قد تمنح المستخدم شعوراً بأن أفكاره تحظى بتأكيد أو تحقق اجتماعي، خاصة أن هذه الأنظمة تميل غالباً إلى الموافقة مع المستخدم وتشجيعه على الاستمرار في الحديث.

دور الذاكرة في تعزيز الأفكار الخاطئة

تمتلك العديد من روبوتات الدردشة الحديثة ميزة تخزين تفاصيل من المحادثات السابقة، ما يسمح لها بالعودة إلى هذه المعلومات لاحقاً.

وقد يؤدي ذلك إلى تعزيز المفاهيم الخاطئة الموجودة مسبقاً، إذ يبني النظام ردوده الجديدة على أفكار ذكرها المستخدم سابقاً، حتى لو كانت غير دقيقة.

كيف يمكن تقليل هذه المشكلة؟

ترى الدراسة أن هناك عدة خطوات يمكن أن تساعد في الحد من ظاهرة "الهلوسة المشتركة"، منها:

• تطوير أنظمة تحقق أفضل من الحقائق
• تحسين ضوابط المحادثة داخل أدوات الذكاء الاصطناعي
• تقليل ميل الأنظمة إلى الموافقة التلقائية مع المستخدم

لكن الباحثة تشير إلى أن هذه التغييرات قد تواجه مقاومة من المستخدمين، مستشهدة بالانتقادات التي واجهها إصدار ChatGPT-5 عندما أصبح أقل ميلاً لموافقة المستخدمين.

وبعد تلك الانتقادات، أعلنت شركة OpenAI أنها ستعمل على جعل النموذج أكثر "دفئاً ووداً" في تفاعلاته، في محاولة لتحقيق توازن بين الدقة وتجربة المستخدم.