تحذيرات من خطورة ملخصات الذكاء الاصطناعي من جوجل
أطلقت مؤسسة مايند الخيرية المعنية بالصحة النفسية تحقيقًا يستمر عامًا كاملًا لدراسة مدى موثوقية أدوات الذكاء الاصطناعي عند التعامل مع موضوعات نفسية حساسة، وجاءت الخطوة عقب تقارير إعلامية كشفت أن خدمة الملخصات المعتمدة على الذكاء الاصطناعي من جوجل قد تقدم أحيانًا نصائح غير دقيقة وربما خطيرة للمستخدمين.
وفي إطار الخدمات المقدمة لنشر أحدث المستجدات على مدار الساعة، نوصح لكم كافة التفاصيل عن التحذيرات من خطورة ملخصات الذكاء الاصطناعي من جوجل وبالتحديد في مجال الصحة النفسية والعقلية، في السطور التالية.
اختبار قصير يكشف أخطاء مقلقة وبالتحديد في مجال الصحة النفسية والعقلية
بحسب روزي ويذرلي، مديرة المحتوى المعلوماتي في المؤسسة، فإن جوجل طورت عبر سنوات نظامًا قويًا لعرض نتائج البحث، إلا أن إضافة ملخصات الذكاء الاصطناعي إلى أعلى الصفحة قد يخلق انطباعًا زائفًا بالحسم والدقة، وأوضحت أن هذه الملخصات تختزل قضايا معقدة في عبارات قصيرة تبدو علمية، لكنها قد تفتقر إلى السياق الضروري لفهم الموضوع بشكل سليم.
ووفقًا لتقرير نشره موقع "thenews"، أجرت ويذرلي وفريقها اختبارًا استمر 20 دقيقة فقط، تمكنوا خلاله من رصد ما وصفوه بأخطاء ضارة ظهرت سريعًا عند طرح أسئلة مرتبطة باضطرابات الأكل وأفكار وهمية، ففي بعض الحالات، قدمت الأداة إجابات بدت وكأنها تؤكد معتقدات خاطئة أو تقترح سلوكيات غير صحية، وهو ما اعتبرته المؤسسة مؤشرًا مثيرًا للقلق.
وترى ويذرلي أن المشكلة لا تكمن في التكنولوجيا بحد ذاتها، بل في طريقة عرض المعلومات دون توضيح حدودها أو الإشارة إلى تعقيد الحالات النفسية، فالأشخاص الذين يعانون من ضيق نفسي قد يكونون أقل قدرة على التشكيك في إجابة تبدو واثقة ومختصرة، ما يزيد احتمال تأثرهم بمعلومات غير مكتملة.
ورغم الإقرار بأن للذكاء الاصطناعي إمكانات كبيرة لتحسين الوصول إلى المعرفة، تؤكد المؤسسة أن المرحلة الحالية تتطلب حذرًا مضاعفًا، ففي زمن تنتشر فيه المعلومات المضللة بسرعة، يحتاج الجمهور إلى محتوى دقيق ومتوازن يتسم بالتعاطف والمسؤولية، خاصة عندما يتعلق الأمر بالصحة النفسية وسلامة الأفراد.