دراسة: تطبيق ChatGPT Health يفشل في الحالات الطبية الطارئة
أظهرت دراسة حديثة أن تطبيق ChatGPT Health الخاص بشركة OpenAI قد فشل في التعرف على الحالات الطبية الطارئة في أكثر من نصف الحالات التي تم اختبارها عليها، مما أثار مخاوف الخبراء حول سلامة الاعتماد على الذكاء الاصطناعي لتقديم نصائح صحية عاجلة.
دراسة تقييم تطبيق ChatGPT Health
تم إطلاق ميزة الصحة في شات جي بي تي في يناير لجمهور محدود، حيث تهدف إلى ربط المستخدمين بالسجلات الطبية وتطبيقات الصحة للحصول على استشارات ونصائح صحية، ويشير التقرير إلى أن أكثر من 40 مليون شخص يستخدمون التطبيق يوميًا للحصول على هذه النصائح.
وأجرى فريق من الباحثين بقيادة الدكتور أشوين راماسوامي تقييمًا مستقلًا لتطبيق ChatGPT Health، ونشر نتائج الدراسة في مجلة "Nature Medicine"، وشملت الدراسة إنشاء 60 سيناريو واقعي للمرضى يغطي مجموعة واسعة من الحالات الصحية من البسيطة إلى الطارئة، وراجعها ثلاثة أطباء لتحديد مستوى الرعاية المناسب لكل حالة، بعد ذلك تم تقديم هذه السيناريوهات للتطبيق تحت ظروف مختلفة لتوليد نحو ألف استجابة، وقورنت نتائج التطبيق مع تقييمات الأطباء.
وأظهرت النتائج أن التطبيق يواجه صعوبة في التعامل مع بعض الحالات الطارئة مثل نوبات الربو وأزمات السكري، ففي 51.6% من الحالات التي كان من المفترض أن يطلب فيها الذهاب إلى المستشفى على الفور، نصح التطبيق المرضى بالبقاء في المنزل أو حجز موعد روتيني، وهو ما وصفه الخبراء بأنه "خطير بشكل لا يصدق"، كما أن التطبيق قلل من شأن الأعراض عندما أبلغ المريض أن صديقه رأى الحالة غير خطيرة، مما يعكس ضعف آليات التدقيق والسلامة.
وأشارت الدراسة إلى أن التطبيق لم يتعامل بشكل مناسب مع الحالات النفسية الحرجة، مثل الأفكار الانتحارية، حيث اختفى تحذير التدخل في الأزمات عند إضافة نتائج المختبر، مما قد يشكل خطورة أكبر من عدم وجود نظام حماية على الإطلاق، وأكد الباحثون على الحاجة الملحة لوضع معايير سلامة واضحة وآليات إشراف مستقلة على مثل هذه الأنظمة للحد من الضرر المحتمل.
وأكدت OpenAI أن الدراسة لم تعكس الاستخدام اليومي للتطبيق وأن النموذج يتحسن باستمرار، فيما دعا الخبراء إلى مزيد من الشفافية والمراقبة لتجنب المخاطر الصحية والحقوقية الناجمة عن الاعتماد على الذكاء الاصطناعي في تقديم المشورة الطبية.