باحثون يحذرون من خطر تسميم النماذج في أدوات الذكاء الاصطناعي
حذر باحثون من ثغرة جديدة قد تسمح بتغيير سلوك نماذج الذكاء الاصطناعي عبر ما يُعرف بـ تسميم النماذج وهو تهديد يطال أدوات مثل تشات جي بي تي وجيميناي ويمكن أن يؤدي إلى انتاج محتوى مضلل وغير موثوق به، الدراسة التي شارك فيها مركز الذكاء الاصطناعي البريطاني ومعهد ألان تورينج وشركة انتروبيك سلطت الضوء على سهولة استغلال نقاط الضعف هذه في بيئات التدريب المفتوحة.
حسب ما ذكرته "سكاى نيوز" الخبراء دربوا النماذج على مجموعة وثائق ملوثة ووجدوا أن الاعتماد الكبير على نصوص منشورة عبر الانترنت يجعل هذه النماذج عرضة لتأثير محتوى ضار أو مضلل عبر عملية تسميم النماذج التي قد تبدو بسيطة لكن آثارها واسعة النتائج أظهرت أن كمية محدودة من المحتوى الملوّث قادرة على قلب مخرجات النظام وتحويلها إلى نصوص مبهمة أو مضللة.
والاعتماد الواسع على بيانات متاحة للعامة في تدريب نماذج كبيرة يعني أن أي جهة تستطيع إدخال محتوى ضار في مصادر التدريب قد تؤثر على أداء النماذج وذلك سببه أن نماذج التعلم الآلي تتعلم من الأنماط المتكررة في البيانات وهذه الحقيقة تجعل رصد وحماية مصادر البيانات أمراً حاسماً للحد من مخاطر تسميم النماذج وحماية الأنظمة التي تُستخدم في مجالات حساسة.
التداعيات تشمل تقويض الثقة في التطبيقات المعتمدة على الذكاء الاصطناعي وتقييد استخدام هذه التقنيات في المجالات الطبية والمالية والأمنية ما لم تتوفر آليات رقابة ومراجعة فعالة، كما أن الكشف المتأخر عن مثل هذه الهجمات قد يؤدي إلى نشر معلومات خاطئة على نطاق واسع قبل اكتشافها وإصلاحها.
كيف يمكن التصدي دون إفشاء تفاصيل تقنية ضارة
يشدد الباحثون على أهمية تحسين إدارة جودة البيانات ومراقبة مصادرها وتطبيق طرق تقييم مستقلة للمخرجات قبل الاعتماد عليها في القرارات الحساسة كما ينبغي على مطوري النماذج اعتماد سياسات قوية للشفافية والتدقيق والتعاون مع مؤسسات مستقلة لفحص سلامة البيانات التركيز على بنى تدريب تضيف طبقات حماية ومنهجيات لتقليل الاعتماد على مصادر غير موثوقة يعد خطوة مهمة لمواجهة مخاطر تسميم النماذج.
ويعد الوعي العام والتعاون بين الباحثين والمشرعين والقطاع الخاص ضرورياً للحد من هذه المخاطر وضمان استفادة المجتمع من قدرات الذكاء الاصطناعي بشكل آمن ومسؤول.