هل يتعرض الروبوت لتلف الدماغ مثل البشر؟.. دراسة تجيب
أفادت دراسة حديثة بأن العمود الفقري للربوت (LLMs)، من الممكن أن يعاني من تدهور إدراكي كبير عند تدريبه بشكل كبير ومتكرر على نص عبر الإنترنت منخفض الجودة، وهو ما يضعف تفكيره وذاكرته وموثوقيته الأخلاقية مثل ما يحدث أحيانا للبشر عند تعرضهم لكم كبير من المعلومات.
ووفقا لما نشر على موقع “business-standard” حذرت دراسة بحثية بعنوان "الحاصلون على شهادة الماجستير في القانون قد يصابون بتلف في الدماغ"، من أن التدريب المستمر على المحتوى الفيروسي القائم على المشاركة قد يجعل أنظمة الذكاء الاصطناعي المتقدمة أقل قدرة وأكثر تقلبا بمرور الوقت.
ما هي نظرية "تعفن الدماغ"؟
اقترح الباحثون ما أطلقوا عليه "فرضية تعفن الدماغ"، وهي أن الاستمرار في التدريب المسبق على محتوى ويب تافه أو مدفوع بالمشاركة أو منخفض المعلومات لفترات طويلة يمكن أن يعيق قدرة نموذج الذكاء الاصطناعي على التفكير وفهم السياق الطويل والاتساق الأخلاقي.
يشتق هذا المصطلح من عبارة "تعفن الدماغ على الإنترنت"، والتي تستخدم لوصف الإرهاق الذي يصيب الأشخاص الذين يستهلكون كميات كبيرة من المحتوى الإلكتروني السطحي أو المدمن، وقد قارن الفريق بين كيفية فقدان البشر للتركيز أو عمق التفكير نتيجة التعرض المفرط لوسائل الإعلام التافهة، وكيف قد تعاني نماذج اللغة من تدهور مماثل عند تدريبها على نصوص سطحية.
كيف اختبر العلماء تأثيرات البيانات غير المرغوب فيها على نماذج الذكاء الاصطناعي؟
لاختبار فرضيتهم، صمم الباحثون تجربة خاضعة للرقابة باستخدام بيانات حقيقية من منصة التواصل الاجتماعي X، وقد أنشأوا مقياسين لتحديد المحتوى غير المرغوب فيه.
استخدم كلا المقياسين لإنشاء مجموعات بيانات تحتوي على نسب متفاوتة من المحتوى غير المرغوب فيه والمحتوى عالي الجودة، ثم أخضع الباحثون أربعة برامج شائعة لإدارة التعلم، بما في ذلك Llama3 وQwen2.5، لتدريب مسبق متكرر باستخدام هذه المجموعات.
خضع كل نموذج لظروف التدريب نفسها، مما سمح للعلماء بعزل تأثير جودة البيانات، كانت الفكرة هي محاكاة ما يحدث عندما تواصل أنظمة الذكاء الاصطناعي التعلم من بيئات الإنترنت الحالية، حيث تتزايد نسبة المحتوى القصير أو الفيروسي أو المولد آليا.
كشفت الدراسة نتائج مذهلة، فعندما دربت النماذج بالكامل على بيانات غير مرغوب فيها، انخفضت دقة استنتاجها من 74.9 إلى 57.2، بينما انخفض فهم السياق الطويل من 84.4 إلى 52.3. لم يكن هذا الانخفاض عشوائيا، بل تفاقم مع زيادة نسبة المحتوى غير المرغوب فيه في بيانات التدريب، مما أظهر ما أسماه المؤلفون “تأثير الجرعة والاستجابة”
تحمل هذه النتائج تداعيات بالغة الأهمية على مطوري الذكاء الاصطناعي وصانعي السياسات، تعيد الدراسة صياغة معالجة البيانات ليس فقط كتفاصيل تقنية، بل كـ"مسألة تتعلق بسلامة وقت التدريب"، ويبدو أن التعرض المستمر لنصوص ذات جودة رديئة يضعف الموثوقية المعرفية والأخلاقية.
في النهاية جادل المؤلفون بأن البيانات غير المرغوب فيها تقلل من "عمق التفكير" و"التوافق الأخلاقي" لنموذج الذكاء الاصطناعي، وتضعف أيضا قدرته على حفظ المعلومات واستخدامها على مدى سياقات طويلة، وهذا يحاكي الدراسات البشرية التي تشير إلى أن التعرض لمحتوى تافه أو مشحون عاطفيا يُمكن أن يضعف التركيز والذاكرة.