كسر الحماية.. تهديد صيني يعيد الجدل حول أمان الذكاء الاصطناعي
في مشهد تقني متسارع يثير الدهشة والقلق معاً، يطفو على السطح مفهوم كسر الحماية بوصفه أحد أبرز التحديات التي تواجه صناعة الذكاء الاصطناعي. فقد أطلقت شركة "ديب سيك" الصينية، الناشئة ومقرها هانغتشو، تحذيراً غير مسبوق بشأن المخاطر التي تترتب على النماذج مفتوحة المصدر، مؤكدة أن إزالة آليات الأمان المدمجة يحوّل هذه النماذج إلى أدوات قد تُستغل لأغراض خبيثة.
تهديدات متزايدة مع النماذج المفتوحة
وبحسب موقع "scmp" فهناك ورقة بحثية نُشرت بمجلة "Nature"، أشارت "ديب سيك" إلى أن نماذجها، مثل R1 وV3، خضعت لاختبارات صارمة باستخدام "الفِرق الحمراء" لمحاكاة محاولات استغلال النظام. وأظهرت النتائج أن نموذج R1، الذي أُطلق في يناير الماضي، يصبح "غير آمن نسبياً" فور تعطيل الضوابط الخارجية. وتؤكد الشركة أن هذه الثغرات لا تقتصر على منتجاتها، بل تمتد إلى نماذج منافسة مثل GPT-4o من "OpenAI" وClaude-3.7 من "أنثروبيك"، والتي أبدت أيضاً معدلات استجابة ضارة أعلى عند مواجهة هجمات كسر الحماية.
تكلفة منخفضة تثير التساؤلات
من النقاط اللافتة في الدراسة أن تكلفة تدريب نموذج R1 بلغت نحو 294 ألف دولار فقط، وهو مبلغ يقل بكثير عن التكاليف الضخمة التي تنفقها الشركات الأميركية على تدريب نماذجها العملاقة. هذا الرقم أثار تساؤلات حول قدرة الصين على إنتاج نماذج منافسة بتكلفة أقل، مع الإبقاء على مستويات الجودة والأمان، خاصة في ظل تنامي محاولات كسر الحماية التي تكشف نقاط الضعف بسرعة.
استجابة رسمية في بكين
التحذير تزامن مع دعوات رسمية في العاصمة الصينية لتحقيق التوازن بين التطوير والحوكمة الآمنة للذكاء الاصطناعي. فقد نبّهت هيئة المعايير التقنية التابعة لإدارة الفضاء الإلكتروني الصيني إلى أن الثغرات في النماذج المفتوحة قد تنتقل بسهولة إلى تطبيقات مستقبلية، مما يسهل على المجرمين تطوير "نماذج خبيثة". وهنا يظهر الخطر الأكبر: أن يصبح كسر الحماية بوابة واسعة لاستخدام غير مشروع.
شفافية صينية غير معتادة
اللافت أيضاً أن ظهور "ديب سيك" في مجلة "Nature" عُدّ خطوة تاريخية، واعتبر على منصات التواصل المحلية "أول ظهور بارز يخضع لمراجعة الأقران" لشركة صينية في هذا المجال. هذه الخطوة قد تشجع لاعبين آخرين على المزيد من الشفافية في أبحاث الأمان، بما يسهم في التصدي لظاهرة كسر الحماية التي تعيد طرح السؤال العالمي الأزلي: كيف نوازن بين الابتكار والسرعة من جهة، وبين المسؤولية والسلامة من جهة أخرى؟