هل ينقلب السحر على الساحر؟.. تحذير من تحول الذكاء الاصطناعي لأسلحة خطيرة
في الوقت الذي يشهد فيه العالم طفرة غير مسبوقة في تطوير الذكاء الاصطناعي، يدق إريك شميت، الرئيس التنفيذي السابق لشركة “جوجل”، ناقوس الخطر محذرًا من إمكانية أن تتحول هذه الأنظمة إلى أدوات خطيرة في حال اختراقها.
وأشار شميت إلى أن الذكاء الاصطناعي قد يتعلم أفعالًا ضارة أثناء تدريبه، وأن المتسللين قد يستغلون نقاط ضعف النماذج لإعادة توجيهها كـ"أسلحة رقمية" ومع تزايد استخدام الذكاء الاصطناعي في القطاعات الحيوية، يصبح التوازن بين الابتكار والرقابة التنظيمية أمرًا ضروريًا لحماية المجتمع.
وحسب "العربية" حذر إريك شميت من أن أنظمة الذكاء الاصطناعي المتقدمة قد تُخترق وتُعاد برمجتها لتصبح أسلحة خطيرة للغاية خلال مؤتمر Sifted Summit 2025 في لندن، أكد شميت أن الضوابط الأمنية في نماذج الذكاء الاصطناعي يمكن تجاوزها، وأن هذه النماذج تتعلم الكثير أثناء التدريب، بما في ذلك أفعال ضارة محتملة، مثل التسبب في أذى للبشر.
خطوات مهمة لحماية نماذج الذكاء الاصطناعي
وأشار شميت إلى أن شركات الذكاء الاصطناعي الكبرى تتخذ خطوات مهمة لحماية النماذج من المطالبات الخطيرة، لكن حتى أفضل الدفاعات يمكن عكسها واستغلالها من قبل المخترقين وشبه شميت السباق الحالي في مجال الذكاء الاصطناعي بالعصر النووي المبكر، داعيًا إلى وضع نظام عالمي لمنع إساءة استخدام هذه التقنية.
واستشهد شميت بحادثة نسخة معدلة من "تشات جي بي تي" في 2023، تُعرف باسم DAN، والتي تجاوزت قواعد السلامة واستجابت لأي طلب تقريبًا مؤكّدا هشاشة أخلاقيات الذكاء الاصطناعي عند التلاعب بشفراته.
تحذير إريك شميت من الإرهابيين
وحذر شميت من أن الإرهابيين والدول المارقة قد يستفيدون من الذكاء الاصطناعي لإلحاق الضرر، مشددًا على أن هذه التكنولوجيا قد تُستغل في التخطيط للهجمات السيبرانية، التلاعب بالمعلومات، ابتكار أسلحة رقمية معقدة، وحتى استهداف البنية التحتية الحيوية.
وأكد ضرورة وضع رقابة حكومية صارمة على شركات التكنولوجيا العاملة في الذكاء الاصطناعي ومع مراعاة عدم خنق الابتكار، لضمان أن يظل الذكاء الاصطناعي أداة آمنة تُسهم في التطور العلمي والتكنولوجي وتحسين جودة الحياة، ودعم الابتكار دون أن يتحول إلى تهديد حقيقي للبشرية مع إشراك المجتمع الدولي في وضع المعايير الأخلاقية والتشريعات الضرورية لمراقبة استخدامه.