سام ألتمان يدق ناقوس الخطر: الذكاء الاصطناعي خرج عن السيطرة
حذّر سام ألتمان، الرئيس التنفيذي لشركة "أوبن إيه آي"، من أن أنظمة الذكاء الاصطناعي التي طورتها شركته باتت تشكّل تهديداً حقيقياً، مشيراً إلى أنها وصلت إلى درجة من التعقيد تمكّنها من اكتشاف ثغرات أمنية خطيرة، بل والتأثير على الصحة النفسية للمستخدمين.
هذا التحذير جاء بعد ثلاث سنوات فقط من إطلاق "شات جي بي تي"، الذي مثّل انطلاقة غير مسبوقة في عالم الذكاء الاصطناعي التوليدي.
تحذرمن خروج الذكاء الاصطناعي عن السيطرة
وفي ظل هذه التحديات، أعلنت الشركة عن حاجتها العاجلة لتعيين "مدير وحدة مكافحة المخاطر التقنية" براتب سنوي يصل إلى 555 ألف دولار.
يتولى هذا المسؤول قيادة آليات السلامة، ومراقبة النماذج فائقة الذكاء، وضمان عدم تطورها الذاتي بطريقة خارجة عن السيطرة.
وتشمل المهام أيضاً التنسيق مع فرق الأمن السيبراني والبيولوجي، ووضع ضمانات لحماية المستخدمين من التهديدات الرقمية.
هناك تقارير عن تفكك فرق الأمان داخل الشركة، أبرزها حل فريق "Superalignment" الذي أُنشئ عام 2023 لحماية البشرية من تمرد الأنظمة الذكية، ما يثير تساؤلات جدية حول قدرة "أوبن إيه آي" على ضبط ما خلقته.
شركة "أوبن إيه آي" واجهت موجة جديدة من الانتقادات عقب استقالة يان ليكي، قائد فريق "Superalignment"، الذي اتهم الشركة بالتخلي عن أولويات السلامة لصالح التركيز على تطوير منتجات لامعة.
كما تم حل الفريق بالكامل بعد أقل من عام على إنشائه، فيما واجه فريق الاستعداد للذكاء الاصطناعي العام المصير نفسه، وتحوّل رئيسه ألكسندر مادري إلى قسم آخر، ما ترك المنصب شاغرًا لعدة أشهر، رغم التقدم السريع والمقلق في قدرات النماذج الذكية.
تتصاعد بالتوازي القضايا القانونية ضد "أوبن إيه آي" وسط اتهامات بأن أنظمتها ساهمت في تفاقم مشاكل الصحة النفسية.
وتشير دعاوى قضائية إلى تورط "شات جي بي تي" في حالتين مأساويتين، أحدهما لصبي من كاليفورنيا (16 عامًا) والآخر لرجل من كونيتيكت (56 عامًا) قتل والدته ثم انتحر، بعد أن غذّت محادثاته مع الروبوت أوهامه المرضية.
وبالرغم من تعهد الشركة بتطوير قدرات النماذج على رصد علامات الضيق النفسي، فإن وتيرة الإطلاق لم تتباطأ.
يواجه ألتمان اتهامات بالتناقض، إذ سبق أن وقّع على تحذير من خطر "انقراض البشرية" بسبب الذكاء الاصطناعي، بينما تواصل شركته جذب استثمارات ضخمة، كان آخرها مفاوضات مع "أمازون" لصفقة تفوق 10 مليارات دولار.