تحديث أمني جديد لـ«ChatGPT» لمواجهة هجمات «حقن الطلبات»
أعلنت شركة OpenAI عن إطلاق تحديث أمني مهم لأداة ChatGPT Atlas، بعد اكتشاف فئة جديدة من الهجمات الإلكترونية خلال اختبارات داخلية للأمن السيبراني.
ويأتي هذا التحديث لمواجهة المخاطر المتزايدة التي تستهدف الذكاء الاصطناعي القادر على التفاعل مع الإنترنت واتخاذ إجراءات تشبه تصرفات البشر، مما يجعله هدفًا أكثر تعقيدًا من الأدوات التقليدية.
تهديد جديد يعرف بـ«حقن الطلبات»
يركز التهديد الجديد على ما يعرف بـ"حقن الطلبات"، (prompt injection)، ويخفي المهاجمون فيه تعليمات خبيثة داخل محتويات عادية على الويب أو البريد الإلكتروني أو المستندات، فتقوم أنظمة الذكاء الاصطناعي بتنفيذ هذه التعليمات بدلاً من أوامر المستخدم الأصلية، على سبيل المثال، قد تؤدي رسالة بريد تحمل تعليمات مخفية إلى جعل الوكيل الذكي يرسل استقالة نيابة عن المستخدم، بدلاً من الرد على الرسالة ببساطة.
مواجهة الهجمات الخفية
لكي تتمكن من مواجهة هذه الهجمات، أضاف التحديث نموذجًا جديدًا مدربًا خصيصًا للكشف عن التعليمات الخبيثة ورفض تنفيذها، بالإضافة إلى تطوير نظام "المهاجم التلقائي" الذي يستخدم الذكاء الاصطناعي لمحاكاة هجمات معقدة واكتشاف نقاط الضعف قبل استغلالها.
مميزات ChatGPT Atlas
يذكر أن ChatGPT Atlas يتمتع بقدرة التصفح والتفاعل المباشر مع صفحات الويب، مثل فتح الروابط وملء النماذج وإرسال البريد الإلكتروني، وهذا ما يزيد من أهمية تعزيز أمانه ضد الهجمات المحتملة.
وعلى الرغم من هذه الجهود، أكدت OpenAI أن التهديدات من نوع "حقن الطلبات" ستظل تحديًا مستمرًا لا يمكن القضاء عليه نهائيًا، داعية إلى استمرار تطوير الدفاعات الأمنية ومراقبة الأنظمة باستمرار لحماية المستخدمين من الاستغلال الخبيث في عالم الذكاء الاصطناعي المتطور.
ويعكس هذا التحديث الجديد الذي قامت به شركة OpenAI محاولة مهمة منها لكي تتمكن من مواكبة المخاطر المتجددة في العالم الكبير للذكاء الاصطناعي، وبالتحديد ومع استمرار تطور الهجمات، تبرز الحاجة إلى تحديثات أمنية كبيرة ومستمرة مع ضرورة المراقبة الدقيقة لأداء الأنظمة الذكية وهذا أمرًا مهمًا لحماية المستخدمين من الاستغلال.