30 ألف دولار مكافأة من شركة جوجل لمن يمكنه اختراق ذكائها الاصطناعي
تسعى شركة جوجل بشكل مستمر في تطوير خدماتها وتعزيز استثماراتها في مجال الذكاء الاصطناعي، حيث أطلقت الشركة برنامجها الجديد الذي يركز بشكل أساسي وحصري على اكتشاف الثغرات في أنظمتها الذكية، وهو برنامج مكافآت أمنية جديد يدعو الباحثين الأمنيين والهاكرز للكشف عن نقاط الضعف والثغرات التي توجد في أنظمة الذكاء الاصطناعي، وحددت الشركة مكافآت تصل إلى 30,000 دولار أمريكي لمن يكتشف الثغرة، حيث قامت شركة جوجل بتحديث برنامج مكافآت الثغرات التقليدي، لكنه ينتقل إلى تحديات الذكاء الاصطناعي الفريدة مثل السلوكيات الخطرة، ومنها أيضا تسريب البيانات أو تنفيذ أوامر خاطئة أو التلاعب بالأجهزة المتصلة، كما أطلقت جوجل أداة Code Mender، وهي الأداة المسؤولة عن إصلاح الثغرات التي توجد في نظام الذكاء الاصطناعي بشكل تلقائي في البرمجيات مفتوحة المصدر، مما يعكس التزامها بأمان التكنولوجيا.
أنواع الثغرات في الذكاء الاصطناعي التي حددتها شركة جوجل
قامت شركة جوجل بتحديد أنواع للثغرات المستهدفة بشكل واضح، مثل خداع جهاز Google Home لفتح أبواب ذكية، أو استخدام أوامر بشكل مخفي لتلخيص رسائل Gmail وإرسالها إلى طرف ثالث، وتعد ذه الثغرات عالية الخطورة، ولذلك تسعى شركة جوجل لكشفها قبل استغلال هذه الثغرات، وعلى الرغم من ذلك لا تعد الهلوسات التي توجد في نماذج مثل Gemini ثغرة، بل يجب الإبلاغ عن مشكلات المحتوى مثل خطاب الكراهية أو انتهاك حقوق النشر، وذلك من خلال أدوات التعليقات داخل المنتج لمساعدة فرق السلامة في إعادة تدريب النماذج.
مكافآت تصل إلى 20000 دولار
أعلنت شركة جوجل مكافآت تصل إلى 20,000 دولارا، وذلك لمن يكتشف الثغرات التي توجد في المنتجات الرئيسية مثل البحثGemini، Gmail، وDrive، وأكدت الشركة أن المكافآت قد ترتفع إلى 30,000 دولارا، في حال كان التقرير متميزاً، ولكن إذا طرحت حلولت للثغرات في أدوات مثل Notebook LM أو Jules، فتحصل على مكافآت أقل ماديا ولكنها أيضا قيمة، وهو ما جعل عدد كبير من الباحثين أكثر من 430,000 دولارا من اكتشاف مخاطر الذكاء الاصطناعي، ويأتي هذا ضمن خطة جوجل لدمج الذكاء الاصطناعي بأعلى أمان.
ماذا تعرف عن أداة Code Mender؟
Code Mender: هي أداة ذكاء اصطناعي قامت شركة جوجل بإطلاقها، وذلك لكشف وإصلاح الثغرات في البرمجيات مفتوحة المصدر، وقد ساهمت الأداة الجديدة في تصحيح أكثر من 70 مشكلة بعد مراجعتها بشرياً، مما يبرز دور الذكاء الاصطناعي في تعزيز الأمان.