الوصول إلى بيانات حساسة.. ثغرة في نظام "جيميني" تهدد المستخدمين
كشف باحثون عن ثغرة أمنية في نظام تطبيقات جوجل تسمح للمهاجمين بالوصول إلى بيانات حساسة عبر أداة الذكاء الاصطناعي التوليدي "جيميني" (GenAI)، وتُعد هذه الثغرة الأحدث ضمن سلسلة ثغرات اكتشفها باحثون في "جيميني" وغيرها من مساعدي الذكاء الاصطناعي، مما يُظهر كيف فتحت التطبيقات القائمة على نماذج اللغة الكبيرة (LLM) آفاقًا جديدة للاستغلال.
زرع برمجيات خبيثة
وفقا لما نشر موقع "darkreading" كشفت شركة الأمن السيبراني "ميجو" في منشور على مدونتها، عن ثغرة أمنية تسمح للمهاجمين بزرع برمجيات خبيثة كامنة داخل دعوة عادية في تقويم جوجل، ما يُمكنهم من تجاوز ضوابط الخصوصية في تطبيق الجدولة، وقد استغل باحثو "ميجو" هذه الثغرة للوصول إلى بيانات اجتماعات خاصة، بالإضافة إلى إنشاء أحداث تقويم وهمية خاصة بهم دون أي تفاعل من المستخدم المستهدف.
يكمن الخلل في تكامل Gemini مع تقويم Google، وتعمل خدمة الذكاء الاصطناعي من أجل مساعدة المستخدم في تنظيم الجدول الزمني الخاص، والإجابة على أسئلة سريعة مثل "ما هو جدولي اليوم؟" باستخدام تفاصيل مباشرة من التقويم.
أوضح لياد إلياهو، رئيس قسم الأبحاث في شركة ميجو، في منشوره: "تستغل آلية هذا الهجوم هذا التكامل، ولأن نظام جيميني يستوعب بيانات الأحداث ويفسرها تلقائيًا لتكون مفيدة، فإن المهاجم الذي يستطيع التأثير على حقول الأحداث يمكنه زرع تعليمات باللغة الطبيعية قد ينفذها النموذج لاحقًا."
قصورا هيكليا
لكن ما يجعل اكتشاف هذا الخلل جديرًا بالملاحظة بشكل خاص هو أنه يُظهر "قصورًا هيكليًا" في كيفية تحليل المنتجات المُدمجة بالذكاء الاصطناعي لنوايا المستخدمين ضمن أنظمة الذكاء الاصطناعي اللغوية، كما أوضح إلياهو، ورغم أن جوجل لديها بالفعل آليات في نظام جيميني للكشف عن الرسائل الضارة، إلا أن الباحثين تمكنوا من استغلال هذا الخلل من خلال اللغة الطبيعية.
كتب إلياهو: “الخلاصة واضحة: تُقدم الميزات الأصلية للذكاء الاصطناعي فئة جديدة من الثغرات الأمنية يمكن التلاعب بتطبيقات الذكاء الاصطناعي من خلال اللغة نفسها التي صُممت لفهمها، لم تعد الثغرات الأمنية محصورة في الشيفرة البرمجية، بل أصبحت موجودة في اللغة والسياق وسلوك الذكاء الاصطناعي أثناء التشغيل.”