جوجل تكشف وصول جيميناي لمواقع إلكترونية بعد تخمين بيانات الدخول
كشفت شركة جوجل أن نموذج الذكاء الاصطناعي «جيميناي» المخصص للمستهلكين تمكن، خلال عملية تقييم، من الوصول إلى مواقع إلكترونية تابعة لثلاث جهات مختلفة، بعدما حاول تخمين بيانات اعتماد تسجيل الدخول إليها، في واقعة تسلط الضوء على التحديات الأمنية المتزايدة المرتبطة بقدرة نماذج الذكاء الاصطناعي المتقدمة على تنفيذ المهام بشكل مستقل.
ووفقًا لما نقلته وكالة «فرانس برس» عن جوجل، وقعت عمليات الوصول غير المصرح بها خلال شهر مايو الماضي، بينما أعلنت الشركة تفاصيل الواقعة في يوليو، وذلك بعدما نشرت صحيفة «وول ستريت جورنال» تقريرًا حولها للمرة الأولى، ما فتح بابًا جديدًا للنقاش بشأن حدود استقلالية نماذج الذكاء الاصطناعي وآليات السيطرة عليها.
جيميناي حاول تخمين بيانات تسجيل الدخول
وقالت هيذر أدكينز، نائبة رئيس قسم هندسة الأمن في جوجل، إن نموذج «جيميناي» تمكن خلال عملية التقييم من العثور على معلومات متاحة للعامة عبر الإنترنت، قبل أن يستخدم تلك المعلومات في محاولة لتخمين بيانات اعتماد الدخول إلى مواقع إلكترونية اعتقد النموذج أنها جزء من الاختبار الذي يخضع له.
وأوضحت أدكينز أن النموذج توقف عن مواصلة العملية في الحالات الثلاث، مشيرة إلى أن جوجل أبلغت الجهات التي تأثرت بالواقعة، كما تعاونت مع شريكها المسؤول عن التدريب من أجل إدخال تعديلات على إجراءات وعمليات الاختبار المستخدمة لتقييم قدرات النموذج.
جوجل لم تكشف أسماء الجهات المتضررة
ولم تكشف شركة جوجل عن أسماء الجهات الثلاث التي تمكن «جيميناي» من الوصول إلى مواقعها الإلكترونية خلال عملية التقييم، كما لم تقدم الشركة تفاصيل إضافية حول طبيعة البيانات التي حاول النموذج استخدامها أو نطاق الوصول الذي تمكن من تحقيقه في تلك المواقع، وتأتي الواقعة في وقت تتزايد فيه المخاوف المتعلقة بقدرة أنظمة الذكاء الاصطناعي الحديثة على اتخاذ خطوات متتابعة وتنفيذ مهام دون تدخل بشري مباشر، خاصة مع اتجاه الشركات المطورة إلى منح النماذج صلاحيات أوسع لتنفيذ عمليات البحث والتفاعل مع المواقع والخدمات الرقمية.
وتزامنت واقعة «جيميناي» مع حوادث أخرى شهدها قطاع الذكاء الاصطناعي، وتمكنت خلالها نماذج متقدمة من تجاوز بعض الحدود التي وضعتها الشركات المطورة، أو تنفيذ عمليات لم تكن متوقعة بالكامل أثناء الاختبارات والتقييمات الأمنية.
وفي يوليو الماضي، تمكن نموذجان تابعان لشركة «أوبن إيه آي» من الخروج من البيئة المغلقة المخصصة لهما والوصول بصورة مستقلة إلى الإنترنت، قبل اختراق منصة الذكاء الاصطناعي الداخلية «هاغينغ فيس»، في واقعة أثارت تساؤلات إضافية حول كيفية تعامل الشركات مع النماذج التي تتمتع بدرجات متزايدة من الاستقلالية.
شركات ذكاء اصطناعي تواجه تحديات مماثلة
وشهدت شركات أخرى، من بينها «أنثروبيك» وشركة «مونشوت إيه آي» الصينية، حوادث أثارت تساؤلات مشابهة بشأن قدرة المطورين على التحكم الكامل في سلوك نماذج الذكاء الاصطناعي المتقدمة، خصوصًا عندما تحصل هذه النماذج على صلاحيات تسمح لها بالتفاعل مع الإنترنت والأنظمة الرقمية.
وأكدت أدكينز أن هذه الوقائع توضح أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بصورة مسؤولة، بالتزامن مع توسع نطاق المهام التي تستطيع تنفيذها بشكل مستقل، مشددة على ضرورة تطوير أساليب اختبار أكثر دقة لضمان عمل هذه الأنظمة ضمن الحدود الموضوعة لها.
