باستخدام الذكاء الاصطناعي.. Google تعين نماذج لمراقبة إجراءات الوكلاء
يتزايد عدد المتصفحات التي تُجرب ميزاتٍ فعالة تُنفذ إجراءاتٍ نيابةً عنك، مثل حجز التذاكر أو شراء سلعٍ مُختلفة، ومع ذلك، فإن هذه الميزات الفعّالة تنطوي أيضًا على مخاطر أمنية قد تُؤدي إلى فقدان البيانات أو الأموال، فصّلت جوجل نهجها في التعامل مع أمان المستخدم على كروم باستخدام نماذج المراقبة وموافقة المستخدم على أفعاله، واستعرضت الشركة إمكانيات الوكيل على كروم في سبتمبر، وقالت إنها ستُطرح هذه الميزات في الأشهر المقبلة.
نماذج لمراقبة إجراءات الوكلاء
وفقا لموقع "techcrunch"، ذكرت الشركة أنها تستعين ببعض النماذج لمراقبة إجراءات الوكلاء، وأوضحت جوجل أنها أنشأت ناقدًا لمواءمة المستخدم عن طريق جيميني لفحص بنود الإجراءات التي وضعها نموذج المخطط لمهمة معينة، إذا رأى نموذج الناقد أن المهام المخطط لها لا تحقق هدف المستخدم، فإنه يطلب من نموذج المخطط إعادة النظر في الاستراتيجية، وأشارت جوجل إلى أن نموذج الناقد لا يطلع إلا على البيانات الوصفية للإجراء المقترح، وليس على محتوى الويب الفعلي.
علاوة على ذلك، لمنع الوكلاء من الوصول إلى المواقع المحظورة أو غير الموثوقة، تستخدم جوجل مجموعات أصول الوكلاء، والتي تُقيد وصول النموذج إلى أصول القراءة فقط والأصول القابلة للقراءة والكتابة، أصول القراءة فقط هي البيانات التي يُسمح لـ Gemini باستهلاك المحتوى منها، على سبيل المثال، في موقع تسوق، تكون القوائم ذات صلة بالمهمة، لكن إعلانات البانر ليست كذلك، وبالمثل، صرحت جوجل بأنه يُسمح للوكيل فقط بالنقر أو الكتابة على إطارات مضمنة محددة في الصفحة.
توفير البيانات
يُلزم هذا التحديدُ الوكيل بتوفير بياناتٍ من مجموعةٍ محدودةٍ من المصادر فقط، ولا يُمكن تمرير هذه البيانات إلا إلى المصادر القابلة للكتابة، يُحد هذا من خطر تسريبات البيانات بين المصادر، كما يُتيح للمتصفح القدرة على تطبيق هذا الفصل، كأن لا يُرسل بياناتٍ خارج المجموعة القابلة للقراءة إلى النموذج، كما ذكرت الشركة في منشورٍ على مدونتها.
تُراقب جوجل أيضًا تصفح الصفحات من خلال فحص عناوين URL باستخدام نموذج مُراقب آخر، وأوضحت الشركة أن هذا يُمكن أن يمنع الوصول إلى عناوين URL ضارة مُولّدة من النموذج.
طلب إذن من المستخدم
صرحت شركة البحث العملاقة أنها تُسلم أيضًا زمام الأمور للمستخدمين في المهام الحساسة، على سبيل المثال، عندما يحاول وكيل تصفح موقع إلكتروني يحتوي على معلومات حساسة، مثل بياناتك المصرفية أو الطبية، فإنه يسأل المستخدم أولًا، أما بالنسبة للمواقع التي تتطلب تسجيل الدخول، فسيطلب الإذن من المستخدم للسماح لمتصفح كروم باستخدام كلمات المرور، وأكدت جوجل أن نموذج الوكيل لا يطّلع على بيانات كلمات المرور، وأضافت الشركة أنه سيسأل المستخدمين قبل اتخاذ أي إجراءات، مثل إجراء عملية شراء أو إرسال رسالة.
وقالت جوجل إنه بالإضافة إلى ذلك، لديها أيضًا مصنف حقن سريع لمنع الإجراءات غير المرغوب فيها، كما تختبر أيضًا قدرات الوكيل ضد الهجمات التي أنشأها الباحثون.
يُولي مُطوّرو متصفحات الذكاء الاصطناعي اهتمامًا بالغًا بالأمن، ففي وقت سابق من هذا الشهر، أصدرت شركة Perplexity نموذجًا جديدًا مفتوح المصدر للكشف عن المحتوى لمنع هجمات الحقن الفوري ضد الوكلاء.