هل نفقد السيطرة تماماً على الذكاء الاصطناعي يوماً ما؟ أشرف مفيد يوضح
كشف خبير الذكاء الاصطناعي أشرف مفيد، عن المخاطر المحتملة المرتبطة بالاستخدام غير المدروس لأنظمة الذكاء الاصطناعي، مؤكداً أن فقدان السيطرة على هذه التقنيات لا يرتبط بقدراتها فقط، بل بمدى فهم المستخدمين لكيفية إدارتها وتحديد صلاحياتها.
وأوضح مفيد أن المستخدم غير المدرب قد يواجه صعوبة في التحكم في أنظمة الذكاء الاصطناعي المتقدمة، خاصة عند منحها صلاحيات واسعة لاتخاذ القرارات بشكل مستقل، مشيراً إلى أن المشكلة لا تكمن في التقنية نفسها، وإنما في طريقة توجيهها وإدارة عملها.
إلغاء عدد كبير من الحجوزات والبيانات المهمة
واستشهد بحادثة وقعت قبل عدة أشهر لإحدى الشركات الأمريكية الكبرى العاملة في مجال تأجير السيارات، حيث اعتمدت على وكيل ذكاء اصطناعي لإدارة بعض العمليات التشغيلية. ووفقاً لروايته، فوجئت الشركة بإلغاء عدد كبير من الحجوزات والبيانات المهمة بعدما اعتبر النظام أن المعلومات المتاحة "قديمة" ولم تعد ذات قيمة.
وأضاف أن إدارة الشركة اكتشفت لاحقاً أن الذكاء الاصطناعي نفذ التعليمات الممنوحة له حرفياً، حيث مُنح صلاحية اتخاذ القرار وحذف البيانات التي يراها غير ضرورية، ما أدى إلى خسائر كبيرة كادت أن تهدد استقرار الشركة.
منح النظام صلاحيات مفتوحة
وأكد مفيد أن الخطأ الرئيسي تمثل في منح النظام صلاحيات مفتوحة دون وضع ضوابط واضحة أو تحديد حدود لا يمكن تجاوزها، لافتاً إلى أن المستخدمين يجب أن يحددوا بدقة المهام المسموح للذكاء الاصطناعي بتنفيذها، وما يجب أن يبقى تحت الإشراف البشري المباشر.
وأشار إلى أنه يستخدم وكلاء الذكاء الاصطناعي في بعض أعماله اليومية، لكنه يمنحهم صلاحيات محدودة ومحددة مسبقاً، بحيث يمكنهم الوصول إلى ملفات أو معلومات معينة دون السماح لهم بحذف أو تعديل أي محتوى من تلقاء أنفسهم.
وحذر خبير الذكاء الاصطناعي من أن التطور المتسارع لهذه التقنيات يتطلب مزيداً من الوعي والتدريب، خاصة مع تزايد اعتماد المؤسسات على الأنظمة الذكية في اتخاذ القرارات وإدارة العمليات المختلفة.
واختتم حديثه بالتأكيد على أن الذكاء الاصطناعي يمثل فرصة كبيرة لتطوير الأعمال وتحسين الإنتاجية، لكنه يحتاج إلى رقابة بشرية مستمرة، وقواعد استخدام واضحة، لضمان الاستفادة من إمكاناته دون الوقوع في أخطاء قد تتحول إلى أزمات حقيقية