مصطفى البرماوي: نماذج الذكاء الاصطناعي تعاني من تحيزات خطيرة| فيديو

أكد الدكتور مصطفى البرماوي، خبير التكنولوجيا والذكاء الاصطناعي أن بعض نماذج الذكاء الاصطناعي المتقدمة مثل «ChatGPT» و«Gemini» لا تخلو من التحيزات الفكرية والثقافية، نظرًا لاعتمادها على كمٍّ هائل من البيانات التي قد تحتوي على انحيازات بشرية مسبقة، جاء ذلك خلال مداخلة هاتفية له على قناة النيل للأخبار، تناول فيها أبرز التحديات المرتبطة بأمان واستخدام تقنيات الذكاء الاصطناعي في العالم.

تحيزات في النماذج الذكية

أوضح مصطفى البرماوي، أن الذكاء الاصطناعي في جوهره عبارة عن «ذاكرة رقمية» تتدرب على بيانات ومعلومات ضخمة جُمعت من مصادر مختلفة، وهذه البيانات قد تتضمن تحيزًا ثقافيًا أو سياسيًا أو اجتماعيًا، ما ينعكس مباشرة على مخرجات النماذج مثل الإجابات أو التحليلات التي تقدمها، وأن التحيزات تظهر بوضوح عند مقارنة إجابات النماذج المصممة في بيئات مختلفة، مشيرًا إلى أن «الذكاء الصناعي الصيني يقدم إجابات متأثرة بالمنظور الصيني، بينما يقدم ChatGPT إجابات تميل إلى الرؤية الأمريكية أو الغربية للعالم»، مؤكدًا أن هذه الظاهرة واحدة من أكبر تحديات الذكاء الاصطناعي في الوقت الراهن.

أشار خبير الذكاء الاصطناعي، إلى أن المستخدم العادي يستطيع اكتشاف التحيزات في إجابات النماذج الذكية عبر منهج المقارنة، تمامًا كما يفعل الصحفي عند مراجعة خبر من أكثر من مصدر، قائًلا: «إذا طرحت سؤالًا على نموذج معين، جرب أن تسأل نفس السؤال على نموذج آخر، وستلاحظ فروقًا في طريقة العرض أو التفسير، وهي التي تكشف مدى التحيز في البيانات التي تدرب عليها»، وأن على المستخدم ألا يتعامل مع الذكاء الاصطناعي كعقل بشري يمتلك وعيًا أو نية، بل كأداة تحتاج إلى توجيه دقيق وتحليل نقدي. وأكد أن التحقق من صحة المعلومة عبر أكثر من مصدر هو السبيل الأمثل لتجنب الوقوع في أخطاء أو تضليل ناتج عن التحيز أو «الهلوسة» التي قد تصيب النماذج أحيانًا.

الذكاء الاصطناعي والاختراقات الأمنية

وفيما يتعلق بمخاطر استخدام الذكاء الاصطناعي في الأغراض الضارة، حذر مصطفى البرماوي، من إمكانية تجاوز بعض المستخدمين لأنظمة الأمان في النماذج المتقدمة، ما قد يؤدي إلى تسريب بيانات أو معلومات حساسة. وضرب مثالًا بما يعرف بـ«التشات بوتس» المستخدمة في خدمات العملاء، والتي يمكن للمخترقين استغلالها للحصول على معلومات سرية بطرق غير مباشرة، وأن الخطر الحقيقي يكمن في منح الآلة مساحة اتخاذ القرار داخل نظم العمل التقنية، مشيرًا إلى أن «بعض المستخدمين قد يخدعون النظام عبر إدخال أوامر مضللة، فيتعامل معها الذكاء الاصطناعي كحقائق دون تحقق، ما يفتح الباب أمام اختراقات خطيرة».

أكد خبير التكنولوجيا، أن الشركات المطوِّرة لتقنيات الذكاء الاصطناعي مطالبة بزيادة استثماراتها في إجراءات الأمان قبل طرح أي نموذج للاستخدام العام، وذلك من خلال إجراء اختبارات مكثفة للتأكد من عدم إمكانية «خداع» النظام أو استخدامه في أغراض غير مشروعة، وأن الاتحاد الأوروبي بدأ بالفعل في تطبيق تشريعات جديدة تُعرف باسم AI Act، تُلزم الشركات باتباع معايير محددة للحوكمة وضمان الشفافية وحماية المستخدمين من المخاطر المرتبطة بالذكاء الاصطناعي، مؤكدًا أن هذه الخطوة قد تشكل نموذجًا يُحتذى عالميًا في تنظيم هذا القطاع سريع التطور.

دعوة لاستخدام واعٍ ومسؤول

اختتم الدكتور مصطفى البرماوي، حديثه بالتأكيد على أن الذكاء الاصطناعي يجب أن يُستخدم كأداة مساعدة وليست بديلًا عن التفكير البشري، قائلًا: «استخدم عقلك أولًا، ولا تجعل الآلة تفكر نيابةً عنك أنت المسؤول عن السؤال، وعن تقييم الإجابة ومدى صلاحيتها لقراراتك»، وأن التكنولوجيا في مراحلها الأولى دائمًا ما تمر بمرحلة من النمو السريع تتخللها أخطاء ومشكلات، لكنها تُعدّ فرصًا للتعلم والتطوير، قائلاً: «الذكاء الاصطناعي سيظل أداة قوية، لكن التحكم فيها يبدأ من وعي المستخدم، لا من قدرات الآلة».