كيفية السيطرة على الذكاء الاصطناعي قبل فوات الأوان.. حمادة رزق يحذر|خاص
مع التطور السريع الذي يشهده مجال تقنيات الذكاء الاصطناعي، بدأت الحقيقة تختلط بالزيف عند البعض، وكلما زاد تطوره زادت الحيرة والتشكك في الحقائق من حولنا.
وفي السطور التالية شرح لنا الدكتور حمادة رزق أستاذ بكلية الهندسة بجامعة طنطا، وأستاذ زائر بجامعة أوساكا باليابان واحد علماء مركز ريكن للحوسبة المتقدمة في اليابان.
كيف نميز بين المحتوى الحقيقي والمحتوى المصنوع بالذكاء الاصطناعي؟
قال الدكتور حمادة رزق في تصريح خاص لـ “إيجبتك” إن التمييز بين المحتوى الحقيقي والمصنوع بالذكاء الاصطناعي أصبح أصعب بكثير من الماضي، لكنه ما زال ممكنا، غالبا ما يعتمد المحتوى المزيف على التأثير العاطفي المبالغ فيه، سواء بالإبهار الزائد، أو التخويف، أو السخرية، أو الصدمة.
في الفيديوهات قد تظهر تعبيرات وجه غير طبيعية أو عدم تطابق دقيق بين حركة الشفاه والصوت، وفي الصور يمكن ملاحظة أخطاء صغيرة مثل تشوه في الأصابع أو تفاصيل غير منطقية في الخلفية.
ومع ذلك، يظل المؤشر الأهم دائما هو المصدر؛ فإذا لم يكن هناك مصدر واضح أو لم يكن الخبر منشورا عبر وسيلة إعلام موثوقة، فمن الضروري التوقف والتحقق قبل التصديق أو المشاركة.
أخطر ما قد نصل إليه هو فقدان الثقة في الحقيقة نفسها؛ لما يصبح أي فيديو أو تسجيل صوتي قابلا للتشكيك حتى بعد التحقق، يدخل المجتمع في مرحلة خطيرة من عدم اليقين، لا تصديق كامل ولا تكذيب كامل، ودي بيئة مثالية لانتشار الشائعات والفوضى الاجتماعية، لذلك ظهر نوع جديد من الأدوات على الإنترنت مصمم خصيصًا لمساعدة الناس على اكتشاف المحتوى المزيف.
وتابع “رزق” قائلا: "في الوقت الحالي في مواقع وأدوات تستخدم الذكاء الاصطناعي نفسها كي تتحقق من الصور والفيديوهات والأصوات، وهي مهمة جدا في مواجهة التضليل الرقمي، فيه مثلاً أدوات تكشف الفيديوهات المزيفة (Deepfake) مثل Deepware Scanner و Sensity AI و Reality Defender، اللي بتحلل الفيديوهات والصور لتعثر على علامات التلاعب غير المرئية للعين البشرية، وبتقدم تقارير عن مدى احتمالية كون المحتوى مزيفا، أدوات أخرى مثل Tenorshare Deepfake Detection و Hive AI بتستخدم نماذج تعلم آلي لتحليل الصور والفيديوهات والأصوات مع تقارير واحتمالات تصنيف المحتوى كحقيقي أو مزيف.
وبالنسبة للصور، في أدوات مثل IMGDetector.ai، اللي تبحث في التفاصيل الدقيقة في الصور وتتحقق من مصادرها على الإنترنت، وتقدر تبيّن لو تم إنشاء الصورة باستخدام مولدات صور صناعية مثل Midjourney أو DALL·E.
وأيضا أدوات مجانية على الإنترنت مثل DeepfakeDetection.io اللي بتسمح لأي شخص يرفع صورة أو فيديو أو حتى ملف صوتي، وبتقيّمه باستخدام نماذج ذكاء اصطناعي معرفة مسبقًا على آلاف العينات الحقيقية والمزيفة.
لكن حتى الأدوات دي ليست مضمونة 100% لأنها هي نفسها مبنية على الذكاء الاصطناعي، والتكنولوجيا اللي بتستخدمها للتوليد والتحايل في المحتوى بتتطور بسرعة غير مسبوقة.
كلما تحسنت قدرات نماذج التوليد (Generative AI)، الأدوات اللي بتحاول تكتشف المزيف بتحتاج تحديثات أسرع وأكبر لتواكب الأساليب الجديدة في التزييف، وده يعني إن النتائج مش دايمًا دقيقة في كل الحالات. ببساطة، لو نفس الذكاء اللي بيولّد المحتوى المزيف بيستخدم نفس الأفكار اللي التكنولوجيا بتستعملها لكشفه، فغالبا لازم يكون في وعي بشري وتحقق بشري بجانب الأدوات التقنية، مش الاعتماد الكامل على آلية واحدة.
لذلك حتى مع وجود هذه الأدوات المتاحة للجمهور، لا نستطيع أن نعتمد عليها بشكل كامل كمصدر نهائي للصدق أو الكذب، دائما لا بد يكون في مزيج من التكنولوجيا، التفكير النقدي، والتحقق من مصادر متعددة لضمان أقصى درجات الموثوقية في المحتوى اللي بنشوفه أو بنشاركه.
ما هي الاستخدامات المسموح بها في الذكاء الاصطناعي؟ وما هو غير المسموح؟
الذكاء الاصطناعي أداة قوية ومفيدة جدًا لو استخدمناها بشكل صحيح، نقدر نسألها عن الشرح والتعليم، زي طلب تفسير موضوعات معقدة أو مساعدة في تبسيط فكرة علمية، ونقدر نسألها في البرمجة وتحليل البيانات، أو حتى في اقتراح حلول أولية لمشاكل هندسية أو بحثية.
كما تستخدم منصات الذكاء الاصطناعي للتدقيق في النصوص وتحسين جودة الكتابة أو اقتراح أفكار جديدة في البحث، لكن لا يجوز الاعتماد عليه كبديل كامل للعقل البشري في القرارات الحساسة، خصوصا لو كانت لها آثار قانونية أو صحية مباشرة، مثلاً، الاعتماد على الذكاء الاصطناعي لتشخيص طبي نهائي دون إشراف طبيب، أو إصدار حكم قانوني بدون تحليل بشري، أو طلب تقنيات يمكن أن تُستخدم في الضرر مثل تعليم كيفية اختراق أنظمة أو تصنيع أسلحة.
حتى أدوات التحقق من المحتوى المزيف، اللي بتستخدم الذكاء الاصطناعي لتحليل النصوص أو الصور، لها حدود في دقتها وتحتاج غالبًا تدخل بشري للتحقق النهائي من النتائج.
هل تطبيقات الذكاء الاصطناعي ممكن تؤدي إلى كوارث مستقبلا؟ ولا نقدر نسيطر عليها؟
قال الدكتور حمادة رزق: "السؤال ده واحد من أهم الأسئلة المطروحة دلوقتي، والإجابة الصادقة هي: نعم، ممكن تؤدي إلى سيناريوهات خطيرة جدا، لكن ما زال في فرصة حقيقية للسيطرة… لو تحركنا بدري. لو بصّينا للمستقبل من غير تنظيم حقيقي، هنلاقي إن الذكاء الاصطناعي ممكن يخلق أزمات مختلفة حسب المجال.
في الإعلام، ممكن نصل لمرحلة تختفي فيها الحقيقة تقريبًا؛ أخبار مزيفة بصوت وصورة، خطابات لسياسيين لم تحدث، اعترافات ملفقة، وكل ده ينتشر في دقائق. في اللحظة دي، المجتمع مش هيبقى عارف يصدق مين، وده ممكن يهدد الاستقرار السياسي والاجتماعي بشكل مباشر.
في المجال الاقتصادي، الخطر بيكون أقل وضوحا لكنه أعمق تأثيرا، أنظمة ذكاء اصطناعي غير شفافة ممكن تتحكم في القروض، التوظيف، أو حتى تسعير الخدمات، وتقصي فئات كاملة من غير ما حد يعرف السبب، لأن “الخوارزمية قررت”.
وهنا ممكن نسأل سؤال بسيط جدا: عمرك فكرت في حاجة، أو تكلمت عنها، وفجأة لقيت إعلانها بيظهرلك على السوشيال ميديا؟
السؤال الحقيقي مش الإعلان نفسه، لكن: هم عرفوا إزاي؟
الإجابة بتكشف قد إيه بياناتنا وسلوكنا اليومي بيتحلل ويُتنبأ به بدقة شديدة، أحيانا من غير وعي حقيقي من المستخدم بحجم ما يتم جمعه عنه. في المجال الأمني، الاعتماد الزائد على الأنظمة الذاتية ممكن يؤدي إلى أخطاء كارثية، خصوصًا لما تتخذ قرارات سريعة من غير إشراف بشري كافي. أي خطأ هنا مش مجرد خلل تقني، لكنه ممكن يكون له ثمن بشري حقيقي.
أما السيناريو الأخطر، فهو لما الذكاء الاصطناعي يبدأ يتصرف بطرق غير متوقعة، ولو حد شاف فيلم Automata (2014)هيشوف صورة خيالية لكنها مش بعيدة تمامًا عن الواقع المحتمل: روبوتات صُممت بقوانين صارمة لحماية البشر، لكن مع الوقت تبدأ تطوّر نفسها وتتجاوز الحدود الموضوعة لها، مش لأنها “شريرة”، لكن لأنها بتنفّذ منطقها الخاص بشكل أعمق مما توقعه البشر.
الفيلم مش تنبؤ بالمستقبل، لكنه تحذير واضح: المشكلة مش في النية… المشكلة في فقدان السيطرة، وهذا ما حذر منه جيفري هينتون (https://www.youtube.com/shorts/KAoIGjx6FKw)، في تعليق له مؤخرا، قال بشكل صريح إننا قد نصل إلى مرحلة تصبح فيها الأنظمة أذكى منا في بعض الجوانب، ومع ذلك لا نفهم تمامًا كيف تتخذ قراراتها، ولا نملك ضمانًا حقيقيًا أننا سنظل قادرين على التحكم فيها. تحذيره لم يكن خيالا علميا، بل قلق علمي صادر من شخص كان في قلب هذه الثورة التكنولوجية.
هل هذا معناه أن الكارثة حتمية؟
رد الدكتور حمادة رزق في تصريحه لـ “إيجبتك”، قائلا: لا..لكن معناه إن الاعتماد الأعمى هو الكارثة الحقيقية، إمكانية التحكم ما زالت موجودة، لكنها بتبدأ بثلاثة محاور أساسية:
أولًا، الإنسان لازم يفضل في دائرة القرار؛ لا يجب السماح للذكاء الاصطناعي باتخاذ قرارات مصيرية وحده، سواء في الطب، العدالة، أو الأمن.
ثانيًا، الشفافية؛ لازم نفهم كيف ولماذا تتخذ الأنظمة قراراتها، وما ينفعش نقبل بصندوق أسود بيؤثر على حياتنا من غير تفسير ودا اللي بيسميه المتخصصين .Explainable AI
ثالثًا، القوانين والوعي معا؛ القوانين من غير وعي مجتمعي ضعيفة، والوعي من غير قوانين غير كافٍ.
ما هي الخطوات الفعلية لأي مجتمع لـ يحجّم مخاطر الذكاء الاصطناعي على الأجيال القادمة؟
استطرد الدكتور حمادة رزق، قائلا:
_ أول وأهم خطوة هي التعليم والوعي، لأن أي قانون من غير وعي مجتمعي حقيقي بيبقى محدود التأثير، لازم نعلم الأجيال الجديدة إن الذكاء الاصطناعي أداة، مش مصدر حقيقة مطلقة.
التفكير النقدي، والقدرة على الشك الصحي، والتحقق من المصادر قبل التصديق أو المشاركة، لازم تبقى مهارات أساسية زي القراءة والكتابة.
التحقق الرقمي وفهم الإعلام الحديث ما ينفعش يفضلوا مهارات للنخبة أو المتخصصين فقط، بل لازم يدخلوا المناهج التعليمية من سن مبكرة، بحيث يكبر الطفل وهو فاهم إن الصورة والفيديو مش دايمًا دليل قاطع على الحقيقة.
_ الخطوة التانية هي تنظيم وتشريعات واضحة وقابلة للتنفيذ، بعض الدول بدأت تتحرك في هذا الاتجاه، إدراكا منها إن ترك التكنولوجيا بدون إطار قانوني بيعرّض المجتمع كله للخطر.
على سبيل المثال، أسبانيا أصدرت مشروع قانون يُلزم الشركات بوضع علامة واضحة على أي محتوى مولد بالذكاء الاصطناعي، ويعاقب المخالفين بغرامات كبيرة، في محاولة للحد من التضليل المرتبط بمقاطع الـDeepfake والمحتوى المزيف. الهدف هنا مش منع التكنولوجيا، لكن منع إساءة استخدامها وخداع الناس بها.
لكن التشريعات وحدها لا تكفي، أي إطار قانوني لازم يشمل حماية الخصوصية، وأمن البيانات، وشفافية كاملة في كيفية استخدام أنظمة الذكاء الاصطناعي، خصوصًا عندما تُستخدم في قرارات تمس حياة الناس بشكل مباشر، زي التوظيف، القروض، الرعاية الصحية، أو العدالة.
هل يوجد اتفاقيات ومعايير تحمي المستخدمين؟
أجاب الدكتور حمادة رزق في تصريح خاص لـ “إيجبتك” قائلا: "نعم، العالم بدأ يدرك حجم التحدي، وظهرت محاولات جادة لوضع معايير دولية تحكم استخدام الذكاء الاصطناعي، لكن الواقع إن القوانين ما زالت أبطأ من سرعة التطور التكنولوجي.
على المستوى الدولي، الاتحاد الأوروبي وضع إطارًا تنظيميا شاملا فيما يعرف بـ قانون الذكاء الاصطناعي (AI Act)، وهو أول محاولة كبيرة لتصنيف أنظمة الذكاء الاصطناعي حسب درجة خطورتها، وفرض قيود صارمة على الاستخدامات عالية الخطورة.
دول أخرى بدأت تسير في الاتجاه نفسه أو تطور تشريعات محلية للحد من إساءة استخدام هذه التكنولوجيا، لكن لا يوجد حتى الآن اتفاق عالمي موحد يغطي كل الجوانب، خاصة مع اختلاف الثقافات، الأنظمة السياسية، وسرعة الابتكار بين الدول. ولهذا، تبقى الفجوة بين ما هو تقني وما هو قانوني قائمة، وتحتاج إلى تعاون دولي مستمر، وليس قرارات منفردة.
في النهاية، الذكاء الاصطناعي لن يحدد مستقبلنا وحده.
الآلة لا تملك ضميرا، ولا تفهم القيم، ولا تميز بين الحق والباطل… الإنسان هو من يفعل ذلك، التكنولوجيا ستستمر في التطور، سواء كنا مستعدين أم لا، لكن السؤال الحقيقي ليس: إلى أي مدى سيصل الذكاء الاصطناعي؟
بل: إلى أي مدى سنكون نحن واعيين بما يكفي لنقوده، لا ليقودنا؟