غضب عالمي.. استخدام "Grok" لتحويل صور الأطفال إلى محتوى إباحي
أثار اتجاه مقلق يتعلق بإساءة استخدام أداة الذكاء الاصطناعي Grok التابعة لشركة X غضباً عالمياً، بعد أن تم العثور على مستخدمين يقومون بتحويل صور النساء والأطفال إلى صور جنسية صريحة ومسيئة، مما أثار مخاوف متجددة بشأن العنف الجنسي الذي يتم تمكينه بواسطة الذكاء الاصطناعي.
التلاعب بالصور
وفقا لموقع "storyboard18"، بدأ هذا التوجه قبل أيام قليلة واشتد ليلة رأس السنة، وانتشر بسرعة عبر المنصة، وقد شوهد المستخدمون وهم يوجهون أوامر مباشرة إلى تطبيق Grok للتلاعب رقميًا بصور عادية لنساء وأطفال وتحويلها إلى محتوى فاضح، ثم يتم تداوله على نطاق واسع دون موافقة، مما يعرض الضحايا للمضايقة والإذلال والأذى النفسي.
مارست ناشطات حقوق المرأة ومستخدمات التطبيق في عدة دول ضغوطًا مكثفة على إيلون ماسك، مالك منصة X، لمعالجة الخاصية التي تُتيح هذا النوع من الإساءة بشكل عاجل، ورغم أن X قد أخفت خاصية إنشاء الوسائط في تطبيق Grok، إلا أن إساءة الاستخدام استمرت، حيث لا تزال الصور المُعدلة تُنشأ وتُشارك وتُستخدم على المنصة.
وصلت هذه المشكلة الآن إلى المستخدمين الهنود على منصة X، مما دفع خبراء الأمن السيبراني والمدافعين عن حقوق المرأة إلى التحذير من أن هذه الظاهرة تتجاوز بكثير مجرد التنمر الإلكتروني، وقد صرح الخبراء بأن التلاعب بالصور باستخدام الذكاء الاصطناعي يُعد شكلاً من أشكال العنف الجنسي، لا سيما عندما يتعلق الأمر بالنساء والأطفال، لأنه ينتهك كرامتهم وحقهم في التصرف بأجسادهم وموافقتهم، ويمكن أن يُلحق بهم صدمة نفسية شديدة نتيجة استخدام صورهم كسلاح دون علمهم.
تزايدت الانتقادات الموجهة للمنصة مع استمرار إمكانية الوصول إلى الصور المُعدلة رغم القيود الجزئية، ما دفع العديد من المستخدمات إلى حذف صورهن خوفًا من إساءة استخدامها، صرح خبير الأمن السيبراني ريتيش بهاتيا لقناة CNBC-TV18 بأن المسؤولية تقع على عاتق المنصة والوسيط وليس على الضحايا، مؤكدًا أن التكنولوجيا لا يمكن اعتبارها محايدة عندما تُتيح أوامر ضارة، وأن هذا الخلل يعكس عيوبًا في التصميم والحوكمة والرقابة الأخلاقية، وأضاف أن على مطوري Grok اتخاذ إجراءات تصحيحية فورية.
فيما يتعلق بالسبل القانونية، صرح المحامي براشانت مالي، الخبير في قانون الإنترنت، لقناة CNBC-TV18، بأن إساءة استخدام الذكاء الاصطناعي يجب اعتبارها عنفًا جنسيًا مُتعمدًا وليس مجرد أذى، وأوضح أن للضحايا سبل انتصاف بموجب قانون تكنولوجيا المعلومات لعام 2000، بما في ذلك المادة 66E المتعلقة بانتهاك الخصوصية، والمادتين 67 و67A اللتين تغطيان نشر أو بث محتوى فاحش أو جنسي صريح، والتي تنطبق على الصور المُعدلة المُولّدة بواسطة الذكاء الاصطناعي حتى في غياب أي فعل مادي.
تجريم انشاء وتداول هذه المواد
أوضح مالي كذلك أن قانون بهاراتيا نيايا سانهيتا لعام 2023، بما في ذلك المادة 77 المتعلقة بالتجسس الجنسي والمواد ذات الصلة بالتحرش الجنسي وكرامة المرأة، يُجرم إنشاء وتداول مثل هذه المواد، وذلك من خلال الاعتراف بالضرر الذي يلحق بالاستقلالية وليس مجرد التعرض الجسدي، وأشار إلى أنه في حال كانت الضحية قاصرًا، يُفعل قانون حماية الأطفال من الجرائم الجنسية فورًا، حيث تُعامل المواد ذات الصلة الصور الجنسية المُولدة بالذكاء الاصطناعي على أنها استغلال جنسي مُشدد بغض النظر عن طبيعتها الافتراضية، مما يجعل العقوبة إلزامية، كما لفت الانتباه إلى قواعد الوسطاء، التي تُلزم بالإزالة السريعة وإمكانية التتبع.
وأضاف أنه على الرغم من أن الإطار القانوني قوي على الورق، إلا أن التحدي الرئيسي يكمن في سرعة التنفيذ وقدرة الأدلة الجنائية الرقمية، وذكر أن الدفاع عن المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي من غير المرجح أن يصمد أمام التدقيق القضائي.
مع تزايد المطالبات بالمساءلة، يدعو النشطاء إلى فرض ضوابط أكثر صرامة على أدوات توليد الصور بالذكاء الاصطناعي، وآليات أسرع لإزالة المحتوى المسيء، واتخاذ إجراءات قانونية ضد الأفراد الذين ينتجون وينشرون محتوى مسيئًا، وقد سلط الجدل الدائر حول تطبيق "جروك" الضوء مجددًا على الجانب المظلم للذكاء الاصطناعي التوليدي، وأثار تساؤلات ملحة حول ما إذا كانت منصات التواصل الاجتماعي مجهزة بشكل كافٍ، أو راغبة، في منع استخدام التكنولوجيا كأداة للإيذاء الجنسي.