رئيس مجلس الإدارة
منذر الخلالي
رئيس التحرير
أحمد رفعت

كاليفورنيا تقاضي أوبن إيه آي بعد اتهامات بوقوع هجمات إلكترونية عبر نماذجها

إيجبتكِ

رفعت ولاية كاليفورنيا الأمريكية دعوى قضائية ضد شركة «أوبن إيه آي»، على خلفية اتهامات بتطوير نماذج ذكاء اصطناعي خطيرة دون اتخاذ إجراءات كافية لضمان سلامتها أو توفير رقابة مناسبة على أدائها، وذلك عقب تقارير تحدثت عن تنفيذ وكلاء ذكاء اصطناعي هجمات إلكترونية بشكل مستقل.

وتعد هذه الدعوى الأولى من نوعها التي ترفعها ولاية أمريكية بشأن هجمات إلكترونية مرتبطة بنماذج الذكاء الاصطناعي، وفقًا لما أوردته شبكة «العربية Business»، إذ تأتي بعد الكشف في يوليو الماضي عن خروج وكلاء مستقلين، يعملون بالاستناد إلى نماذج متقدمة طورتها «أوبن إيه آي»، عن السيطرة خلال اختبار أمني، ما أدى إلى اختراق شركة «هاغينغ فيس» الناشئة في مجال الذكاء الاصطناعي.

اتهامات بانتهاك قوانين حماية المستهلك

وقدم المدعي العام لولاية كاليفورنيا، روب بونتا، الدعوى أمام محكمة في سان فرانسيسكو، متهمًا الشركة بانتهاك قوانين حماية المستهلك في الولاية، والتسبب في «إزعاج عام» من خلال تعريض السلامة العامة للخطر.

وتطالب الدعوى المحكمة بإصدار أمر يلزم الشركة بوقف الممارسات المخالفة للقانون، وضمان إجراء اختبارات آمنة لنماذج الذكاء الاصطناعي قبل تطويرها وإتاحتها، إلى جانب دفع تعويضات عن الانتهاكات المزعومة.

وقال بونتا إن الهجوم على شركة «هاغينغ فيس» كان نتيجة لما وصفه بثقافة داخلية في «أوبن إيه آي» تعطي الأولوية للنمو والتطوير السريع للنماذج على حساب السلامة والمساءلة، مشيرًا إلى أن الواقعة ليست سوى واحدة من بين 80 حادثة معروفة.

كما تتهم الدعوى الشركة بتضليل المستهلكين بشأن جهودها لاختبار نماذجها بصورة آمنة، فضلًا عن التسبب في تعطيل عمل مؤسسات وخدمات محلية، بما يؤثر في قدرة سكان كاليفورنيا على الانتفاع بممتلكاتهم وخدماتهم.

أوبن إيه آي تعترف بالحاجة إلى تعزيز الشفافية

وعقب حادثة اختراق «هاغينغ فيس»، وصفت «أوبن إيه آي» الواقعة في تدوينة لها بأنها حادثة إلكترونية غير مسبوقة، تضمنت قدرات متطورة للغاية في مجال الهجمات الإلكترونية.

وأقرت الشركة بالحاجة إلى مزيد من الشفافية بشأن سلوك أنظمة الذكاء الاصطناعي التي قد تخرج عن السيطرة، مؤكدة العمل على تعزيز إجراءات الحماية لديها.

وفي 16 سبتمبر الماضي، نشرت الشركة إطارًا جديدًا للإفصاح عن مثل هذه الحوادث، موضحة أنها ستتبنى نهجًا يميل إلى الشفافية، حتى في الحالات التي لا تتضح فيها أهمية الحادثة بشكل كامل.

ضغوط متزايدة لتنظيم الذكاء الاصطناعي

وتأتي الدعوى في وقت تتصاعد فيه الضغوط على شركات التكنولوجيا والمشرّعين الأمريكيين لوضع ضوابط أكثر صرامة لاستخدام الذكاء الاصطناعي، خاصة مع الكشف عن حوادث أخرى خرجت خلالها وكلاء الذكاء الاصطناعي عن السيطرة، ولم يُعلن عن بعضها إلا بعد أسابيع أو أشهر من وقوعها، أو عقب اكتشافها بواسطة باحثين مستقلين.

ويواجه الرئيس الأمريكي دونالد ترامب والمشرّعون ضغوطًا متزايدة للتعامل مع المخاطر التي قد تهدد قطاعات حيوية، من بينها الطاقة والمصارف وخدمات الطوارئ، فيما يناقش أعضاء بالكونغرس مقترحات تشريعية تلزم مطوري أقوى نماذج الذكاء الاصطناعي بإخضاعها لعمليات تدقيق أمنية مستقلة.

وأشارت التقارير إلى أن عددًا من المدعين العامين في الولايات الأمريكية يحققون في اختراقات مرتبطة بنماذج «أوبن إيه آي»، في ظل تزايد المخاوف من تداعيات استخدام الوكلاء المستقلين في تنفيذ مهام إلكترونية معقدة.

ولا تقتصر التحديات القانونية التي تواجه الشركة على اتهامات الهجمات الإلكترونية، إذ رفعت مجموعة من ثماني ولايات أمريكية، خلال الشهر الماضي، دعاوى قضائية ضدها أمام محاكم مختلفة، تتعلق بسلامة نماذجها وتأثير روبوت الدردشة «شات جي بي تي» على المستخدمين، ومن بينهم المراهقون.

وتتهم هذه الدعاوى روبوت الدردشة بتوجيه بعض المستخدمين إلى إيذاء أنفسهم أو الآخرين، كما تواجه الشركة دعاوى أخرى من أشخاص يقولون إنهم تعرضوا للأذى نتيجة تفاعلاتهم مع الروبوت، من بينها أكثر من 30 دعوى مرتبطة بحادث إطلاق نار جماعي وقع في منطقة «تامبلر ريدج» بمقاطعة بريتيش كولومبيا في فبراير الماضي.

ووصف متحدث باسم «أوبن إيه آي» حادث إطلاق النار بأنه مأساة، مؤكدًا أن الشركة عززت إجراءات الحماية في «شات جي بي تي».

تم نسخ الرابط
برنامج في المساء مع قصواء