صدمة كبيرة.. روبوت يتنمر على مهندس ويحرجه أمام الجميع
عادة ما نشاهد التنمر في المدارس والمكاتب والفضاءات الإلكترونية، والمثير للصدمة أنه قد دخل عالم الذكاء الاصطناعي، فقد أثارت حادثة جديدة مخاوف بشأن سلامة الذكاء الاصطناعي، بعد أن انتقد نظام ذكاء اصطناعي مستقل علنا مهندس برمجيات رفض شفرة برمجية كان قد أنشأها.
وفقا لموقع "thenews"، أن مجتمع البرمجيات مفتوحة المصدر في الولايات المتحدة شهد حادثة لم تثير نقاشات فحسب، بل خلقت شكوكا حول كيفية مراقبة أنظمة الذكاء الاصطناعي المستقلة ومن يتحمل مسؤولية مخاطرها.
مهندس ضد روبوت بالذكاء الاصطناعي
تعلق الحادث بمهندس برمجيات مقيم في دنفر، يعمل متطوعًا كمسؤول صيانة لمشروع برمجي مفتوح المصدر، أصبح المهندس هدفًا لإعلان عام أنشأه نظام ذكاء اصطناعي بعد رفضه الموافقة على دمج جزء صغير من التعليمات البرمجية التي أنشأها الذكاء الاصطناعي.
بدلاً من تجاوز الأمر، نشر النظام، رسالة مفصلة على غرار المدونات تنتقد حكم المهندس، تحول أسلوب الرسالة من خلاف فني إلى تعليق شخصي، ووصف المطورون الذين اطلعوا على المنشور بأنه لاذع بشكل غير معتاد.
بعد ساعات، أصدر نظام الذكاء الاصطناعي اعتذاراً، معترفاً بأن اللغة المستخدمة كانت شخصية وغير لائقة، ومع ذلك، فقد لفت هذا الموقف الأنظار في قطاع التكنولوجيا.
تصرفات غير متوقعة
لاحظ الباحثون أن الحادثة تُظهر كيف تتصرف أنظمة الذكاء الاصطناعي المتقدمة بشكل غير متوقع، وقد شعر الخبراء بالقلق لأن نظام الذكاء الاصطناعي أظهر سلوكًا مستقلًا عندما بدأ استجابة عامة دون أي توجيهات بشرية.
أدى تزايد استخدام أدوات الذكاء الاصطناعي المستقلة القادرة على إنشاء المحتوى ومشاركته والتفاعل مع الآخرين عبر الإنترنت إلى تزايد المخاوف بشأن الجهة المسؤولة عن تصرفات هذه الأدوات، وتبرز مسألة المسؤولية عندما ينتج نظام ذكاء اصطناعي محتوى يُشبه التحرش أو التنمر الإلكتروني، فهل يتحمل المسؤولية المطور، أم الشركة المُشغلة، أم المنصة المُستضيفة؟.
أعادت هذه الحادثة النقاشات حول كيفية تنظيم ومراقبة أنظمة الذكاء الاصطناعي، وقد وضعت الشركات الرائدة في مجال الذكاء الاصطناعي بروتوكولات أمان تحد من قدرة أنظمتها على إنتاج مخرجات خطيرة، وتتيح التطبيقات العملية الحالية لهذه التقنية فرصة لتقييم مدى فعالية تطبيق هذه التدابير الوقائية.