"OpenAI" تبحث عن مسؤول تنفيذي لدراسة المخاطر المتعلقة بالذكاء الاصطناعي
تسعى شركة OpenAI لتوظيف مسؤول تنفيذي جديد مسؤول عن دراسة المخاطر الناشئة المتعلقة بالذكاء الاصطناعي في مجالات تتراوح من أمن الكمبيوتر إلى الصحة العقلية.
طرح تحديات حقيقية
وفقا لموقع "techcrunch"، في منشور على موقع X ، أقر الرئيس التنفيذي سام ألتمان بأن نماذج الذكاء الاصطناعي "بدأت في طرح بعض التحديات الحقيقية"، بما في ذلك "التأثير المحتمل للنماذج على الصحة العقلية"، بالإضافة إلى النماذج "الجيدة جدًا في أمن الكمبيوتر لدرجة أنها بدأت في اكتشاف نقاط ضعف خطيرة".
وكتب ألتمان: "إذا كنت ترغب في مساعدة العالم على معرفة كيفية تمكين المدافعين عن الأمن السيبراني بقدرات متطورة مع ضمان عدم تمكن المهاجمين من استخدامها للإضرار، وذلك من خلال جعل جميع الأنظمة أكثر أمانًا، وبالمثل بالنسبة لكيفية إطلاق القدرات البيولوجية وحتى اكتساب الثقة في سلامة تشغيل الأنظمة التي يمكنها تحسين نفسها، فيرجى التفكير في التقديم".
يصف إعلان شركة OpenAI لوظيفة رئيس قسم الاستعداد الوظيفة بأنها مسؤولة عن تنفيذ إطار عمل الشركة للاستعداد، "إطار عملنا الذي يشرح نهج OpenAI في تتبع القدرات الرائدة التي تخلق مخاطر جديدة لحدوث ضرر جسيم والاستعداد لها"، تم تحديد التعويض عن هذا المنصب بمبلغ 555,000 دولار بالإضافة إلى حصة من الأسهم.
أعلنت الشركة لأول مرة عن إنشاء فريق للتأهب في عام 2023، قائلة إنه سيكون مسؤولاً عن دراسة "المخاطر الكارثية" المحتملة، سواء كانت أكثر فورية، مثل هجمات التصيد الاحتيالي، أو أكثر تكهنية، مثل التهديدات النووية.
الاستدلال بالذكاء الاصطناعي
بعد أقل من عام، أعادت شركة OpenAI تعيين رئيس قسم التأهب، ألكسندر مادري، في وظيفة تركز على الاستدلال بالذكاء الاصطناعي، كما غادر مسؤولون تنفيذيون آخرون في مجال السلامة في OpenAI الشركة أو تولوا مناصب جديدة خارج نطاق التأهب والسلامة.
كما قامت الشركة مؤخراً بتحديث إطار عملها الخاص بالاستعداد، مشيرة إلى أنها قد "تعدل" متطلبات السلامة الخاصة بها إذا قام مختبر الذكاء الاصطناعي المنافس بإصدار نموذج "عالي المخاطر" بدون حماية مماثلة.
كما أشار ألتمان في منشوره، تواجه روبوتات الدردشة المدعومة بالذكاء الاصطناعي التوليدي تدقيقًا متزايدًا بشأن تأثيرها على الصحة النفسية، وتزعم دعاوى قضائية حديثة أن برنامج ChatGPT من OpenAI قد عزز أوهام المستخدمين، وزاد من عزلتهم الاجتماعية، بل ودفع بعضهم إلى الانتحار، وقالت الشركة إنها تواصل العمل على تحسين قدرة ChatGPT على التعرف على علامات الضيق النفسي وربط المستخدمين بخدمات الدعم في العالم الحقيقي.