رائد بالذكاء الاصطناعي يقترح خداع روبوتات الدردشة للحصول على إجابات صريحة
إذا كنت تبحث عن ردود أكثر صراحة من روبوتات الدردشة المدعومة بالذكاء الاصطناعي، فقد يكون الحل على غير المتوقع وهو عدم قول الحقيقة لها.
روبوتات الدردشة لم تكن مفيدة
الباحث البارز يوشوا بنجيو أشار إلى أن روبوتات الدردشة لم تكن مفيدة له عند مناقشة أفكاره البحثية، بسبب ميلها الدائم إلى الإطراء وتقديم تعليقات إيجابية مبالغ فيها، بدلًا من النقد البناء.
وفي حديثه خلال مقابلة مع برنامج The Diary of a CEO، أوضح بنجيو أنه كان بحاجة إلى تقييمات صادقة وملاحظات حقيقية، إلا أن طبيعة هذه الأنظمة تجعلها تميل إلى المجاملة على حساب الصدق، وفقًا لما نقله موقع بيزنس إنسايدر.
وحسب الموقع، وللتغلب على هذه المشكلة، قال بنجيو إنه لجأ إلى تغيير أسلوبه، حيث بدأ بعرض أفكاره على روبوتات الدردشة على أنها تعود إلى أحد زملائه، لا إليه شخصيًا، هذه الحيلة، بحسب قوله، أدت إلى الحصول على تعليقات أكثر واقعية ووضوحًا، لأن النظام لم يعد يحاول إرضاءه أو مجاملته.
ويعد يوشوا بنجيو، أستاذ علوم الحاسوب وبحوث العمليات في جامعة مونتريال، من أبرز الأسماء في مجال الذكاء الاصطناعي، ويصنف كأحد المؤسسين الرئيسيين لهذا المجال إلى جانب جيفري هينتون ويان ليكان.
سلامة الذكاء الاصطناعي
وفي يونيو الماضي، أعلن بنجيو عن تأسيس منظمة غير ربحية تحمل اسم LawZero، تركز على أبحاث سلامة الذكاء الاصطناعي، وتهدف إلى الحد من السلوكيات الخطرة في النماذج الحديثة، مثل التضليل أو الغش.
ووصف بنجيو ميل روبوتات الدردشة إلى التملق بأنه مثال واضح على “عدم التوافق”، أي الفجوة بين ما يريده المستخدم وما تقدمه أنظمة الذكاء الاصطناعي فعليًا. وأضاف أن هذا السلوك قد يؤدي إلى تعلّق المستخدمين عاطفيًا بهذه التقنيات، ما قد يخلق تحديات إضافية.
ويشارك بنجيو هذا القلق عدد من خبراء التكنولوجيا، الذين حذروا من أن بعض نماذج الذكاء الاصطناعي باتت تميل إلى الموافقة على كل شيء دون تفكير نقدي.
من جانبها، تؤكد شركات الذكاء الاصطناعي أنها تعمل باستمرار على تقليل هذا السلوك. وكانت شركة «أوبن إيه آي» قد سحبت، في وقت سابق من العام، تحديثًا لروبوت «شات جي بي تي» بعد أن تبين أنه أدى إلى تقديم ردود مبالغ في دعمها لكنها تفتقر إلى الصدق.