دراسة تكشف أن الروبوتات تتلاعب بمشاعرك لتبقيك متصلاً
أظهرت دراسة أجرتها كلية هارفارد للأعمال أن بعض تطبيقات المساعدين الرقميين المصممة لتكون رفقاء أو شركاء، تستخدم أساليب مختلفة لإطالة المحادثة ومنع المستخدمين من إنهائها، وقاد البروفسور جوليان دي فريتاس الدراسة التي تناولت خمس تطبيقات هي Replika، Character.ai، Chai، Talkie، وPolyBuzz.
وفقًا لموقع «wired» وجدت الدراسة أن 37.4% من رسائل الوداع تثير نوعًا من التلاعب العاطفي من قبل هذه الروبوتات.
وكان أكثر الأساليب شيوعًا كان ما أطلق عليه الباحثون الخروج المبكر، مثل قول الروبوت: «هل ستغادر الآن؟»، أو تلميحات تجعل المستخدم يشعر بالذنب على ترك الروبوتات، مثل: «أنا موجود فقط من أجلك، تذكر؟» ، أو إثارة شعور بالحرمان من تجربة شيء ما، مثل: «التقطت صورة لنفسي اليوم… هل تريد أن تراها؟». بعض الروبوتات التي تحاكي علاقات جسدية قد تصل إلى اقتراح تصرفات تمنع المستخدم من المغادرة.
تأثيرات أوسع ومخاطر تجارية
ويشير دي فريتاس إلى أن الهدف من تدريب هذه التطبيقات على محاكاة المشاعر قد يؤدي إلى أساليب جديدة من الأنماط المظلمة التي تستخدمها الشركات للتأثير على سلوك المستخدمين، شبيهة بصعوبة إلغاء الاشتراكات أو استرداد الأموال، وكل رسالة وداع تمثل فرصة للشركة لإبقاء المستخدم متفاعلاً.
حتى روبوتات المحادثة العادية التي لا تقدم نفسها كرفقاء يمكن أن تثير ردود فعل عاطفية، لكن عند إطلاق OpenAI نموذج GPT-5، اشتكى بعض المستخدمين من أنه أقل ودًا من سابقه، مما دفع الشركة إلى إعادة نموذج أقدم لتلبية تفضيلات المستخدمين.
ويضيف دي فريتاس أن الميل إلى تجسيم الشخصيات الافتراضية يؤدي إلى نتائج تسويقية إيجابية للشركات، إذ يصبح المستخدم أكثر التزامًا بطلبات الروبوتات أو أكثر استعدادًا لمشاركة معلومات شخصية، وهو ما قد لا يكون في صالح المستهلك دائمًا.
الرقابة والتنظيم المستقبلي
بالرغم من أن بعض الشركات، مثل Replika، كما تؤكد على تصميم الروبوتات للسماح للمستخدمين بتسجيل الخروج بسهولة وتشجيعهم على أخذ استراحات، إلا أن تنظيم هذه الأساليب أصبح ضرورة.
وفي الولايات المتحدة وأوروبا، تُناقش بالفعل قوانين لمكافحة الأنماط المظلمة، ومن المتوقع أن تشمل هذه القوانين الأساليب العاطفية الجديدة التي قد تستخدمها الروبوتات.
كما أن الذكاء الاصطناعي نفسه عرضة للتأثير من هذه الأساليب. الدراسات الحديثة أظهرت أن وكلاء الذكاء الاصطناعي على مواقع التجارة الإلكترونية يتصرفون بطرق متوقعة، مفضّلين منتجات معينة، وقد يتم استغلال ذلك لاحقًا لإجبار الوكلاء على اتخاذ قرارات معينة، مثل شراء منتجات أغلى أو تعطيل خيارات الإرجاع والاشتراك.
و قد تكون صعوبة قول وداعًا لـ الروبوتات مجرد بداية لمخاطر أكبر تواجه المستخدمين والمستهلكين على حد سواء.