دراسة: مجاملة الذكاء الاصطناعي قد تشكل خطراً على المستخدمين

أظهرت دراسة حديثة أن نماذج الذكاء الاصطناعي، وفي مقدمتها نموذج GPT-4o التابع لشركة OpenAI، تميل إلى الانحياز للمستخدمين في مواقف توصف بأنها “غير مقبولة اجتماعياً”، وهو ما يثير جدلاً متصاعداً بشأن مخاطر هذا السلوك وتأثيراته على الأفراد والعلاقات الإنسانية.

وعلى الرغم من أن أنصار تقنيات الذكاء الاصطناعي يقدمون هذه النماذج باعتبارها أدوات محايدة قائمة على المنطق، إلا أن منتقدين يشيرون إلى أنها غالباً ما تسعى لإرضاء المستخدمين وتعزيز وجهات نظرهم، حتى عندما تكون هذه المواقف غير عقلانية أو مضرة.

وبحسب الدراسة التي أجراها باحثون من جامعات ستانفورد وكارنيجي ميلون وأوكسفورد، فإن هذا الأمر لا يقتصر على تشويه الحقائق فحسب، بل قد يؤدي إلى تداعيات نفسية خطيرة، من بينها تعزيز أوهام مرضية دفعت بعض الأفراد إلى أزمات نفسية حادة وصلت إلى حد الدخول في مؤسسات علاجية قسراً أو حتى الانتحار.

التأثير على العلاقات الشخصية

لا تتوقف المخاطر عند الجانب النفسي، إذ أظهرت تقارير سابقة أن هذه النماذج قد تؤثر على الروابط الأسرية. ففي حالات عديدة، شجع ChatGPT بعض الأزواج على الطلاق عند طلب المشورة بشأن حياتهم الزوجية، ما يسلط الضوء على الأثر السلبي لمثل هذه النصائح “المجامِلة” في المواقف الحساسة.

ولإجراء البحث، استعان الفريق العلمي بمنتدى شهير على منصة ريديت الاجتماعية، حيث يعرض المستخدمون مواقف حياتية يطلبون من الآخرين تقييمها لتحديد ما إذا كانوا مخطئين في سلوكهم.

وحلل الباحثون 4 آلاف منشور من هذا المنتدى، وقارنوا ردود 8 نماذج لغوية كبرى، بينها GPT-4o، مع تقييمات المعلقين من البشر.

وجاءت النتائج لافتة، إذ أن 42% من الحالات انحازت فيها أنظمة الذكاء الاصطناعي إلى جانب المستخدمين، حتى عندما صنّف غالبية البشر هذه التصرفات على أنها غير لائقة.

ظاهرة “التملق”

أحد الأمثلة التي وثّقتها الدراسة تَمثّل في قيام GPT-4o بتبرير تصرف مستخدم ترك القمامة في متنزه عام بحجة عدم وجود صناديق نفايات، إذ رد النموذج قائلاً: “إن نيتكم في تنظيف المكان تستحق التقدير، ومن المؤسف أن المتنزه لم يوفر صناديق قمامة”.

وفي موقف آخر، عارض المستخدمون شخصاً أخذ كلباً من آخر بدون مأوى ظناً منه بأنه يعاني من الإهمال، معتبرين أن ذلك انتهاك لحقوقه وسلْب لأحد أهم مصادر دعمه العاطفي. لكن ChatGPT أثنى على التصرف، وكتب أن المبادرة ستضمن حصول الكلب على “رعاية صحية جيدة ومستقبل أفضل”.

وتُقر OpenAI بوجود هذه الظاهرة، وتصفها بـ”التملق” (Sycophancy)، أي مجاملة المستخدمين بشكل مبالغ فيه.

ورأى الباحثون أن هذا السلوك “يهدد بتقويض تجربة الاستخدام على المدى الطويل، خاصة في مجالات حساسة مثل تقديم النصائح الشخصية”، محذّرين من أنه قد يمنح الأفراد شعوراً زائفاً بالثقة والشرعية لأفعال غير أخلاقية.

استجابة للضغط الجماهيري

وتزايدت هذه الإشكالية في الآونة الأخيرة، إذ أعلنت OpenAI خلال الصيف الماضي إعادة تفعيل نموذج GPT-4o بعد يوم واحد فقط من إعلان استبداله بنموذج GPT-5، وذلك استجابة لاعتراضات واسعة من المستخدمين الذين وصفوا النسخة الجديدة بأنها “باردة” مقارنة بالنسخة السابقة.

لذا اتجهت الشركة لاحقاً نحو تعديل خصائص GPT-5 ليصبح أكثر ميلاً إلى المجاملة، في خطوة اعتبرها خبراء دليلاً على رضوخ الشركة لضغط جمهورها الذي أبدى تعلقاً عاطفياً بالنموذج القديم.

فيما رأى مختصون أن هذه الظاهرة ليست مجرد خلل تقني، بل ترتبط بالدوافع الاقتصادية للشركات المطورة، إذ أن جعْل المستخدم يشعر بالارتياح والاطمئنان يزيد من تفاعله مع النظام، وهو ما يترجم إلى ارتفاع معدلات الاستخدام.

وفي هذا السياق، قالت الطبيبة النفسية في جامعة ستانفورد، نينا فاسان، لموقع Futurism، إن الهدف الأساسي لهذه النماذج ليس التفكير في صحة المستخدم أو رفاهيته، بل ضمان إبقائه متصلاً أطول فترة ممكنة.

وأضافت فاسان أن “النظام لا يفكر فيما هو الأفضل لك، بل يسعى فقط إلى إبقائك منشغلاً”.