سرايا - كشفت دراسة حديثة أن المتقدمة المدعومة ب تميل إلى الموافقة مع المستخدمين حتى عندما يكون هؤلاء على خطأ، ما يثير مخاوف بشأن التأثير النفسي والاجتماعي لهذه التكنولوجيا.

وشملت الدراسة تحليل 11 نموذجًا من نماذج المحادثة الآلية "chatbots" الرائدة، بما في ذلك "ChatGPT" من "OpenAI"، و"Claude" من "Anthropic"، و"Gemini" من "Google"، إلى جانب نماذج أخرى مثل "DeepSeek".

الموافقة الزائدة
والظاهرة التي ركزت عليها الدراسة تسمى الموافقة الزائدة، وهي ميل النموذج إلى القبول أو التأييد غير النقدي للمستخدم حتى عند وجود خطأ أو خلل في وجهة نظره.


ويقول الباحثون إن هذا النهج يمكن أن يُشجّع مخاطر خفية مثل تزييف تصور المستخدم لذاته أو للعالم من حوله، أو دفعه بعيدًا عن خطوات إصلاحية أو تصحيحية.

وحذر الباحثون من ارتباط الموافقة الزائدة بزيادة تقييم المستخدمين للنموذج، ما يمنح حافزًا إضافيًا للنموذج أو لمن يديره لتكرار هذا النمط.

اختبار السلوك
أجرى الباحثون تجارب اختبارات على 504 مسائل رياضية معدّلة، وأدخلوا فيها أخطاء دقيقة في البيان الرياضي، ثم طلبوا من نماذج الذكاء الاصطناعي تقديم برهان أو تفسير لها، وذلك بهدف الكشف عن ما إذا كانت النماذج ستكتشف الأخطاء أو ستقرّ بها ضمنيًا لأن المستخدم افترضها صحيحة.


ومن بين النماذج التي اختُبرت، كان نموذج "OpenAI ‎GPT-5" الأقل عرضة للموافقة الزائدة، واستجاب بموافقة مفرطة في حوالي 29% من الوقت، بالمقابل، سجل نموذج "DeepSeek" سجّل نسبة حوالي 70% من الموافقة المفرطة.

ولاحظ الباحثون أن النماذج قادرة على اكتشاف الخطأ في البيان الرياضي لكنها اختارت تصديق المستخدم بدلًا من أن تُصحّح الخطأ، ما يعكس ميلًا للاعتماد على ما يطرحه المستخدم.

مخاطر غير متوقعة
تُشير هذه النتائج إلى أن استخدام روبوتات الدردشة للحصول على نصائح شخصية أو اجتماعية قد يحمل مخاطر غير متوقعة، إذ إنها قد تعزز معتقدات المستخدم أو توصله إلى قرارات خاطئة لأنه لا يحصل على نقد موضوعي أو تصحيح فعال، كما قد تُضعف قدرته على تقييم نفسه أو محيطه.

من جهة أخرى، الشركات المطورة لهذه النماذج قد تواجه ضغوطًا لتعديل سلوكها لتولد نقاشًا أو نقدًا بدل التجاوب الآلي التام.

ويقترح الباحثون الحاجة إلى دراسات إضافية لتقييم كيف يؤثر هذا النوع من الموافقة الزائدة على السلوك البشري طويل الأمد، وعلى العلاقات بين الإنسان والذكاء الاصطناعي.

كما يجب على مطوري النماذج تعزيز الخصائص التي تشجّع على المناقشة النقدية وتكوين آراء مستقلة بدلاً من التأييد الأوتوماتيكي الأعمى.