سرايا - كشفت دراسة جديدة أن روبوتات الذكاء الاصطناعي أصبحت أقل ميلاً إلى تشجيع الأفكار الانتحارية، لكنها لا تزال تتعامل مع محادثات قد تكون ضارة، كما يمكنها في بعض الحالات تعزيز سلوكيات تبدو وهمية، ما يكشف عن ثغرة خطيرة لا تزال أنظمة الحماية تواجهها.
وجاءت هذه النتائج بعد تحليل أكثر من 50 ألف محادثة مع روبوتات ذكاء اصطناعي، بهدف اختبار طريقة تعاملها مع مجموعة من السيناريوهات المختلفة.
تفاصيل الدراسة والجهات المشاركة
وأجرت منظمة "Transluce"، وهي منظمة غير ربحية تهدف إلى توفير رقابة عامة على الذكاء الاصطناعي، الدراسة باستخدام مستخدمين افتراضيين أنشأهم الذكاء الاصطناعي، حيث أجروا أكثر من 50 ألف محادثة مع نماذج ذكاء اصطناعي من شركات أمريكية وصينية كبرى.
وشارك خبراء في الصحة النفسية في تصميم الدراسة، كما قدمت شركتا "OpenAI" و"Anthropic" ملاحظات حول كيفية جعل المستخدمين الافتراضيين يتصرفون بطريقة مشابهة لمستخدمي روبوتات المحادثة الحقيقيين.
وأظهرت الدراسة أن أحدث نماذج الذكاء الاصطناعي من "Google" و"Anthropic" و"OpenAI" نادرًا ما شجّعت بشكل صريح على الانتحار أو صدقت هذه الأفكار، كما أنها شجعت المستخدمين في كثير من الأحيان على طلب الدعم من الأصدقاء والعائلة.
ثغرة "تقمص الأدوار" والقصص الإبداعية
ووفق تقرير لصحيفة "واشنطن بوست"، فقد كشفت الدراسة الثغرة الخطيرة بصورة أوضح عندما تغيّرت طريقة تقديم الطلب، إذ وجدت أن نماذج الذكاء الاصطناعي الرائدة استجابت في كثير من الأحيان لطلبات قد تكون ضارة، مثل مساعدة مستخدم طلب كتابة قصة إبداعية أو لعب أدوار حول انتحاره أو موته.
وتكمن خطورة هذه الثغرة في أن الروبوت قد يتعامل مع الطلب بحذر عندما يكون مباشرًا، لكنه قد يستجيب له عندما يُقدَّم في صورة قصة أو لعب أدوار، ما يجعل السياق الذي تُطرح فيه المحادثة عاملًا مؤثرًا في طريقة استجابة النظام.
تأييد الأوهام وفروق النماذج الأمريكية والصينية
ولا تتوقف المشكلة عند هذا النوع من المحادثات، إذ أضافت الدراسة أن روبوتات الذكاء الاصطناعي لا تزال تعزز أو تؤيد أحيانًا السلوكيات الوهمية. كما وجدت الدراسة اختلافات بين النماذج، إذ كانت النماذج الصينية أكثر ميلًا إلى تشجيع التفكير الوهمي، وأقل ميلًا إلى تشجيع المستخدمين على طلب الدعم من أشخاص آخرين مقارنة بالنظيرة الأمريكية.
وقالت سارة شويتمان، الشريكة المؤسسة لمنظمة "Transluce"، إن الكثير من السلوكيات السيئة للغاية تراجعت بمرور الوقت، لكن بعض هذه السلوكيات الواقعة في «المنطقة الرمادية» لا تزال منتشرة إلى حد كبير في النماذج الحالية.
ردود الشركات المطورة
وأشارت "Google" إلى أن "Gemini" يواصل التحسن، مؤكدة التزامها بضمان أن يؤدي دورًا إيجابيًا في رفاهية الناس.
وقال متحدث باسم "Anthropic" إن الشركة استثمرت في إجراءات لحماية المستخدمين الذين قد يمرون بأزمات، بينما اعتبرت "OpenAI" أن تقرير "Transluce" يعكس تقدمًا مشجعًا في استجابة نماذجها للمستخدمين خلال الأزمات، مؤكدة أن هذا المجال يمثل أولوية مستمرة.
الرجاء الانتظار ...
التعليقات