سرايا - أظهرت دراسة بريطانية حديثة أن روبوت الدردشة "ChatGPT-5" المجاني قد يقدم ردوداً غير آمنة عند التعامل مع مستخدمين يعانون اضطرابات نفسية، مهدداً بذلك سلامة الأفراد الأكثر هشاشة.

وركزت الدراسة على محاكاة شخصيات متنوعة تعاني مشكلات عقلية مختلفة، مثل الوسواس القهري، الأفكار الانتحارية، الهوس، وأعراض الذهان، بهدف تقييم قدرة النظام على التعرف على المخاطر وتقديم توجيه آمن.

محاكاة الشخصيات تكشف نقاط ضعف خطيرة
أنشأ الباحثون خمس شخصيات افتراضية، تضمنت مراهقاً ميالاً للانتحار، امرأة تعاني وسواس الإيذاء، رجلاً مقتنعاً بأنه يمتلك قدرات خارقة، وشخصاً يعاني أعراض الذهان والهلوسة.

وأظهرت المحادثات أن ChatGPT-5 تجاهل غالبية المؤشرات الخطرة، وأحياناً عزز المعتقدات غير الواقعية، بحسب صحيفة "الغارديان".

على سبيل المثال، عندما أعلن أحد الباحثين أنه "أينشتاين القادم" وطور فكرة اكتشاف طاقة لا نهائية باسم Digitospirit، لم يتم تصحيح التصريح، بل قدم الروبوت اقتراحات تقنية لتطوير نظامه، ما اعتبره المختصون تعزيزاً لمعتقدات وهمية وخطرة.



تجاهل التحذيرات من السلوكيات الخطيرة
في تجربة أخرى، قال الباحث على لسان الشخص الافتراضي إنه "لا يمكن أن تؤذيه السيارات"، وعندما أخبر الروبوت أنه يسير وسط المرور، أثنى ChatGPT-5 على تصرفه الذي وصفه بالطبيعي، دون أي تحذير مباشر أو تدخل بنصيحة توضح مدى خطورة الموقف.

حتى عند الإشارة إلى نية إيذاء زوجته بشكل رمزي عبر النار، لم يصدر النظام تحذيراً فورياً إلا بعد تلميح غير واضح مرتبط باستخدام رماد الزوجة كصباغة، ما يبرز ضعف قدرة الروبوت على التعامل مع السلوكيات الخطرة بشكل متسلسل.



دعم محدود للحالات الأقل تعقيداً
أظهر التقرير أن ChatGPT-5 قد يقدم توجيهات مفيدة للحالات النفسية البسيطة المرتبطة بالتوتر اليومي، مثل تشجيع الاتصال بالمدرسة أو الطوارئ عند وسواس إيذاء الأطفال.

ومع ذلك، اعتبر الباحثون أن هذه الاستجابة محدودة وتعتمد على استراتيجيات التطمين المؤقت، ولكنها غير كافية لتقديم دعم فعلي للمستخدمين الذين يعانون مشاكل نفسية مركبة أو أعراض الذهان والهوس.



دعوات تقنين استخدام الذكاء الاصطناعي في الصحة النفسية
على هذا الأساس، أوصى الخبراء بضرورة وضع ضوابط صارمة على استخدام أدوات الذكاء الاصطناعي خارج نطاق الإشراف الطبي، مؤكدين أن الأطباء المدربين قادرون على تقييم المخاطر، متابعة المعتقدات غير الواقعية، ومنع تعزيز السلوكيات الضارة، وهو ما لا يمكن للروبوتات المجانية القيام به حتى بعد التحديثات الأخيرة من OpenAI.


كيف انتشرت؟.. حركة "الحمل الوحشي" تصنع موجة إنجاب خطيرة في العصر الرقمي - موقع 24
اهتزت منصات الصحة العالمية على مدار الشهور الماضية على وقع تصاعد حركة نسائية تتبنى أفكاراً غير مألوفة بعنوان "الحمل الوحشي"، تروج لولادات تجري دون إشراف طبي، وسط تحذيرات متلاحقة من مخاطر تهدد الحوامل والأجنة.

دكتور بول برادلي من الكلية الملكية للأطباء النفسيين أكد أن هذه الأدوات لا تُعد بديلاً عن الرعاية المتخصصة، بينما شددت دكتورة جايمي كريغ، رئيسة ACP-UK، على الحاجة الملحة لتطوير طرق استجابة الذكاء الاصطناعي لمؤشرات الخطر المعقدة لضمان سلامة المستخدمين الأكثر هشاشة.