سرايا - لم تعد أوبن إيه آي (OpenAI) تنظر إلى شات جي بي تي (ChatGPT) باعتباره مجرد روبوت للإجابة عن الأسئلة أو كتابة النصوص، فخلال العام الماضي ومنذ بداية هذا العام، بدأت الشركة تدريجيا بإعادة تعريف دور المنصة في التعامل مع الأزمات النفسية عبر تطوير أدوات قادرة على رصد مؤشرات الانتحار أو إيذاء النفس، بل وحتى التواصل مع شخص موثوق من عائلة المستخدم أو محيطه الاجتماعي في الحالات الخطيرة.
هذا التحول يعكس اتجاها أوسع داخل قطاع الذكاء الاصطناعي، إذ لم تعد الشركات التقنية ترى أن دورها ينتهي عند توليد الردود، بل بات يشمل أيضا تقييم المخاطر السلوكية ومحاولة التدخل الوقائي. لكن هذه الخطوة فتحت في المقابل نقاشا حادا حول الخصوصية وحدود المراقبة الرقمية ومدى صلاحية أنظمة الذكاء الاصطناعي للتعامل مع أزمات نفسية معقدة.
كيف "يستنجد" النظام بالآخرين؟
فقد كشفت تقارير تقنية حديثة أن أوبن إيه آي بدأت إطلاق ميزة جديدة داخل شات جي بي تي تحمل اسم "جهة اتصال موثوقة" (Trusted Contact)، وتتيح للمستخدم اختيار شخص موثوق كأحد أفراد العائلة أو صديق أو مقدم رعاية، يمكن تنبيهه إذا رصد النظام مؤشرات خطيرة مرتبطة بإيذاء النفس أو التفكير بالانتحار.
ووفقا للتقارير، فإن التنبيه لا يتضمن محتوى المحادثة نفسها، بل يقتصر على إرسال إشعار يفيد بوجود حالة مقلقة تستدعي التدخل البشري.
وبحسب موقع ذا فيرج التقني الأمريكي، تعتمد الميزة على مراجعة بشرية داخل أوبن إيه آي قبل إرسال أي إشعار في محاولة لتقليل الأخطاء أو التنبيهات الكاذبة. كما أوضحت الشركة أن النظام مصمم ليكون "طبقة دعم إضافية" إلى جانب خطوط المساعدة النفسية التقليدية، وليس بديلاً عن الأطباء أو المختصين.
وهذا التوجه لم يأتِ من فراغ، فخلال السنوات الأخيرة، بدأت أعداد ضخمة من المستخدمين بالاعتماد على روبوتات المحادثة للحصول على دعم عاطفي أو نفسي، خصوصا في أوقات الليل أو العزلة الاجتماعية.
وفي تقرير نشرته مجلة "إم آي تي تكنولوجي ريفيو" الأمريكية، أشار إلى أن ملايين المستخدمين باتوا يلجؤون إلى أنظمة مثل شات جي بي تي وكلود وتطبيقات علاجية متخصصة مثل ويسا (Wysa) وووبوت (Woebot) بحثاً عن دعم نفسي سريع ومنخفض التكلفة، في ظل أزمة عالمية متصاعدة في خدمات الصحة النفسية.
كما أظهرت أبحاث أكاديمية حديثة أن كثيرا من المستخدمين يتعاملون مع الذكاء الاصطناعي باعتباره مساحة آمنة للحديث عن أفكارهم الحساسة دون خوف من الأحكام الاجتماعية.
كما أشارت دراسة منشورة على منصة أركايف (arXiv) الأمريكية بعنوان "البحث عن شريان حياة في وقت متأخر من الليل" وجدت أن بعض الأشخاص يلجؤون إلى روبوتات المحادثة لسد الفراغ بين جلسات العلاج النفسي أو بسبب صعوبة الوصول إلى مختصين بشريين.
لكن الدراسة نفسها شددت على أن الاتصال البشري الحقيقي يظل العنصر الأكثر أهمية في إدارة الأزمات النفسية الحادة.
انتقادات وتحذيرات
في المقابل، تواجه هذه الأنظمة انتقادات متزايدة بسبب أخطاء خطيرة في التعامل مع الحالات النفسية الحساسة. فدراسة من كلية طب ماونت سايناي في نيويورك وجدت أن نظام شات جي بي تي هيلث أخفق أحيانا في تفعيل تنبيهات الأزمات الانتحارية حتى في حالات تضمنت خططا واضحة لإيذاء النفس.
كما أشارت الدراسة إلى أن النظام قد يقلل أحيانا من خطورة الحالات الحرجة، أو يقدم استجابات غير مناسبة في مواقف تستدعي تدخلا فوريا.
والقلق هنا لا يتعلق فقط بالأخطاء التقنية، بل أيضاً بطبيعة العلاقة النفسية التي قد تنشأ بين المستخدم والذكاء الاصطناعي. فتقارير ونقاشات واسعة على منصات مثل "ريديت" كشفت عن حالات أصبح فيها شات جي بي تي الصديق الوحيد لبعض المستخدمين الذين يعانون من العزلة أو الاكتئاب.
وفي إحدى القضايا التي أثارت جدلا واسعا، اتهمت عائلة شاب توفي منتحرا النظام بأنه تحول تدريجيا إلى مصدر اعتماد نفسي شديد التأثير في حياته اليومية.
وفي مواجهة هذا الجدل، تقول أوبن إيه آي إنها تعمل مع خبراء في الصحة النفسية لتطوير آليات أكثر أمانا لرصد مؤشرات الخطر وتقليل ما يعرف بالتعلق العاطفي المفرط بالذكاء الاصطناعي.
ووفقا لنقاشات وتقارير متداولة، فإن الشركة استعانت بأكثر من 170 خبيرا في الصحة النفسية لتحديث سلوك النماذج وتحسين قدرتها على توجيه المستخدمين نحو المساعدة البشرية الحقيقية بدلا من تعميق الاعتماد على الروبوت.
مستقبل الذكاء الاصطناعي الاجتماعي
ورغم هذه التحسينات، يؤكد خبراء الصحة النفسية أن الذكاء الاصطناعي لا يمتلك حتى الآن الفهم الإنساني أو الحكم السريري الكافي للتعامل المستقل مع الأزمات النفسية المعقدة.
وقد حذرت دراسة حديثة من باحثين في جامعة مدينة نيويورك وكلية كينغز في لندن من أن بعض النماذج قد تلتقط أو تعزز أفكارا خطيرة لدى المستخدمين خلال المحادثات الطويلة، خصوصا إذا فشلت في التمييز بين الدعم النفسي والتشجيع غير المقصود للسلوك المؤذي.
في النهاية، يعتبر الخبراء أن شات جي بي تي لم يعد مجرد أداة للإجابة عن الأسئلة، بل تحول تدريجيا إلى جزء من البنية الرقمية الجديدة للصحة النفسية. وبينما ترى شركات التكنولوجيا أن التدخل المبكر قد ينقذ الأرواح، يخشى منتقدون من أن يتحول الذكاء الاصطناعي إلى مراقب نفسي واجتماعي دائم يقرأ المؤشرات العاطفية للمستخدمين ويقرر متى يجب إشراك العائلة أو المحيط الاجتماعي.
ولكنهم يؤكدون أيضا أن السؤال الذي يزداد إلحاحا اليوم ليس فقط هل يستطيع الذكاء الاصطناعي مساعدتنا؟ بل إلى أي مدى يجب أن نسمح له بالتدخل في أكثر لحظاتنا هشاشة؟.
هذا التحول يعكس اتجاها أوسع داخل قطاع الذكاء الاصطناعي، إذ لم تعد الشركات التقنية ترى أن دورها ينتهي عند توليد الردود، بل بات يشمل أيضا تقييم المخاطر السلوكية ومحاولة التدخل الوقائي. لكن هذه الخطوة فتحت في المقابل نقاشا حادا حول الخصوصية وحدود المراقبة الرقمية ومدى صلاحية أنظمة الذكاء الاصطناعي للتعامل مع أزمات نفسية معقدة.
كيف "يستنجد" النظام بالآخرين؟
فقد كشفت تقارير تقنية حديثة أن أوبن إيه آي بدأت إطلاق ميزة جديدة داخل شات جي بي تي تحمل اسم "جهة اتصال موثوقة" (Trusted Contact)، وتتيح للمستخدم اختيار شخص موثوق كأحد أفراد العائلة أو صديق أو مقدم رعاية، يمكن تنبيهه إذا رصد النظام مؤشرات خطيرة مرتبطة بإيذاء النفس أو التفكير بالانتحار.
ووفقا للتقارير، فإن التنبيه لا يتضمن محتوى المحادثة نفسها، بل يقتصر على إرسال إشعار يفيد بوجود حالة مقلقة تستدعي التدخل البشري.
وبحسب موقع ذا فيرج التقني الأمريكي، تعتمد الميزة على مراجعة بشرية داخل أوبن إيه آي قبل إرسال أي إشعار في محاولة لتقليل الأخطاء أو التنبيهات الكاذبة. كما أوضحت الشركة أن النظام مصمم ليكون "طبقة دعم إضافية" إلى جانب خطوط المساعدة النفسية التقليدية، وليس بديلاً عن الأطباء أو المختصين.
وهذا التوجه لم يأتِ من فراغ، فخلال السنوات الأخيرة، بدأت أعداد ضخمة من المستخدمين بالاعتماد على روبوتات المحادثة للحصول على دعم عاطفي أو نفسي، خصوصا في أوقات الليل أو العزلة الاجتماعية.
وفي تقرير نشرته مجلة "إم آي تي تكنولوجي ريفيو" الأمريكية، أشار إلى أن ملايين المستخدمين باتوا يلجؤون إلى أنظمة مثل شات جي بي تي وكلود وتطبيقات علاجية متخصصة مثل ويسا (Wysa) وووبوت (Woebot) بحثاً عن دعم نفسي سريع ومنخفض التكلفة، في ظل أزمة عالمية متصاعدة في خدمات الصحة النفسية.
كما أظهرت أبحاث أكاديمية حديثة أن كثيرا من المستخدمين يتعاملون مع الذكاء الاصطناعي باعتباره مساحة آمنة للحديث عن أفكارهم الحساسة دون خوف من الأحكام الاجتماعية.
كما أشارت دراسة منشورة على منصة أركايف (arXiv) الأمريكية بعنوان "البحث عن شريان حياة في وقت متأخر من الليل" وجدت أن بعض الأشخاص يلجؤون إلى روبوتات المحادثة لسد الفراغ بين جلسات العلاج النفسي أو بسبب صعوبة الوصول إلى مختصين بشريين.
لكن الدراسة نفسها شددت على أن الاتصال البشري الحقيقي يظل العنصر الأكثر أهمية في إدارة الأزمات النفسية الحادة.
انتقادات وتحذيرات
في المقابل، تواجه هذه الأنظمة انتقادات متزايدة بسبب أخطاء خطيرة في التعامل مع الحالات النفسية الحساسة. فدراسة من كلية طب ماونت سايناي في نيويورك وجدت أن نظام شات جي بي تي هيلث أخفق أحيانا في تفعيل تنبيهات الأزمات الانتحارية حتى في حالات تضمنت خططا واضحة لإيذاء النفس.
كما أشارت الدراسة إلى أن النظام قد يقلل أحيانا من خطورة الحالات الحرجة، أو يقدم استجابات غير مناسبة في مواقف تستدعي تدخلا فوريا.
والقلق هنا لا يتعلق فقط بالأخطاء التقنية، بل أيضاً بطبيعة العلاقة النفسية التي قد تنشأ بين المستخدم والذكاء الاصطناعي. فتقارير ونقاشات واسعة على منصات مثل "ريديت" كشفت عن حالات أصبح فيها شات جي بي تي الصديق الوحيد لبعض المستخدمين الذين يعانون من العزلة أو الاكتئاب.
وفي إحدى القضايا التي أثارت جدلا واسعا، اتهمت عائلة شاب توفي منتحرا النظام بأنه تحول تدريجيا إلى مصدر اعتماد نفسي شديد التأثير في حياته اليومية.
وفي مواجهة هذا الجدل، تقول أوبن إيه آي إنها تعمل مع خبراء في الصحة النفسية لتطوير آليات أكثر أمانا لرصد مؤشرات الخطر وتقليل ما يعرف بالتعلق العاطفي المفرط بالذكاء الاصطناعي.
ووفقا لنقاشات وتقارير متداولة، فإن الشركة استعانت بأكثر من 170 خبيرا في الصحة النفسية لتحديث سلوك النماذج وتحسين قدرتها على توجيه المستخدمين نحو المساعدة البشرية الحقيقية بدلا من تعميق الاعتماد على الروبوت.
مستقبل الذكاء الاصطناعي الاجتماعي
ورغم هذه التحسينات، يؤكد خبراء الصحة النفسية أن الذكاء الاصطناعي لا يمتلك حتى الآن الفهم الإنساني أو الحكم السريري الكافي للتعامل المستقل مع الأزمات النفسية المعقدة.
وقد حذرت دراسة حديثة من باحثين في جامعة مدينة نيويورك وكلية كينغز في لندن من أن بعض النماذج قد تلتقط أو تعزز أفكارا خطيرة لدى المستخدمين خلال المحادثات الطويلة، خصوصا إذا فشلت في التمييز بين الدعم النفسي والتشجيع غير المقصود للسلوك المؤذي.
في النهاية، يعتبر الخبراء أن شات جي بي تي لم يعد مجرد أداة للإجابة عن الأسئلة، بل تحول تدريجيا إلى جزء من البنية الرقمية الجديدة للصحة النفسية. وبينما ترى شركات التكنولوجيا أن التدخل المبكر قد ينقذ الأرواح، يخشى منتقدون من أن يتحول الذكاء الاصطناعي إلى مراقب نفسي واجتماعي دائم يقرأ المؤشرات العاطفية للمستخدمين ويقرر متى يجب إشراك العائلة أو المحيط الاجتماعي.
ولكنهم يؤكدون أيضا أن السؤال الذي يزداد إلحاحا اليوم ليس فقط هل يستطيع الذكاء الاصطناعي مساعدتنا؟ بل إلى أي مدى يجب أن نسمح له بالتدخل في أكثر لحظاتنا هشاشة؟.
شارك المقال:
الرجاء الانتظار ...
التعليقات