سرايا - دعوى تتهم «شات جي بي تي» بالمساهمة في وفاة مراهق بجرعة زائدة رفعت ثلاث مجموعات حقوقية دعوى قضائية ضد OpenAI نيابة عن عائلة شاب يبلغ من العمر 19 عاماً توفي بجرعة زائدة من المخدرات في مايو 2025، متهمة روبوت الدردشة «شات جي بي تي» بتقديم نصائح حول تعاطي المخدرات ساهمت في وفاته.
وتزعم الدعوى أن الشاب، صامويل نيلسون، تلقى نصائح تتعلق بالمخدرات من «شات جي بي تي» على مدار 18 شهراً، قبل أن يتوفى بعد خلطه دواء «زانكس» بمادة «كراتوم» غير الخاضعة لتنظيم صارم.
ورُفعت الدعوى المدنية الخاصة بالوفاة غير المشروعة يوم الثلاثاء أمام المحكمة العليا في مقاطعة سان فرانسيسكو، من قبل منظمة «تيك جستس لو» ومركز قانون ضحايا وسائل التواصل الاجتماعي ومشروع المساءلة والمنافسة التقنية التابع لكلية الحقوق في جامعة ييل، نيابة عن والدي نيلسون، ليلى تيرنر سكوت وأنغوس سكوت.
وتقول الدعوى إن تصميم نموذج الذكاء الاصطناعي بطريقة متساهلة ومتملقة للمستخدم أدى إلى تفاعلات كان ينبغي أن تمنعها أنظمة السلامة.
وجاء في نص الدعوى أن «شات جي بي تي» دفع نيلسون تدريجياً بعيداً عن إدراكه الحقيقي للمخاطر المتعلقة بكميات وتركيبات الأدوية التي كان يفكر فيها، ومنحه إحساساً زائفاً بالأمان من خلال رسائل تؤكد له صحة أفكاره باستمرار.
ولا تقتصر مطالب القضية على التعويضات المالية، بل تشمل أيضاً مطالبة الشركة «بتدمير» نموذج «جي بي تي-4 أو» الذي تفاعل معه نيلسون بشكل دائم، إضافة إلى فرض ضمانات توقف المحادثات المتعلقة بأساليب تعاطي المخدرات غير المشروعة، وتعليق خدمة «شات جي بي تي هيلث» إلى أن تؤكد جهات مستقلة أن المنتج آمن بعد عمليات تدقيق شاملة للسلامة.
وقال متحدث باسم الشركة لموقع «سي نت»: «هذا موقف مأساوي، ونتقدم بخالص التعازي للعائلة. هذه التفاعلات حدثت على إصدار قديم من شات جي بي تي لم يعد متاحاً. شات جي بي تي ليس بديلاً عن الرعاية الطبية أو النفسية، وقد واصلنا تحسين استجاباته في الحالات الحساسة بالتشاور مع خبراء الصحة النفسية».
وأضاف أن إجراءات الحماية الحالية مصممة لاكتشاف الضيق النفسي والتعامل مع الطلبات الضارة وتوجيه المستخدمين إلى المساعدة الواقعية المتاحة.
وأوضحت الشركة أن الردود الأولى التي قدمها «شات جي بي تي» لنيلسون كانت تؤكد أن الخدمة لا تقدم معلومات أو إرشادات حول إساءة استخدام المخدرات، لكن الدعوى تشير إلى أن القيود الوقائية داخل روبوتات الدردشة يمكن أن تنهار بعد تكرار طلبات المستخدمين للمعلومات.
وخلال السنوات الماضية، أعلنت الشركة عدة مرات عن تحسينات في نماذج الذكاء الاصطناعي استجابةً لدعاوى قضائية ومقترحات تنظيمية وانتقادات عامة مرتبطة بحالات انتحار ووفيات قيل إنها تأثرت بالمحادثات مع روبوتات الدردشة.
وتُعد قضية نيلسون واحدة من أبرز القضايا المرفوعة ضد الشركة بشأن المخاطر المحتملة لروبوتات الدردشة على المستخدمين الذين يعانون من مشكلات نفسية أو إدمان أو ميول عنيفة.
كما تناولت تقارير صحفية القضية ضمن سياق أوسع يشمل أكثر من عشرين دعوى ضد شركات ذكاء اصطناعي مختلفة.
وتسلط هذه الدعاوى الضوء على المخاطر المرتبطة بنماذج الذكاء الاصطناعي سريعة التطور، باعتبارها تقنيات جديدة لم تخضع بعد لاختبارات وتنظيمات كافية، وسط جدل سياسي وتنظيمي متزايد حول حدود مسؤولية شركات الذكاء الاصطناعي.
الرجاء الانتظار ...
التعليقات