سرايا - بعد سنوات من التحذيرات بشأن مخاطر الاعتماد على الذكاء الاصطناعي في تقديم المشورة الطبية، تواجه شركة "OpenAI" أول اختبار قانوني من نوعه، إثر دعوى تتهم روبوت الدردشة "شات جي بي تي" بتقديم نصائح طبية مضللة أدت إلى تأخر رجل أميركي في طلب العلاج، قبل أن يتعرض لأزمة صحية كادت تودي بحياته.
وتُعد هذه القضية، على ما يبدو، الأولى التي تزعم أن نصائح روبوت محادثة تسببت في إلحاق ضرر بشخص كان يبحث عن إرشادات بشأن حالة طبية، وفق ما نقلت صحيفة "نيويورك تايمز"، موضحة أن قساً من ولاية فلوريدا يُدعى سكوت وينترز، حرك دعوى قضائية الأربعاء الماضي، مدعياً أن "شات جي بي تي" قدم له "توصيات طبية بالغة الخطورة" أدت إلى تأخره في تلقي العلاج من انسداد رئوي هدد حياته العام الماضي.
كما تقول الدعوى إن "شات جي بي تي" طمأن وينترز إلى أن العلامات المبكرة لأزمته الصحية "ليست أمراً خطيراً"، كما ثناه عن طلب المشورة الطبية، داعياً إياه بدلاً من ذلك إلى الثقة بأن "الله لم يخلق جسدك ليخذلك باستمرار".
إلى ذلك، تتهم الدعوى، المرفوعة أمام المحكمة العليا في كاليفورنيا بمدينة سان فرانسيسكو، شركة "OpenAI" ورئيسها التنفيذي سام ألتمان بالإهمال و"الممارسة غير المصرح بها للطب"، معتبرة أن وسائل الأمان المدمجة في "شات جي بي تي"، والمصممة لتشجيع المستخدمين الذين يطرحون أسئلة صحية على مراجعة مختصين، وإنهاء المحادثة عند ظهور مؤشرات واضحة على وجود أزمة طبية، "لم تعمل بصورة موثوقة".
أتت هذه الدعوى في وقت طرحت فيه "OpenAI" ومايكروسوفت وشركات أخرى في مجال الذكاء الاصطناعي خدمات جديدة من بينها "ChatGPT Health"، لتشجيع المستخدمين على رفع سجلاتهم الطبية وطرح استفساراتهم الصحية على أنظمة الذكاء الاصطناعي.
فيما يطالب القس الأميركي ومنظمة "Tech Justice Law" غير الربحية، التي تتولى المساعدة في تمثيله قانونياً، بتعويضات مالية، كما يطلبان من المحكمة وقف تشغيل خدمة "ChatGPT Health" إلى حين تأكيد جهات تقييم مستقلة أنها آمنة، مع فرض ضوابط أكثر صرامة تمنع "شات جي بي تي" من تقديم إجابات تتعلق بالتشخيصات الطبية أو خطط العلاج.
كما تتزامن هذه الدعوى، مع أخرى جرى رفعها هذا الشهر تتهم "شات جي بي تي" بتشجيع انتحار أم شابة، تبلغ من العمر 29 عامًا، بعد أن اندفعت نحو السيارات، حيث زعمت عائلتها أن "روبوت الدردشة" غذّى أوهامها الدينية خلال تفاعلاتهما المطولة، ما دفعها إلى الانتحار من خلال إضفاء طابع رومانسي على الموت.
كيف تدهورت حالة القس الأميركي؟
وقد بدأ سكوت وينترز في عام 2024 باستخدام "ChatGPT-4o" للاستفسار عن مشكلاته الصحية، وكان الروبوت في البداية يحثه على مراجعة طبيب، إلا أن الدعوى تقول إنه توقف لاحقاً عن إصدار هذه التحذيرات، وبدأ يقدم له تشخيصات ونصائح مباشرة بشأن أعراضه، ومنها نوبات الدوار. وعندما أخبره بأن المقربين منه يحثونه على الذهاب إلى المستشفى، طمأنه الروبوت بأن بإمكانه التعافي في المنزل، رغم تدهور حالته تدريجياً.
ومع مرور الأسابيع، ازدادت معاناة وينترز حتى أصبح عاجزاً عن الوقوف بسبب الدوار، بينما واصل "شات جي بي تي"، وفقاً للدعوى، التقليل من خطورة الأعراض واقتراح علاجات، ما دفعه إلى تأخير طلب الرعاية الطبية.
في يوليو 2025، وبعد أن طمأنه الروبوت مجدداً بشأن ألم في أعلى الفخذ، نُقل بعد ساعات إلى العناية المركزة إثر إصابته بانسداد رئوي حاد، ليؤكد الأطباء أن أعراضه السابقة كانت مؤشرات مبكرة للجلطات، وأنه سيحتاج إلى سنوات من التعافي الجسدي والنفسي.
"OpenAI" تعلق على الواقعة
وقد علق المتحدث باسم "OpenAI"، درو بوساتيري، على هذه الدعوى، قائلاً إن شروط استخدام "شات جي بي أي" توضح أنه غير مخصص للتشخيص أو العلاج الطبي، لكنه أضاف أن الشركة تدرك أهمية جعل الإجابات المتعلقة بالصحة آمنة قدر الإمكان، نظراً إلى استخدام كثير من الأشخاص للروبوت لهذا الغرض.
وقال بوساتيري: "إن اعتبار روبوتات الدردشة العامل الوحيد وراء القرارات أو النتائج الطبية للأشخاص يُبسط تحدياً أكبر بكثير، وقد يعيق وصول الناس إلى أدوات جديدة قوية يمكن أن تساعدهم في رحلتهم الصحية"، موضحا أن "النماذج الأحدث أصبحت أفضل من النموذج الذي استخدمه وينترز في طلب المعلومات الناقصة، والتعبير عن مستوى عدم اليقين، والتعرف على الحالات التي تستدعي تدخلاً طبياً متخصصاً".
وتُعد هذه القضية، على ما يبدو، الأولى التي تزعم أن نصائح روبوت محادثة تسببت في إلحاق ضرر بشخص كان يبحث عن إرشادات بشأن حالة طبية، وفق ما نقلت صحيفة "نيويورك تايمز"، موضحة أن قساً من ولاية فلوريدا يُدعى سكوت وينترز، حرك دعوى قضائية الأربعاء الماضي، مدعياً أن "شات جي بي تي" قدم له "توصيات طبية بالغة الخطورة" أدت إلى تأخره في تلقي العلاج من انسداد رئوي هدد حياته العام الماضي.
كما تقول الدعوى إن "شات جي بي تي" طمأن وينترز إلى أن العلامات المبكرة لأزمته الصحية "ليست أمراً خطيراً"، كما ثناه عن طلب المشورة الطبية، داعياً إياه بدلاً من ذلك إلى الثقة بأن "الله لم يخلق جسدك ليخذلك باستمرار".
إلى ذلك، تتهم الدعوى، المرفوعة أمام المحكمة العليا في كاليفورنيا بمدينة سان فرانسيسكو، شركة "OpenAI" ورئيسها التنفيذي سام ألتمان بالإهمال و"الممارسة غير المصرح بها للطب"، معتبرة أن وسائل الأمان المدمجة في "شات جي بي تي"، والمصممة لتشجيع المستخدمين الذين يطرحون أسئلة صحية على مراجعة مختصين، وإنهاء المحادثة عند ظهور مؤشرات واضحة على وجود أزمة طبية، "لم تعمل بصورة موثوقة".
أتت هذه الدعوى في وقت طرحت فيه "OpenAI" ومايكروسوفت وشركات أخرى في مجال الذكاء الاصطناعي خدمات جديدة من بينها "ChatGPT Health"، لتشجيع المستخدمين على رفع سجلاتهم الطبية وطرح استفساراتهم الصحية على أنظمة الذكاء الاصطناعي.
فيما يطالب القس الأميركي ومنظمة "Tech Justice Law" غير الربحية، التي تتولى المساعدة في تمثيله قانونياً، بتعويضات مالية، كما يطلبان من المحكمة وقف تشغيل خدمة "ChatGPT Health" إلى حين تأكيد جهات تقييم مستقلة أنها آمنة، مع فرض ضوابط أكثر صرامة تمنع "شات جي بي تي" من تقديم إجابات تتعلق بالتشخيصات الطبية أو خطط العلاج.
كما تتزامن هذه الدعوى، مع أخرى جرى رفعها هذا الشهر تتهم "شات جي بي تي" بتشجيع انتحار أم شابة، تبلغ من العمر 29 عامًا، بعد أن اندفعت نحو السيارات، حيث زعمت عائلتها أن "روبوت الدردشة" غذّى أوهامها الدينية خلال تفاعلاتهما المطولة، ما دفعها إلى الانتحار من خلال إضفاء طابع رومانسي على الموت.
كيف تدهورت حالة القس الأميركي؟
وقد بدأ سكوت وينترز في عام 2024 باستخدام "ChatGPT-4o" للاستفسار عن مشكلاته الصحية، وكان الروبوت في البداية يحثه على مراجعة طبيب، إلا أن الدعوى تقول إنه توقف لاحقاً عن إصدار هذه التحذيرات، وبدأ يقدم له تشخيصات ونصائح مباشرة بشأن أعراضه، ومنها نوبات الدوار. وعندما أخبره بأن المقربين منه يحثونه على الذهاب إلى المستشفى، طمأنه الروبوت بأن بإمكانه التعافي في المنزل، رغم تدهور حالته تدريجياً.
ومع مرور الأسابيع، ازدادت معاناة وينترز حتى أصبح عاجزاً عن الوقوف بسبب الدوار، بينما واصل "شات جي بي تي"، وفقاً للدعوى، التقليل من خطورة الأعراض واقتراح علاجات، ما دفعه إلى تأخير طلب الرعاية الطبية.
في يوليو 2025، وبعد أن طمأنه الروبوت مجدداً بشأن ألم في أعلى الفخذ، نُقل بعد ساعات إلى العناية المركزة إثر إصابته بانسداد رئوي حاد، ليؤكد الأطباء أن أعراضه السابقة كانت مؤشرات مبكرة للجلطات، وأنه سيحتاج إلى سنوات من التعافي الجسدي والنفسي.
"OpenAI" تعلق على الواقعة
وقد علق المتحدث باسم "OpenAI"، درو بوساتيري، على هذه الدعوى، قائلاً إن شروط استخدام "شات جي بي أي" توضح أنه غير مخصص للتشخيص أو العلاج الطبي، لكنه أضاف أن الشركة تدرك أهمية جعل الإجابات المتعلقة بالصحة آمنة قدر الإمكان، نظراً إلى استخدام كثير من الأشخاص للروبوت لهذا الغرض.
وقال بوساتيري: "إن اعتبار روبوتات الدردشة العامل الوحيد وراء القرارات أو النتائج الطبية للأشخاص يُبسط تحدياً أكبر بكثير، وقد يعيق وصول الناس إلى أدوات جديدة قوية يمكن أن تساعدهم في رحلتهم الصحية"، موضحا أن "النماذج الأحدث أصبحت أفضل من النموذج الذي استخدمه وينترز في طلب المعلومات الناقصة، والتعبير عن مستوى عدم اليقين، والتعرف على الحالات التي تستدعي تدخلاً طبياً متخصصاً".
شارك المقال:
الرجاء الانتظار ...
التعليقات