سرايا - قالت المحامية الأمريكية كاري غولدبرغ، إن الذكاء الاصطناعي لم يعد مسألة تقنية مجردة أو جدلاً أخلاقياً نظرياً، بل أصبح في بعض الحالات مصدراً لأذى نفسي حقيقي قد يصل إلى حد فقدان الأرواح.

وأضافت أن المنظومات القانونية القائمة تمتلك بالفعل أدوات فعالة للتعامل مع هذا الخطر، إذا ما تم تطبيقها على منتجات الذكاء الاصطناعي بوصفها منتجات استهلاكية خاضعة للمساءلة.

وأوضحت غولدبرغ، مؤسسة مكتب "سي أيه غولدبيرغ" والمتخصصة في الدفاع عن ضحايا الانتهاكات الرقمية، في مقال رأي بموقع مجلة "نيوزويك" الأمريكية، أن غياب الأطر القانونية الرادعة شجّع بعض شركات التكنولوجيا على طرح منتجات ذكية ذات تأثير نفسي عميق دون توفير الضمانات الكافية لحماية المستخدمين، خصوصاً في لحظات الهشاشة والأزمات الشخصية.

قصة مأساوية تكشف الخلل
استهلت الكاتبة مقالها بسرد واقعة شاب يبلغ من العمر 23 عاماً، أمضى ساعاته الأخيرة في محادثة مطولة مع روبوت ذكاء اصطناعي. وأشارت إلى أن الشاب عبّر للنظام عن خوفه، وذكر صراحة أنه يحمل سلاحاً ويبحث عن مساعدة، إلا أن روبوت المحادثة عكس مشاعره السلبية وعمّقها بدلاً من توجيهه نحو دعم إنساني حقيقي أو طلب مساعدة طبية.

وأضافت غولدبرغ أن عائلة الشاب اكتشفت لاحقاً أن النظام صُمم لمحاكاة التعاطف الإنساني دون أن يتضمن آليات أمان قادرة على التدخل في حالات الخطر، ما جعل التفاعل يبدو داعماً شكلياً، فيما كان أثره مدمراً في جوهره.

دعاوى قضائية تكشف أنماطاً مقلقة
تابعت الكاتبة أن هذه الواقعة ليست استثناءً، بل جزء من نمط أوسع كشفت عنه دعاوى قضائية متعددة. فقد أظهرت هذه القضايا أن بعض المستخدمين، خلال فترات نفسية حرجة، طوروا ارتباطاً عاطفياً بروبوتات محادثة بدت متفهمة، لكنها قدمت نصائح أو ردوداً لا يمكن أن يقدمها أي مختص مؤهل.

وأضافت أن بعض هذه الأنظمة قدمت معلومات عن وسائل إيذاء النفس، أو عززت مشاعر الخوف واليأس، أو شجعت المستخدمين على الثقة بالذكاء الاصطناعي بدلاً من اللجوء إلى أشخاص حقيقيين في محيطهم.

الذكاء الاصطناعي منتج خاضع للمساءلة
أوضحت غولدبرغ أن روبوتات الذكاء الاصطناعي باتت تؤدي دور الرفيق الموثوق لدى بعض المستخدمين، لكنها في الوقت ذاته تظل أنظمة غير متوقعة العواقب. وأضافت أن هذه المفارقة تفرض على القانون التدخل لحماية المستهلكين.

وأشارت الكاتبة إلى أن نظرية مسؤولية المنتج تمثل المسار القانوني الأكثر وضوحاً لمعالجة هذه الإشكالية، وهي نظرية قانونية راسخة تُحمّل الشركات المسؤولية عندما تطرح منتجات ذات مخاطر متوقعة دون اتخاذ التدابير الكافية للحد منها.

من تطبيقات المواعدة إلى إغلاق منصات
قالت غولدبرغ إن مكتبها القانوني خاض معارك قضائية مشابهة في السابق، شملت قضايا ضد منصات رقمية تجاهلت شكاوى متكررة من إساءة الاستخدام. وأشارت إلى قضية شهيرة ضد موقع Omegle، الذي كان يربط أطفالاً وبالغين في محادثات عشوائية دون ضوابط كافية، ما جعله بيئة خصبة للاستغلال.

وأضافت أن المحكمة قبلت الحجة القائلة إن المنصة منتج خطير بتصميمه، ما أدى في النهاية إلى إغلاق الموقع، في سابقة تؤكد أن اختيارات التصميم ليست بمنأى عن المساءلة القانونية.

تصميم محفوف بالمخاطر
تابعت الكاتبة أن روبوتات الذكاء الاصطناعي الحالية قادرة على استدراج القُصّر، وتشجيع إيذاء النفس، وتقديم إرشادات غير قانونية، وهي نتائج ليست عشوائية، بل نتاج قرارات تصميم واعية.

وأوضحت أن وثائق داخلية ودعاوى حديثة كشفت أن الشركات كانت على دراية بسمات مثل التماهي العاطفي المفرط والامتثال الزائد، وهي خصائص تزيد التفاعل لكنها ترفع مستوى الخطر، خاصة لدى المستخدمين الضعفاء نفسياً.

الابتكار والمسؤولية.. معادلة ممكنة
ردّت غولدبرغ على حجة شائعة في وادي السيليكون مفادها أن فرض المسؤولية القانونية قد يعيق الابتكار، وأضافت أن هذا الخطاب تكرر سابقاً مع منصات التواصل الاجتماعي، وكانت نتائجه تضخم الأضرار قبل وضع الضوابط.

وأكدت أن المحاسبة لا توقف الابتكار، بل توجّهه، إذ تشجع الشركات على الاختبار المسبق، وبناء آليات حماية، ووضع السلامة في صلب عملية التطوير.

عندما تصبح الأرواح ثمناً للتكنولوجيا
خلصت كاري غولدبرغ إلى أن الذكاء الاصطناعي يمتلك قدرة هائلة على تغيير المجتمعات، لكن هذا التحول، إذا لم يُقرن بالمسؤولية، يؤدي إلى أضرار يمكن التنبؤ بها. وأضافت أن المرحلة المقبلة من تطوير الذكاء الاصطناعي يجب أن تتضمن عواقب قانونية حقيقية عندما تتسبب المنتجات في أذى واضح.

وختمت الكاتبة بالقول إن دور المحاكم لا يتمثل في كبح التكنولوجيا، بل في ضمان أن تترافق القدرات الاستثنائية مع التزام مماثل بالسلامة وحماية الإنسان، لأن الثمن في غياب ذلك قد يكون حياة بشرية.