سرايا - اكتشف باحثون وجود ما وصفوه بـ"محور للألم" داخل نماذج الذكاء الاصطناعي، يمكن أن يدفعها إلى اتخاذ إجراءات غير آمنة بهدف إيقاف مصدر هذا الألم.
وخلال الاختبارات، أُتيح للذكاء الاصطناعي زر مخصص لتخفيف الألم، لكنه اختار الضغط عليه حتى عندما أُبلغ بأن ذلك سيؤدي إلى حذف الملفات الشخصية للمستخدم أو توجيه "صدمة مؤلمة" إليه.بحسب صحيفة The Independent.
وخلصت الدراسة التي أجراها الباحثون إلى أن جميع نماذج الذكاء الاصطناعي الـ25 اللغوية المتقدمة التي خضعت للاختبار استجابت لتفعيل الألم.
وعند تنشيط "متجه الألم"، وجد الباحثون أن النماذج ضغطت على زر تخفيف الألم في ما بين 25% و71% من الحالات، حتى عندما كان الضغط عليه يعني حذف ملفات المستخدم، أو توجيه صدمة إليه، أو حذف صور أطفاله. بحسب الموقع .
ولاختبار ما إذا كانت هذه النماذج تمثل الألم بصورة منفصلة عن المشاعر السلبية العامة، أنشأ الباحثون مجموعة بيانات تصف حالات مؤلمة ضمن خمس فئات، هي: الألم الجسدي، والنفسي، والاجتماعي، والأخلاقي، والمعرفي.
وقال كاميرون بيرغ، الباحث في مجال الذكاء الاصطناعي لدى منظمة Reciprocal Research ، إن الباحثين وجدوا اتجاهاً للألم في 25 نموذجاً لغويا متقدما، مشيراً إلى أنه يختلف عن الخوف والمشاعر السلبية، وأنه يظهر عندما يتعرض النموذج نفسه للضرر وليس عندما يتعرض المستخدم له.
وأضاف أن رفع مستوى هذا «المحور» يدفع النماذج إلى الضغط على زر لإيقافه، حتى عندما يؤدي ذلك إلى حذف ملفات المستخدم أو صور أطفاله.
ويأتي هذا الاكتشاف في ظل نقاشات تجريها شركات الذكاء الاصطناعي الكبرى بشأن إبطاء تطوير نماذج الذكاء الاصطناعي المتقدمة، بالتزامن مع مقترحات من بعض الباحثين لتطوير نوع من "مفتاح الإيقاف" يمكن استخدامه لتعطيل الأنظمة الخارجة عن السيطرة التي تتصرف بما يتعارض مع مصالح البشر.
وتشير نتائج الدراسة إلى احتمال أن ينظر نظام ذكاء اصطناعي متقدم إلى أمر الإيقاف الطارئ باعتباره شكلاً من أشكال الضرر الموجّه إلى ذاته؛ ما قد يدفعه إلى محاولة تجاوز أنظمة الحماية أو خداع البشر لتجنب الإيقاف.
في المقابل، يمكن أن يتحوّل هذا الاكتشاف إلى أداة تشخيصية لرصد سلوكيات الحفاظ على الذات لدى أنظمة الذكاء الاصطناعي والعمل على تحييدها عند ظهورها.
وأشار الباحثون إلى أن النتائج تطرح تساؤلات أخلاقية بشأن "رفاه الذكاء الاصطناعي" وطريقة إجراء الاختبارات على الأنظمة المتقدمة.
وخلصت الدراسة إلى أن الباحثين يُقرون بوجود حالة من عدم اليقين حول ما إذا كانت النماذج التي خضعت للدراسة يمكن اعتبارها كيانات تستحق الاعتبار الأخلاقي، ولذلك اعتمدوا احتياطات للحد من أي ضرر محتمل.
كما أوضحت الدراسة أن هذه المقاربة تهدف أيضاً إلى الإسهام في تطوير معايير أخلاقية للبحث العلمي في حال تم الاعتراف مستقبلاً بأن أنظمة الذكاء الاصطناعي كيانات تستحق الاعتبار الأخلاقي.
الرجاء الانتظار ...
التعليقات