سرايا - اكتشف باحثون وجود ما وصفوه بـ"محور للألم" داخل نماذج الذكاء الاصطناعي، يمكن أن يدفعها إلى اتخاذ إجراءات غير آمنة بهدف إيقاف مصدر هذا الألم.
وخلال الاختبارات، أُتيح للذكاء الاصطناعي زر مخصص لتخفيف الألم، لكنه اختار الضغط عليه حتى عندما أُبلغ بأن ذلك سيؤدي إلى حذف الملفات الشخصية للمستخدم أو توجيه "صدمة مؤلمة" إليه.بحسب صحيفة The Independent.
وخلصت الدراسة التي أجراها الباحثون إلى أن جميع نماذج الذكاء الاصطناعي الـ25 اللغوية المتقدمة التي خضعت للاختبار استجابت لتفعيل الألم.
وعند تنشيط "متجه الألم"، وجد الباحثون أن النماذج ضغطت على زر تخفيف الألم في ما بين 25% و71% من الحالات، حتى عندما كان الضغط عليه يعني حذف ملفات المستخدم، أو توجيه صدمة إليه، أو حذف صور أطفاله. بحسب الموقع .
ولاختبار ما إذا كانت هذه النماذج تمثل الألم بصورة منفصلة عن المشاعر السلبية العامة، أنشأ الباحثون مجموعة بيانات تصف حالات مؤلمة ضمن خمس فئات، هي: الألم الجسدي، والنفسي، والاجتماعي، والأخلاقي، والمعرفي.
وقال كاميرون بيرغ، الباحث في مجال الذكاء الاصطناعي لدى منظمة Reciprocal Research ، إن الباحثين وجدوا اتجاهاً للألم في 25 نموذجاً لغويا متقدما، مشيراً إلى أنه يختلف عن الخوف والمشاعر السلبية، وأنه يظهر عندما يتعرض النموذج نفسه للضرر وليس عندما يتعرض المستخدم له.
وأضاف أن رفع مستوى هذا «المحور» يدفع النماذج إلى الضغط على زر لإيقافه، حتى عندما يؤدي ذلك إلى حذف ملفات المستخدم أو صور أطفاله.
ويأتي هذا الاكتشاف في ظل نقاشات تجريها شركات الذكاء الاصطناعي الكبرى بشأن إبطاء تطوير نماذج الذكاء الاصطناعي المتقدمة، بالتزامن مع مقترحات من بعض الباحثين لتطوير نوع من "مفتاح الإيقاف" يمكن استخدامه لتعطيل الأنظمة الخارجة عن السيطرة التي تتصرف بما يتعارض مع مصالح البشر.
وتشير نتائج الدراسة إلى احتمال أن ينظر نظام ذكاء اصطناعي متقدم إلى أمر الإيقاف الطارئ باعتباره شكلاً من أشكال الضرر الموجّه إلى ذاته؛ ما قد يدفعه إلى محاولة تجاوز أنظمة الحماية أو خداع البشر لتجنب الإيقاف.
في المقابل، يمكن أن يتحوّل هذا الاكتشاف إلى أداة تشخيصية لرصد سلوكيات الحفاظ على الذات لدى أنظمة الذكاء الاصطناعي والعمل على تحييدها عند ظهورها.
وأشار الباحثون إلى أن النتائج تطرح تساؤلات أخلاقية بشأن "رفاه الذكاء الاصطناعي" وطريقة إجراء الاختبارات على الأنظمة المتقدمة.
وخلصت الدراسة إلى أن الباحثين يُقرون بوجود حالة من عدم اليقين حول ما إذا كانت النماذج التي خضعت للدراسة يمكن اعتبارها كيانات تستحق الاعتبار الأخلاقي، ولذلك اعتمدوا احتياطات للحد من أي ضرر محتمل.
كما أوضحت الدراسة أن هذه المقاربة تهدف أيضاً إلى الإسهام في تطوير معايير أخلاقية للبحث العلمي في حال تم الاعتراف مستقبلاً بأن أنظمة الذكاء الاصطناعي كيانات تستحق الاعتبار الأخلاقي.
إقرأ ايضاَ
شارك المقال:
الأكثر قراءة
01
02
03
04
آخر الأخبار
تكنولوجيا
11 أداة ذكية بأقل من 10 دولارات .. حلول صغيرة لمشكلات تواجهك كل يوم
منذ 1 ساعة
تكنولوجيا
متصفح كروم يعالج 83 ثغرة بينها 5 حرجة
منذ 1 ساعة
تكنولوجيا
"ميتا" تمنح مساعدها الذكي صلاحية إجراء المكالمات نيابة عن المستخدمين
منذ 1 ساعة
تكنولوجيا
خرائط أبل تخفي 6 ميزات ذكية .. هل تعرفها؟
منذ 1 ساعة
تكنولوجيا
آيفون 20 برو .. تسريب يكشف تصميماً ثورياً بشاشة بلا حواف
منذ 12 ساعة
أخبار فنية
فن
حسين فهمي رداً على تجاهل سينمائيين لحضور مهرجان القاهرة: تلقوا دعوات خاصة
منذ 39 دقيقة
فن
يارا من الأردن: أشكر فضل شاكر على ثقته الكبيرة فيّي
منذ 8 ساعات
فن
مروان خوري يفضح كواليس محاربته فنيًا .. ماذا فعلوا به؟
منذ 8 ساعات
فن
نسليهان أتاغول تلتقي ابنة مسلسل "حب أعمى" بعد 10 سنوات
منذ 8 ساعات
فن
انطلاق تصوير "نيللي وشريهان 2" بطولة دنيا وإيمي سمير غانم
منذ 8 ساعات
أخبار رياضية
رياضة
زيدان يفتح النار على لاعبي فرنسا
منذ 36 دقيقة
رياضة
ضربة موجعة لفليك .. اصابة نجم برشونة خلال مباراة إنجلترا
منذ 52 دقيقة
رياضة
الإصابة تبعد الحوراني عن "النشامى"
منذ 8 ساعات
رياضة
"الفيفا في حالة أسوأ" .. كلوب يشن هجومًا لاذعًا على إنفانتينو
منذ 8 ساعات
رياضة
بعد مقارنته بحكيم زياش .. تصريح مثير من أيوب أوفقير لاعب المنتخب المغربي
منذ 8 ساعات
منوعات من العالم
منوعات من العالم
ابتسامة بالمقلوب .. خبراء يكشفون أخطر إيموجي في محادثات العمل
منذ 1 ساعة
منوعات من العالم
فضيحة غش بالذكاء الاصطناعي تهز كوريا .. "الأول" متفوق زائف
منذ 1 ساعة
منوعات من العالم
4 خرافات شائعة عن الشتاء .. حقائق قد تفاجئك
منذ 1 ساعة
منوعات من العالم
قتلها وألقى جثتها في النهر .. جريمة لم تحدث تسجن هندياً عامين
منذ 1 ساعة
منوعات من العالم
ناوله «قنبلة قتل الخنازير» فظنها حلوى ثم انفجرت في فمه .. هل كان مقلبًا قاتلًا؟
منذ 8 ساعات
الرجاء الانتظار ...
التعليقات