سرايا - أثارت تحذيرات متزايدة داخل قطاع الذكاء الاصطناعي بشأن المخاطر الوجودية التي قد تفرضها النماذج المتقدمة تساؤلات حول إمكانية إيقاف هذه الأنظمة إذا أصبحت أقوى من قدرة صانعيها على التحكم فيها، بحسب "بلومبيرغ".
واكتسب هذا السؤال أهمية جديدة خلال الأسابيع الأخيرة، مع تصاعد التحذيرات من داخل صناعة الذكاء الاصطناعي بشأن المخاطر المحتملة للنماذج المتقدمة، وما إذا كان بالإمكان ببساطة الضغط على "زر" لإيقافها في حال خرجت عن سيطرة مطوريها.
وبدأ مشرعون ومسؤولون في الولايات المتحدة الدفع باتجاه جعل قدرات الإيقاف الشامل للأنظمة مطلبًا إلزاميًا لدى شركات الذكاء الاصطناعي.
وفي سبتمبر، وقّع حاكم ولاية كاليفورنيا غافين نيوسوم أمرًا تنفيذيًا يقضي بأن يستكشف مسؤولو الولاية وضع قواعد تُلزم شركات الذكاء الاصطناعي بإنشاء "مفاتيح إيقاف" للنماذج المتقدمة، المعروفة باسم نماذج الذكاء الاصطناعي الرائدة.
مطالب بوضع مفتاح إيقاف التشغيل.. لماذا الآن؟
لطالما حذر باحثو الذكاء الاصطناعي من فقدان البشر السيطرة على هذه التقنية. لكن ما تغيَّر مؤخراً هو التطور الهائل في قدرات هذه الأنظمة الجديدة، وسلسلة من الحوادث والتحذيرات التي جعلت هذا الاحتمال يبدو أكثر واقعية.
وتأتي هذه التحركات في ظل تحذيرات صدرت أخيرًا من شخصيات وعاملين في قطاع الذكاء الاصطناعي بشأن المخاطر التي قد تنشأ مع تطور قدرات النماذج؛ ما أعاد طرح مسألة كيفية ضمان قدرة البشر على إيقاف هذه الأنظمة عند الحاجة.
ودفعت حوادث تعرضت لها "أوبن إيه آي" شركات أخرى إلى مراجعة إجراءاتها الأمنية لاختبار الذكاء الاصطناعي المتقدم. وأفادت شركتا "أنثروبيك" و"ميتا" باكتشاف ثغرات أمنية لم تكن معروفة من قبل.
من جانبه قال جيفري هينتون، الذي يُطلق عليه غالبًا لقب "عراب الذكاء الاصطناعي"، لشبكة "سي إن إن" في سبتمبر، إنه لا يعتقد أن مفتاح الإيقاف سينجح كحل طويل الأمد؛ بحجة أن الذكاء الاصطناعي المستقبلي فائق الذكاء قد يقنع البشر الذين يتحكمون به بعدم فصل التيار الكهربائي.
ويطرح النقاش سؤالًا أساسيًا حول ما إذا كان وجود آلية مخصصة لإيقاف النظام، سيكون كافيًا بالفعل إذا أصبحت أنظمة الذكاء الاصطناعي قوية بدرجة تفوق قدرة صانعيها على التحكم فيها.
"زر الإيقاف" لا يكفي .. لماذا قد تعجز البشرية عن إطفاء الذكاء الاصطناعي؟
منذ 1 شهر
المشاهدات :
35673
إقرأ ايضاَ
وسوم:
شارك المقال:
الأكثر قراءة
01
02
03
04
آخر الأخبار
تكنولوجيا
آيفون 20 برو .. تسريب يكشف تصميماً ثورياً بشاشة بلا حواف
منذ 7 ساعات
تكنولوجيا
حذف ذاكرة التخزين المؤقت باستمرار .. عادة تجعل هاتفك أبطأ
منذ 8 ساعات
تكنولوجيا
بيسنت: يجب أن تبحث "إنفيديا" عن رئيس تنفيذي جديد لها من خارج الشركة
منذ 8 ساعات
تكنولوجيا
الشاشات ذاتية الإصلاح .. هل تنتهي مشكلة الخدوش؟
منذ 20 ساعة
تكنولوجيا
887 مليون دولار غرامة على "ميتا" لوصولها إلى صور مستخدمي أندرويد
منذ 20 ساعة
أخبار فنية
فن
يارا من الأردن: أشكر فضل شاكر على ثقته الكبيرة فيّي
منذ 3 ساعات
فن
مروان خوري يفضح كواليس محاربته فنيًا .. ماذا فعلوا به؟
منذ 3 ساعات
فن
نسليهان أتاغول تلتقي ابنة مسلسل "حب أعمى" بعد 10 سنوات
منذ 3 ساعات
فن
انطلاق تصوير "نيللي وشريهان 2" بطولة دنيا وإيمي سمير غانم
منذ 3 ساعات
فن
فاروق فلوكس وأحمد فلوكس يقدمان شكوى ضد هاني عزب
منذ 3 ساعات
أخبار رياضية
رياضة
الإصابة تبعد الحوراني عن "النشامى"
منذ 3 ساعات
رياضة
"الفيفا في حالة أسوأ" .. كلوب يشن هجومًا لاذعًا على إنفانتينو
منذ 3 ساعات
رياضة
بعد مقارنته بحكيم زياش .. تصريح مثير من أيوب أوفقير لاعب المنتخب المغربي
منذ 3 ساعات
رياضة
من هي المغربية إيمان توريس هدافة دوري أبطال إفريقيا للسيدات؟
منذ 3 ساعات
رياضة
ما حقيقة تكريم كريستيانو رونالدو بوضع صورته على عملة 50 يورو؟
منذ 3 ساعات
منوعات من العالم
منوعات من العالم
ناوله «قنبلة قتل الخنازير» فظنها حلوى ثم انفجرت في فمه .. هل كان مقلبًا قاتلًا؟
منذ 3 ساعات
منوعات من العالم
إنفيديا .. 3 مليارديرات يفقدون ثرواتهم وسط تداعيات أزمة هوانغ
منذ 3 ساعات
منوعات من العالم
قتيلة أمريكية في صندوق سيارة .. والحمض النووي يفضح قاتلها بعد 45 عامًا
منذ 3 ساعات
منوعات من العالم
مأساة في قرية مصرية .. شاحن هاتف يقتل طفلين شقيقين حرقاً
منذ 5 ساعات
منوعات من العالم
أنقذ البشرية وفرّق العلماء .. من سرق مجد الأنسولين؟
منذ 9 ساعات
الرجاء الانتظار ...
التعليقات