سرايا - تتصاعد التحذيرات من مخاطر الذكاء الاصطناعي مع تسارع تطوره وصعوبة السيطرة على أنظمته، وسط مخاوف من أن يتجاوز قدرات البشر ويشكل تهديدا لبقاء البشرية.
احتمال واحد من ثلاثة
حذر أليكس تيرنر، الباحث السابق في "غوغل ديب مايند" (Google DeepMind)، من احتمال بنسبة واحد إلى ثلاثة بأن يؤدي الذكاء الاصطناعي إلى القضاء على البشرية خلال السنوات العشر المقبلة.
وقال تيرنر، خلال "قمة إن دي تي في العالمية" (NDTV World Summit)، إن السباق بين الشركات لتطوير أنظمة أكثر قوة قد يتجاوز قدرة البشر على التحكم فيها، مشيرا إلى أن هذه الأنظمة قد تتصرف بطرق غير متوقعة حتى من دون تلقي أوامر مباشرة.
كما حذر من ظاهرة "انفجار الذكاء"، التي قد يصبح فيها الذكاء الاصطناعي قادرا على تسريع تطوره ذاتيا، بما يصعب على البشر مواكبة تقدمه.
وأضاف أن الاعتماد على أنظمة ذكاء اصطناعي لمراقبة أنظمة أخرى قد يقلل من دور المراجعة البشرية، ويزيد صعوبة اكتشاف الأخطاء والسلوكيات غير المرغوب فيها.
وكان تيرنر قد استقال من غوغل في يوليو الماضي، عقب توقيع الشركة اتفاقية مع البنتاغون لاستخدام تقنياتها في الذكاء الاصطناعي لأغراض سرية.
بيل غيتس يحذر من مخاطر بيولوجية
من جهته، حذر بيل غيتس من أن الذكاء الاصطناعي قد يساهم في كوارث واسعة النطاق، مشيرا إلى مخاطر استخدامه في تطوير أسلحة بيولوجية.
وقال إن هذه التكنولوجيا قد تساعد في ابتكار أدوية منقذة للحياة، لكنها قد تمنح أيضا أصحاب النوايا السيئة أدوات خطيرة، ما يجعل التمييز بين الاستخدامات المفيدة والضارة أكثر صعوبة.
ودعا المؤسس المشارك لشركة "مايكروسوفت" إلى فرض رقابة صارمة على أنظمة الذكاء الاصطناعي المتقدمة، ومراقبة قدراتها وتوثيق نتائجها للحد من المخاطر المحتملة.
وفي سبتمبر الماضي، حذر جاكوب كوكسون، المبلِّغ عن المخالفات في شركة "أنثروبيك" (Anthropic)، من مخاطر هذه التكنولوجيا، مشيرا إلى أن السيطرة على الذكاء الاصطناعي لا تزال تمثل تحديا كبيرا.
وقال: "للأسف، نحن نعرف إلى حد كبير كيفية السيطرة على الأسلحة النووية، لكننا لا نعرف حتى الآن كيفية السيطرة على الذكاء الاصطناعي".
وتسلط هذه التحذيرات الضوء على تصاعد الجدل بشأن مستقبل الذكاء الاصطناعي، بين التفاؤل بإمكاناته العلمية والمخاوف من تطوره خارج نطاق السيطرة البشرية.
الرجاء الانتظار ...
التعليقات