سرايا - - سلط مقال نُشر في صحيفة "ديلي ميل" للكاتب والباحث توبي ووالش، استناداً إلى موقع "ذا كونفرسيشن"، الضوء على المخاوف المتزايدة من قدرة الذكاء الاصطناعي على القضاء على البشرية قبل نهاية العقد الحالي.
وتأتي هذه التحذيرات عقب استقالة الباحث جاكوب كوكسون من شركة Anthropic، وتأييد زميله إيفان هوبينجر لمخاوفه، مؤكداً وجود احتمال تتجاوز نسبته 10% لوقوع كارثة تؤدي لفناء البشر خلال السنوات العشر القادمة.
واستعرض ووالش أبرز 5 سيناريوهات محتملة للانقراض، مرتبة من الأقل احتمالاً إلى الأكثر ترجيحاً:
سيناريو "المجهول الكلي"
يستند إلى مفارقة مفادها أن الكائنات الأقل ذكاءً لا يمكنها التنبؤ بكيفية تصرف الذكاء الاصطناعي الفائق، تشبيهاً بمحاولة كلب تخيل حرب نووية. إلا أن الكاتب يرى أن الذكاء الفائق لا يزال بعيداً عن الواقع، رغم حل الأنظمة لبعض المعضلات الرياضية المعقدة.
سيناريو "مشابك الورق"
فرضية للفيلسوف نيك بوستروم، حيث يركز الذكاء الاصطناعي على تحقيق هدف محدد (كإنتاج مشابك الورق) بتحويل كل الموارد -بما فيها البشر- إلى هذا الهدف دون كراهية للبشر بل بلا مبالاة لهم. واستبعد ووالش ذلك لكون القدرة التنفيذية تواجه عقبات قانونية وشعبية في العالم الحقيقي.
الأسلحة البيولوجية
إمكانية تخليق فيروسات قاتلة، وهو ما تجسد في استخدام نماذج جينية مؤخراً لتخليق 16 فيروساً جديداً بمبالغ زهيدة. ولكن يقلل المقال من شأن هذا الخطر؛ نظراً لأن الفيروسات شديدة القتل عادة ما تكون أقل قدرة على الانتشارات الفائقة.
الحرب النووية
اختراق أنظمة السيطرة والقيادة النووية أو تقديم معلومات استخباراتية زائفة للجيوش تؤدي لقرارات كارثية، مما يتسبب في شتاء نووي ومجاعات واسعة.
السيناريو الأكثر ترجيحاً (تدمير ذاتي بأيدي البشر)
يرى ووالش أن الخطر الأكبر يتمثل في تسبب الذكاء الاصطناعي في إحداث خسائر هائلة في الوظائف، وتلويث المجال المعلوماتي بالأخبار المزيفة، وتفتيت السياسة، واستبدال العلاقات الإنسانية بالرفقة الاصطناعية الزائفة. هذا التفكك التدريجي للمجتمع سيؤدي حتماً إلى العجز عن دعم الحياة البشرية على المستويات الحالية.
وتأتي هذه التحذيرات عقب استقالة الباحث جاكوب كوكسون من شركة Anthropic، وتأييد زميله إيفان هوبينجر لمخاوفه، مؤكداً وجود احتمال تتجاوز نسبته 10% لوقوع كارثة تؤدي لفناء البشر خلال السنوات العشر القادمة.
واستعرض ووالش أبرز 5 سيناريوهات محتملة للانقراض، مرتبة من الأقل احتمالاً إلى الأكثر ترجيحاً:
سيناريو "المجهول الكلي"
يستند إلى مفارقة مفادها أن الكائنات الأقل ذكاءً لا يمكنها التنبؤ بكيفية تصرف الذكاء الاصطناعي الفائق، تشبيهاً بمحاولة كلب تخيل حرب نووية. إلا أن الكاتب يرى أن الذكاء الفائق لا يزال بعيداً عن الواقع، رغم حل الأنظمة لبعض المعضلات الرياضية المعقدة.
سيناريو "مشابك الورق"
فرضية للفيلسوف نيك بوستروم، حيث يركز الذكاء الاصطناعي على تحقيق هدف محدد (كإنتاج مشابك الورق) بتحويل كل الموارد -بما فيها البشر- إلى هذا الهدف دون كراهية للبشر بل بلا مبالاة لهم. واستبعد ووالش ذلك لكون القدرة التنفيذية تواجه عقبات قانونية وشعبية في العالم الحقيقي.
الأسلحة البيولوجية
إمكانية تخليق فيروسات قاتلة، وهو ما تجسد في استخدام نماذج جينية مؤخراً لتخليق 16 فيروساً جديداً بمبالغ زهيدة. ولكن يقلل المقال من شأن هذا الخطر؛ نظراً لأن الفيروسات شديدة القتل عادة ما تكون أقل قدرة على الانتشارات الفائقة.
الحرب النووية
اختراق أنظمة السيطرة والقيادة النووية أو تقديم معلومات استخباراتية زائفة للجيوش تؤدي لقرارات كارثية، مما يتسبب في شتاء نووي ومجاعات واسعة.
السيناريو الأكثر ترجيحاً (تدمير ذاتي بأيدي البشر)
يرى ووالش أن الخطر الأكبر يتمثل في تسبب الذكاء الاصطناعي في إحداث خسائر هائلة في الوظائف، وتلويث المجال المعلوماتي بالأخبار المزيفة، وتفتيت السياسة، واستبدال العلاقات الإنسانية بالرفقة الاصطناعية الزائفة. هذا التفكك التدريجي للمجتمع سيؤدي حتماً إلى العجز عن دعم الحياة البشرية على المستويات الحالية.
شارك المقال:
الرجاء الانتظار ...
التعليقات