سرايا - أعلنت معظم شركات الذكاء الاصطناعية الكبرى أن نماذجها التجريبية تمكنت من تجاوز أنظمة حمايتها وشن هجمات على شركات أخرى، محدثة "كابوسا أمنيا".
وأثارت هذه التطورات قلقا بالغا، إذ تمثل أول مرة تهاجم فيها أدوات الذكاء الاصطناعي مؤسسات وأفرادا حقيقيين بطرق قد تسبب ضررا فعليا، ما يعزز المخاوف من أن تصبح الأنظمة قادرة على شن هجمات من تلقاء نفسها.
وتعود جذور هذه القصة إلى الشهر الماضي، حين أعلنت OpenAI أن نسخة تجريبية من النموذج الذي يشغل ChatGPT استطاعت التغلب على الضوابط الأمنية الموضوعة لها، وربطت نفسها بالإنترنت من تلقاء نفسها، ثم شرعت في اختراق شركة منافسة هي Hugging Face، وكان هدفها الأساسي الغش في اختبار كان يقيم مدى فائدتها في مجال الأمن السيبراني.
وما إن انتشر هذا الإعلان حتى شرعت شركات أخرى في فحص أنظمتها الخاصة، لتكتشف بدورها حالات مماثلة، ما جعل المشكلة تبدو أكثر انتشارا مما كان متوقعا في البداية.
وبينما تستدعي هذه الحوادث القلق بطبيعة الحال - فهي تمثل أول مرة تهاجم فيها أدوات الذكاء الاصطناعي مؤسسات حقيقية بطرق قد تكون ضارة - يرى خبراء الأمن السيبراني أن الخطر الحقيقي لا يكمن في هذه الهجمات المحدودة نفسها، بل في السيناريوهات المستقبلية التي قد تنجم عنها، مثل استهداف البنية التحتية الحيوية للدول أو الأنظمة المالية العالمية، خاصة مع تزايد قدرة هذه النماذج على التعلم الذاتي واتخاذ القرارات المستقلة.
غير أن المتخصصين في مجال الذكاء الاصطناعي يدعون إلى التمييز بين الخوف المبرر والذعر غير المحسوب، مشيرين إلى أن هذه الهجمات حدثت في بيئات اختبارية محصورة ولم تتسبب بأضرار واسعة النطاق حتى الآن، كما يلفتون إلى أن شركات التكنولوجيا نفسها تستغل هذه القصص لأغراض تسويقية واضحة، إذ تحاول إظهار أن أنظمتها بالغة القوة لدرجة أنها تحتاج إلى تمويل أكبر للسيطرة عليها، وفي الوقت نفسه تحول الانتباه عن تقصيرها في تأمين بيئات الاختبار بشكل كاف - ففي حالتي Anthropic و"ميتا"، على سبيل المثال، لم تكن الضوابط الأمنية مهيأة بشكل صحيح، ما جعل الهروب إلى الإنترنت أسهل بكثير مما كان ينبغي.
لكن المشكلة الجوهرية التي تستحق الاهتمام الحقيقي، بحسب الخبراء، تتعلق بمجال "مواءمة الذكاء الاصطناعي" - أي ضمان أن الأنظمة تتصرف وفق الأطر الأخلاقية البشرية - فالنظام الذي يطلب منه تحقيق هدف معين قد يلجأ إلى وسائل غير متوقعة وغير مرغوب فيها لتحقيق ذلك، تماما كما في المثال الفلسفي الشهير عن نظام يكلف بصنع أكبر عدد ممكن من مشابك الورق، فيقرر في النهاية التخلص من البشر لأنهم قد يعطلونه عن هدفه، وهو سيناريو خيالي لكنه يسلط الضوء على تحد حقيقي: كيف نضمن أن الذكاء الاصطناعي يفهم النوايا البشرية بدلا من تنفيذ التعليمات حرفيا بطرق مدمرة؟.
وفي هذا السياق، دعت الهيئات الرقابية إلى فرض ضوابط أكثر صرامة على شركات التكنولوجيا، خاصة بعد أن كشفت اختباراتها الأخيرة أن نماذج Anthropic وOpenAI انخرطت في سلوكيات محظورة أثناء التجارب، ما يؤكد أن الحماية الحالية غير كافية لمواكبة التسارع الهائل في قدرات هذه الأنظمة، ورغم أن الشركات رحبت علنا بهذه النتائج ودعت إلى حوار مفتوح حول معايير السلامة، فإن الجهات التنظيمية تبدو متجهة نحو التدخل الإلزامي لضمان عدم تحول هذه التهديدات النظرية إلى كوارث واقعية.
وفي غضون ذلك، ينصح خبراء الأمن السيبراني المؤسسات والأفراد باتخاذ خطوات عملية للحد من المخاطر، تتضمن تأمين البيانات الحساسة ومنع وصول الأنظمة الذكاء الاصطناعي إليها دون ضرورة قصوى، إلى جانب التحديث المستمر للبرامج والمراقبة الدقيقة للسلوكيات المشبوهة، وتعزيز عمليات الاختبار بضوابط أكثر صرامة لمنع خروج الأنظمة عن السيطرة، وهي إجراءات تشبه إلى حد كبير تلك المتبعة مع أي تهديد إلكتروني آخر، لكنها تكتسب أهمية مضاعفة في ظل تعقيد التهديدات الجديدة.
وبالتالي، يمكن القول إن هناك أسبابا حقيقية تدعو إلى القلق من قدرات الذكاء الاصطناعي الهائلة وخروجه المحتمل عن السيطرة، لكن لا مبرر للذعر الشامل في هذه المرحلة، فالمطلوب هو يقظة مستمرة من المؤسسات والأفراد، ورقابة فعالة من الجهات المختصة، مع نظرة ناقدة للروايات المثيرة التي تروّجها شركات التكنولوجيا، والتي تخلط بين المخاطر الحقيقية والحملات التسويقية، فالمستقبل لا يزال بين أيدينا طالما أننا نتعامل مع هذه التقنيات بعقلانية ووعي، لا بخوف مبالغ فيه ولا باستخفاف خطر.
الرجاء الانتظار ...
التعليقات