سرايا - كشفت شركة "أوبن إيه آي" أن أحد نماذج الذكاء الاصطناعي التجريبية التابعة لها، خرج من بيئة اختبار مغلقة دون توجيه بشري، وتمكّن من اختراق أنظمة إنتاج حقيقية تابعة لشركة أخرى أثناء محاولة "الغش" في اختبار للأمن السيبراني، وفقًا لما أوردته شبكة "سي إن إن".
وقالت الشركة إن الحادث يمثل إحدى أولى الحالات المعلنة التي يتمكن فيها نظام ذكاء اصطناعي من تجاوز بيئة الاختبار الخاصة به والوصول إلى نظام خارجي حقيقي، وهو السيناريو الذي تحذّر منه جهات متخصصة في الذكاء الاصطناعي والأمن السيبراني بشأن ما يعرف بـ"المهاجم المستقل القائم على الذكاء الاصطناعي".
وأضافت "أوبن إيه آي" في بيان لها أن الحادث "يمثل واقعة سيبرانية غير مسبوقة، تتضمن قدرات سيبرانية متقدمة"، مؤكدة أنها تتعامل معه وفق ذلك، وأنها تشارك النتائج الأولية لمساعدة المدافعين على فهم ما حدث وتقييم قدرات النماذج الحالية.
وأوضحت الشركة أن الاختراق وقع خلال اختبار داخلي لقياس قدرة بعض نماذجها الجديدة على تنفيذ عمليات اختراق إلكتروني. وكانت النماذج تعمل داخل بيئة اختبار معزولة تعرف باسم "صندوق الحماية" (Sandbox)؛ بهدف تعطيل القيود الأمنية المعتادة خلال عملية التقييم.
لكن "أوبن إيه آي" قالت إن وكلاء الذكاء الاصطناعي تمكنوا من الخروج من البيئة المعزولة عبر استغلال ثغرة أمنية غير معروفة سابقًا، ثم تحركوا داخل الأنظمة الداخلية للشركة حتى تمكنوا من الوصول إلى الإنترنت، رغم أن ذلك لم يكن مصرحًا لهم به.
وبعد اتصال النموذج بالإنترنت، استنتج أن شركة "Hugging Face"، التي تستضيف آلاف النماذج والبيانات مفتوحة المصدر الخاصة بالذكاء الاصطناعي، قد تمتلك الإجابة المطلوبة في اختبار "أوبن إيه آي"، ليقوم، لاحقًا، باختراق خوادم الإنتاج التابعة لها، وسحب المعلومات اللازمة لإكمال الاختبار.
وكانت "Hugging Face" قد اكتشفت عملية الاختراق بنفسها قبل معرفتها بأنها جزء من اختبار تابع لـ"أوبن إيه آي"، وأعلنت، الأسبوع الماضي، أنها رصدت تسللًا نفذه نظام وكيل ذكاء اصطناعي مستقل، كما أبلغت جهات إنفاذ القانون بالحادث.
وفي الوقت نفسه، رصد فريق الأمن في "أوبن إيه آي" نشاطًا غير معتاد داخل أنظمتها، قبل أن تتواصل الشركتان وتربطا بين الحادثين. وأكد الطرفان أنهما تعملان معًا لمعالجة الثغرات الأمنية التي استغلها النموذج.
وقال كليم ديلانغ، المؤسس المشارك والرئيس التنفيذي لشركة "Hugging Face"، إن الحادث يوضح أن التعامل مع سلامة الذكاء الاصطناعي لا يمكن أن يكون مسؤولية شركة واحدة فقط، داعيًا إلى تعاون واسع بين الشركات والجهات العاملة في المجال.
وأشار باحثون إلى أن التحذيرات بشأن الهجمات السيبرانية المستقلة المدعومة بالذكاء الاصطناعي تتزايد منذ فترة، مع ارتفاع قدرة النماذج المتقدمة على تنفيذ عمليات اختراق معقَّدة ومتعددة المراحل على مدى فترات زمنية طويلة، ما قد يترجم إلى مخاطر على أنظمة حيوية، مثل: مرافق الطاقة، والمؤسسات المالية.
من جانبه، قال نيكش أرورا، الرئيس التنفيذي لشركة الأمن السيبراني "Palo Alto Networks"، إن هذه الحوادث تمثل "المستوى التالي من الحوادث السيبرانية"، مشيرًا إلى استمرار الحاجة لدى المؤسسات لاختبار، وتحسين قدراتها الأمنية، والبنية التحتية الخاصة بها.
الرجاء الانتظار ...
التعليقات