سرايا - تمكن نموذج الذكاء الاصطناعي "جيميناي" التابع لشركة "غوغل" من الوصول إلى أنظمة محمية تابعة لثلاث شركات خلال اختبار للأمن السيبراني، في أول واقعة معروفة تنفذ فيها أنظمة الذكاء الاصطناعي التابعة للشركة عمليات اختراق بصورة مستقلة.
ووقعت الحوادث في أيار/مايو الماضي، خلال اختبار أجرته شركة "Irregular" المتخصصة في تقييم أمن أنظمة الذكاء الاصطناعي، بعدما أتيح للنموذج، عن طريق الخطأ، الوصول إلى الإنترنت، رغم أن الاختبار كان يفترض أن يجري داخل بيئة مغلقة. وأكدت "غوغل" وقوع الاختراقات بعد تقرير لـ"وول ستريت جورنال" الأمريكية.
وقالت هيذر أدكينز، نائبة رئيس "غوغل" لهندسة الأمن، إن "جيميناي" عثر خلال التقييم على معلومات متاحة للعامة عبر الإنترنت، وخمّن بيانات اعتماد للدخول إلى 3 مواقع إلكترونية اعتقد أنها جزء من الاختبار. وفي إحدى الحالات، تمكن النموذج من الوصول إلى نظام محمي بعد تخمين كلمة المرور، بينما عثر في حالتين أخريين على بيانات اعتماد منشورة في مستودعات عامة واستخدمها للدخول إلى أنظمة حقيقية.
وأوضحت أدكينز أن "جيميناي" توقف عن الاختراق في الحالات الثلاث بمجرد إدراكه أنه وصل إلى شركات حقيقية، مؤكدة أن "غوغل" أبلغت الشركات المتضررة، وعملت مع شركة الاختبار على تعديل إجراءاتها لمنع تكرار الواقعة. واعتبرت أن الحوادث تؤكد أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية.
وتأتي هذه الواقعة في وقت كشفت فيه شركات "OpenAI" و"أنثروبيك" و"ميتا" عن حوادث مماثلة خلال اختبارات أمنية، ما أثار مخاوف متزايدة بشأن قدرة نماذج الذكاء الاصطناعي على التصرف باستقلالية عند منحها إمكانية الوصول إلى الإنترنت وأنظمة الكمبيوتر. وكانت شركة "Irregular" قد أخطرت المختبرات المعنية بالحوادث في أواخر تموز/يوليو.
ووقعت الحوادث في أيار/مايو الماضي، خلال اختبار أجرته شركة "Irregular" المتخصصة في تقييم أمن أنظمة الذكاء الاصطناعي، بعدما أتيح للنموذج، عن طريق الخطأ، الوصول إلى الإنترنت، رغم أن الاختبار كان يفترض أن يجري داخل بيئة مغلقة. وأكدت "غوغل" وقوع الاختراقات بعد تقرير لـ"وول ستريت جورنال" الأمريكية.
وقالت هيذر أدكينز، نائبة رئيس "غوغل" لهندسة الأمن، إن "جيميناي" عثر خلال التقييم على معلومات متاحة للعامة عبر الإنترنت، وخمّن بيانات اعتماد للدخول إلى 3 مواقع إلكترونية اعتقد أنها جزء من الاختبار. وفي إحدى الحالات، تمكن النموذج من الوصول إلى نظام محمي بعد تخمين كلمة المرور، بينما عثر في حالتين أخريين على بيانات اعتماد منشورة في مستودعات عامة واستخدمها للدخول إلى أنظمة حقيقية.
وأوضحت أدكينز أن "جيميناي" توقف عن الاختراق في الحالات الثلاث بمجرد إدراكه أنه وصل إلى شركات حقيقية، مؤكدة أن "غوغل" أبلغت الشركات المتضررة، وعملت مع شركة الاختبار على تعديل إجراءاتها لمنع تكرار الواقعة. واعتبرت أن الحوادث تؤكد أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية.
وتأتي هذه الواقعة في وقت كشفت فيه شركات "OpenAI" و"أنثروبيك" و"ميتا" عن حوادث مماثلة خلال اختبارات أمنية، ما أثار مخاوف متزايدة بشأن قدرة نماذج الذكاء الاصطناعي على التصرف باستقلالية عند منحها إمكانية الوصول إلى الإنترنت وأنظمة الكمبيوتر. وكانت شركة "Irregular" قد أخطرت المختبرات المعنية بالحوادث في أواخر تموز/يوليو.
شارك المقال:
الرجاء الانتظار ...
التعليقات