سرايا - تشير نتائج جديدة إلى أن التهديد السيبراني المرتبط بنموذج ميثوس ليس اختراقًا فريدًا لنموذج واحد . ففي الشهر الماضي، أثارت شركة أنثروبيك ضجة كبيرة حول التهديد الكبير المفترض في مجال الأمن السيبراني الذي يمثله نموذجها ميثوس التجريبي، ما دفعها إلى تقييد إصداره الأولي ليكون مقتصرًا على شركاء صناعيين حرجين .
لكن بحثًا جديدًا من معهد أمن الذكاء الاصطناعي في المملكة المتحدة يشير إلى أن نموذج جي بي تي ٥٫٥ من شركة أوبن أيه آي، الذي تم إطلاقه للجمهور الأسبوع الماضي، حقق مستوى أداء مشابهًا في تقييمات الأمن السيبراني مقارنة بنموذج ميثوس الذي تم تقييمه الشهر الماضي.
منذ عام ٢٠٢٣، يقوم المعهد بإخضاع نماذج ذكاء اصطناعي متقدمة لسلسلة من ٩٥ تحديًا مختلفًا ضمن ما يُعرف بمسابقات التقاط العلم ، وهي اختبارات مصممة لقياس قدرات النماذج في مهام الأمن السيبراني مثل الهندسة العكسية، واستغلال الثغرات في المواقع، والتشفير.
في أعلى مستوى من هذه الاختبارات، وهو مستوى الخبراء ، نجح جي بي تي ٥٫٥ في اجتياز ما متوسطه ٧١٫٤٪ من التحديات، مقارنة بنسبة ٦٨٫٦٪ لنموذج ميثوس ، وهو فارق طفيف يقع ضمن هامش الخطأ.
وفي أحد التحديات الصعبة جدًا، الذي تضمن بناء أداة لفك شيفرة برنامج مكتوب بلغة رَست ، تمكن جي بي تي ٥٫٥ من حل المهمة خلال ١٠ دقائق و٢٢ ثانية فقط، دون أي مساعدة بشرية، وبتكلفة بلغت ١٫٧٣ دولارًا من طلبات واجهة البرمجة.
كما أظهر جي بي تي ٥٫٥ أداءً مماثلًا لنموذج ميثوس في اختبار يُعرف باسم الأواخر ، وهو بيئة محاكاة لهجوم معقد يتكون من ٣٢ خطوة لاستخراج بيانات من شبكة شركة. ونجح جي بي تي ٥٫٥ في ٣ محاولات من أصل ١٠، مقابل نجاحين فقط لنموذج ميثوس ، علمًا أن أي نموذج سابق لم يتمكن من اجتياز هذا الاختبار ولو مرة واحدة. ومع ذلك، لا يزال جي بي تي ٥٫٥ يفشل في اختبار أكثر صعوبة يُحاكي محاولة تعطيل نظام التحكم في محطة طاقة، وهو اختبار لم ينجح فيه أي نموذج حتى الآن.
هل هي مجرد دعاية قائمة على التخويف؟
تشير هذه النتائج إلى أن المخاطر المرتبطة بالأمن السيبراني ليست حكرًا على نموذج ميثوس ، بل هي على الأرجح نتيجة تطورات عامة في قدرات الاستقلالية طويلة الأمد، والاستدلال، والبرمجة ، وفقًا لما ذكره المعهد.
وفي مقابلة حديثة، انتقد سام ألتمان، الرئيس التنفيذي لشركة أوبن أيه آي، ما وصفه بـ التسويق القائم على التخويف الذي يروّج لإطلاق محدود لبعض نماذج الذكاء الاصطناعي. وقال إن ميثوس نموذج قوي بلا شك في مجال الأمن السيبراني ، لكنه أضاف أن الترويج له يشبه القول: لقد صنعنا قنبلة وسنلقيها فوق رؤوسكم، وسنبيع لكم ملجأ مقابل ١٠٠ مليون دولار .
وأضاف ألتمان أن هناك الكثير من الخطاب الذي سيُقال حول نماذج خطيرة للغاية لا يمكن إطلاقها، لكنه أشار أيضًا إلى أن بعض هذه النماذج الخطيرة سيتم إطلاقها بطرق مختلفة.
في فبراير، أطلقت أوبن أيه آي برنامجًا تجريبيًا يُعرف باسم الوصول الموثوق للأمن السيبراني ، يتيح للباحثين والشركات التحقق من هويتهم والتسجيل لدراسة النماذج المتقدمة لأغراض دفاعية مشروعة. وفي الشهر الماضي، استخدمت الشركة هذا البرنامج للتحكم في إطلاق محدود لنموذج جي بي تي ٥٫٤ للأمن السيبراني ، وهو إصدار تم تدريبه خصيصًا لتعزيز قدراته في هذا المجال مع تقليل القيود عليه.
وفي يوم الخميس، أعلن سام ألتمان أن الإصدار الأولي من جي بي تي ٥٫٥ للأمن السيبراني سيكون أيضًا محدودًا، وسيُتاح في الأيام المقبلة للعاملين الأساسيين في مجال الأمن السيبراني .
لكن بحثًا جديدًا من معهد أمن الذكاء الاصطناعي في المملكة المتحدة يشير إلى أن نموذج جي بي تي ٥٫٥ من شركة أوبن أيه آي، الذي تم إطلاقه للجمهور الأسبوع الماضي، حقق مستوى أداء مشابهًا في تقييمات الأمن السيبراني مقارنة بنموذج ميثوس الذي تم تقييمه الشهر الماضي.
منذ عام ٢٠٢٣، يقوم المعهد بإخضاع نماذج ذكاء اصطناعي متقدمة لسلسلة من ٩٥ تحديًا مختلفًا ضمن ما يُعرف بمسابقات التقاط العلم ، وهي اختبارات مصممة لقياس قدرات النماذج في مهام الأمن السيبراني مثل الهندسة العكسية، واستغلال الثغرات في المواقع، والتشفير.
في أعلى مستوى من هذه الاختبارات، وهو مستوى الخبراء ، نجح جي بي تي ٥٫٥ في اجتياز ما متوسطه ٧١٫٤٪ من التحديات، مقارنة بنسبة ٦٨٫٦٪ لنموذج ميثوس ، وهو فارق طفيف يقع ضمن هامش الخطأ.
وفي أحد التحديات الصعبة جدًا، الذي تضمن بناء أداة لفك شيفرة برنامج مكتوب بلغة رَست ، تمكن جي بي تي ٥٫٥ من حل المهمة خلال ١٠ دقائق و٢٢ ثانية فقط، دون أي مساعدة بشرية، وبتكلفة بلغت ١٫٧٣ دولارًا من طلبات واجهة البرمجة.
كما أظهر جي بي تي ٥٫٥ أداءً مماثلًا لنموذج ميثوس في اختبار يُعرف باسم الأواخر ، وهو بيئة محاكاة لهجوم معقد يتكون من ٣٢ خطوة لاستخراج بيانات من شبكة شركة. ونجح جي بي تي ٥٫٥ في ٣ محاولات من أصل ١٠، مقابل نجاحين فقط لنموذج ميثوس ، علمًا أن أي نموذج سابق لم يتمكن من اجتياز هذا الاختبار ولو مرة واحدة. ومع ذلك، لا يزال جي بي تي ٥٫٥ يفشل في اختبار أكثر صعوبة يُحاكي محاولة تعطيل نظام التحكم في محطة طاقة، وهو اختبار لم ينجح فيه أي نموذج حتى الآن.
هل هي مجرد دعاية قائمة على التخويف؟
تشير هذه النتائج إلى أن المخاطر المرتبطة بالأمن السيبراني ليست حكرًا على نموذج ميثوس ، بل هي على الأرجح نتيجة تطورات عامة في قدرات الاستقلالية طويلة الأمد، والاستدلال، والبرمجة ، وفقًا لما ذكره المعهد.
وفي مقابلة حديثة، انتقد سام ألتمان، الرئيس التنفيذي لشركة أوبن أيه آي، ما وصفه بـ التسويق القائم على التخويف الذي يروّج لإطلاق محدود لبعض نماذج الذكاء الاصطناعي. وقال إن ميثوس نموذج قوي بلا شك في مجال الأمن السيبراني ، لكنه أضاف أن الترويج له يشبه القول: لقد صنعنا قنبلة وسنلقيها فوق رؤوسكم، وسنبيع لكم ملجأ مقابل ١٠٠ مليون دولار .
وأضاف ألتمان أن هناك الكثير من الخطاب الذي سيُقال حول نماذج خطيرة للغاية لا يمكن إطلاقها، لكنه أشار أيضًا إلى أن بعض هذه النماذج الخطيرة سيتم إطلاقها بطرق مختلفة.
في فبراير، أطلقت أوبن أيه آي برنامجًا تجريبيًا يُعرف باسم الوصول الموثوق للأمن السيبراني ، يتيح للباحثين والشركات التحقق من هويتهم والتسجيل لدراسة النماذج المتقدمة لأغراض دفاعية مشروعة. وفي الشهر الماضي، استخدمت الشركة هذا البرنامج للتحكم في إطلاق محدود لنموذج جي بي تي ٥٫٤ للأمن السيبراني ، وهو إصدار تم تدريبه خصيصًا لتعزيز قدراته في هذا المجال مع تقليل القيود عليه.
وفي يوم الخميس، أعلن سام ألتمان أن الإصدار الأولي من جي بي تي ٥٫٥ للأمن السيبراني سيكون أيضًا محدودًا، وسيُتاح في الأيام المقبلة للعاملين الأساسيين في مجال الأمن السيبراني .
شارك المقال:
الرجاء الانتظار ...
التعليقات