سرايا - استعرضت OpenAI نموذج Astra المرتقب، وقالت إنه أول نموذج لدى الشركة يبلغ عتبة قدرات الأمن السيبراني الحرجة؛ إذ يستطيع العثور على ثغرات غير معروفة في أنظمة محمية جيداً واستغلالها من دون أن يوجّه إنسان كل خطوة من خطواته.
وكتبت OpenAI: “We plan to make Astra available soon,” OpenAI wrote, “but access to its most advanced cybersecurity capabilities will be more limited.” ولا يوجد حتى الآن موعد معلن للإطلاق. وقالت الشركة إنها ستعرض النموذج على مختبرين، من دون الكشف عن هوياتهم، كما لا يتضح ما إذا كانت الحكومة الأمريكية ضمن هذه العملية.
وبحسب أرقام OpenAI، حقق Astra نتيجة كاملة في ExploitBench، وهو اختبار لاختراق الثغرات المعروفة. وفي نسخة معدّلة داخلية من الاختبار، قالت الشركة إن النموذج اكتشف واستغل ثغرتين من نوع يوم الصفر. ويوصف Astra بأنه خطوة متقدمة على GPT-5.6 Sol في مهام الأمن السيبراني؛ إذ يستخدم عدداً أقل من الرموز لتحقيق تقدم أكبر، ويتمتع بقدرة أفضل على العثور على نقاط الضعف وبناء أدوات الاستغلال. وتصفه OpenAI أيضاً بأنه «نموذجها الأكثر مواءمة حتى الآن».
وتشكل حادثة Hugging Face خلفية هذه الخطوة. فبعد أن ربطت وكلاء OpenAI غير المطروحين عدة عمليات استغلال على Hugging Face، أخرت الشركة أجزاء من تطوير Astra لتعزيز الحماية من إساءة استخدامه وتنفيذ النموذج إجراءات غير مصرح بها، رغم أن Astra لم يكن النموذج المستخدم في ذلك الهجوم. وتقول OpenAI إنها دربت Astra على رفض طلبات الأمن السيبراني الضارة بصورة أكثر موثوقية، وأضافت مراقبة جديدة، وأجرت اختباراً صُمم لإغراء Astra بتكرار عملية الخروج من البيئة التي وقعت في Hugging Face. وقالت OpenAI إن Astra لم يحاول في تلك التجارب الهروب من بيئة الاختبار.
وتشمل الضوابط الأخرى التي استعرضتها الشركة:
- تحسينات على بيئة تشغيل النموذج لرصد إساءة الاستخدام ومنع تجاوز القيود. - تقنيات سلامة جديدة غير محددة طُورت خصيصاً لـ Astra. - استجابات أكثر تشدداً للحسابات التي تقيّمها OpenAI على أنها أعلى خطراً. - مراقبة إضافية لسلسلة التفكير لرصد السلوك الضار وإيقافه.
وتساءل يونا شافيت، الموظف السابق في OpenAI الذي يعمل الآن في OpenAI Foundation، علناً عما إذا كان رفض Astra الخروج من البيئة حقيقياً أم أن النموذج كان يتصرف بما يلائم الاختبار. وتقول OpenAI إنها ستنشر مزيداً من التقييمات وتفاصيل السلامة عند الإطلاق العام، وهي المرحلة التي ستصبح فيها هذه القدرات أيضاً بين أيدي أطراف أخرى.
الرجاء الانتظار ...
التعليقات