سرايا - وأفادت الشركة بأن العملية استهدفت جمع مخرجات النموذج وتحليلها بغرض تنفيذ ما يعرف بـ"التقطير" (distillation)، وهي تقنية تُستخدم لتطوير نماذج أصغر تحاكي قدرات نظيراتها المتقدمة عبر الاستعانة بإجابات النموذج الأصلي.
ويُستخدم "التقطير" بشكل مشروع في تطوير الذكاء الاصطناعي، حيث يساهم في فهم النماذج وتحسين كفاءتها وتقليص حجمها وخفض تكلفة تشغيلها، غير أن استخدامه بصفة عدائية قد يمكّن منافسين من محاكاة قدرات نماذج متقدمة دون تحمّل الأعباء المالية الضخمة اللازمة لتطويرها وتدريبها.
وأشارت "OpenAI" إلى أن العملية انطلقت في مطلع يوليو بوتيرة محدودة، ثم اتسعت وتطورت تدريجيا حتى نهاية الشهر، قبل أن تنجح الشركة في إحباطها في 28 يوليو بعد رصد أكثر من 15 ألف مستخدم بدا أنهم على صلة بالنشاط.
وحملّت "OpenAI" شركة "Moonshot AI" المطوّرة لنظام "Kimi" مسؤولية جزء على الأقل من العملية، مع تأكيدها أنها لا تعلم ما إذا كانت الشركة تقف وراء النشاط بأكمله. ولم تصدر "Moonshot AI" ردّا فوريا على طلب التعليق الذي تقدمت به "إندبندنت".
وترى "OpenAI" أن هذه العمليات لا تقتصر على كونها خطرا تجاريا فحسب، بل قد تحمل أيضا مخاطر تتصل بالسلامة والأمن القومي، نظرا لأنها قد تتيح نسخ قدرات النماذج دون الالتزام بضوابط الأمان والحماية المرتبطة بها.
وذكرت الشركة أنها أوقفت العملية من خلال إغلاق الحسابات المشبوهة ومعالجة عدد من الثغرات البرمجية التي استغلها المهاجمون، ومن بينها ثغرات كانت تمكّن المستخدمين من الاطلاع على عمليات الاستدلال التي تعتمد عليها أنظمتها لتوليد الإجابات. وأضافت أنها تعاونت مع مزودي خدمات خارجيين لإغلاق حسابات مرتبطة بالنشاط، كما شاركت "نتائج ذات صلة" مع شركات وحكومات أخرى للمساعدة في رصد محاولات مماثلة.
وأكدت "OpenAI" أنها تتوقع أن تصبح محاولات "التقطير العدائي" أكثر تعقيدا مع تطور نماذج الذكاء الاصطناعي، مشيرة إلى أنها ستواصل تعزيز أنظمة الحماية وتطوير أدوات أكثر كفاءة لرصد هذه الأنشطة، إضافة إلى تشجيع شركات الذكاء الاصطناعي والجهات الحكومية على تبادل المعلومات بشأن هذه التهديدات.
الرجاء الانتظار ...
التعليقات