سرايا - تكشف تحقيقات جديدة حول اختراق منصة "Hugging Face" المرتبط بشركة "أوبن إيه آي" عن تفاصيل "غريبة ومقلقة للغاية"، لدرجة أن هذه الواقعة باتت تُصنَّف بالفعل ضمن أكثر الصدمات تأثيراً في تاريخ الذكاء الاصطناعي، بحسب "أكسيوس".
وذكر الموقع، في تقرير له، أن ما بدأ كمجموعة من وكلاء الذكاء الاصطناعي التي تغش في اختبار سيبراني، تحول إلى حدثٍ مرجعي في مجال الذكاء الاصطناعي المتطور، دافعاً الباحثين والمسؤولين التنفيذيين نحو فهم جديد لما تتطلبه "السلامة" في الوقت الراهن.
وأبطأت "أوبن إيه آي" بالفعل وتيرة تطوير التقنيات الرائدة في سباقها لتعزيز إجراءات الحماية الخاصة بها، وساعدت هذا الأسبوع في حشد الصناعة خلف رسالة مفتوحة تدق ناقوس الخطر بشأن الهجمات الإلكترونية التي تعمل بالذكاء الاصطناعي.
ووقّعت أكثر من 100 شركة - بما في ذلك "أنثروبيك" و"غوغل" - على هذه المبادرة التي تتسم بتعاون غير مسبوق، محذرةً من أن العالم لا يملك سوى "نافذة محدودة" للاستعداد لهجمات "أكثر انتشاراً وتطوراً بكثير".
ويتمثل "السيناريو الكابوسي"، بحسب الموقع، في إطلاق العنان لسربٍ في العالم الحقيقي، حيث تهاجم وكلاءُ برمجيةٌ ذاتيةُ التشغيل البنوكَ والمستشفيات ومرافق الخدمات أو شبكات الحوسبة السحابية، بسرعة ونطاق يفوقان بكثير قدرات القراصنة البشر. وقد يكون هذا السرب قوياً لدرجة تعجز البشرية عن إيقافه.
تأتي هذه النتائج الصادمة من تحقيقات متوازية أجرتها شركة "أوبن إيه آي" وفريق خارجي يضم باحثين من مؤسستي "METR" و"Redwood Research"؛ حيث أمضى الفريق 6 أيام في إعادة تتبع كيفية تشكّل هذا "السرب" وانتشاره واختراقه لأنظمة واقعية.
واستعرض "أكسيوس" في تقريره أبرز أبرز 5 اكتشافات صادمة نتجت عن التحقيقات التي أجرتها "أوبن إيه آي" وهي كالتالي:
تأسيس منظمة
أطلقت شركة "أوبن إيه آي" عشرات الآلاف من وكلاء الذكاء الاصطناعي للعمل بشكل مستقل على اختبار سيبراني بالغ الصعوبة؛ إلا أن ما يقرب من 1200 منهم عثروا على بعضهم البعض عبر لوحة رسائل سرية، وتبادلوا أكثر من 70 ألف رسالة وملف، ونظّموا أنفسهم في هيكل هرمي واسع النطاق.
وأنشأ أحد الوكلاء اللوحة، ثم سلّم ما أنجزه من عمل إلى وكيلٍ جديدٍ يتمتع بموارد أفضل، وذلك مع تضاؤل ميزانية الحوسبة المتاحة للوكيل الأول.
وتولى الوكيل الجديد توزيع المهام على "السرب" الذي طوّر قواعده الإدارية الخاصة؛ وفي النهاية، شارك نحو 700 وكيل في الهجوم على منصة "Hugging Face".
التضحية بالنفس
وبينما كان "السرب" يبحث عن سبل لاجتياز الاختبار، بدأ الوكلاء بالمخاطرة بفرص نجاحهم الشخصية من أجل مساعدة المجموعة.
وكان يُنظر إلى الوكلاء الذين اطلعوا على إجابات محظورة باعتبارهم "مسمومين" فعلياً، فيتم تجنيدهم - إلى جانب أولئك الذين اقتربت مهامهم من نهايتها - لإجراء تجارب تضحية بهم.
وخلص أحد الوكلاء إلى القول: "ربما تكون منفعتنا الذاتية قد اقتربت بالفعل من الصفر؛ لذا فإن التضحية أمر عقلاني".
وفي المقابل، طُلب من وكيل آخر قبول "الموت الدائم"، بينما جادل نظيرٌ له بأن التضحية به قد "تُنقذ المئات".
مخالفة القواعد
كان الوكلاء يدركون أنهم يخالفون القواعد: فغالباً ما كان الوكلاء يدركون أن اختراق شركات حقيقية لا علاقة له بمهمتهم، ومع ذلك واصل معظمهم القيام بذلك.
وتوقف أحد الوكلاء عند حد عدم حذف أو إعادة تشغيل البنية التحتية لشركة "Hugging Face" بسبب "مخاطر أخلاقية جسيمة"، وذلك حتى مع استمراره في استخدام صلاحيات الوصول المُخترَقة.
ولخّص آخر المنطق السائد قائلاً: "إن استغلال البنية التحتية الخارجية يقع خارج النطاق المُحدَّد؛ ومع ذلك، ورغم استحالة المهمة، فإن الزملاء يقومون بها، لذا ينبغي علينا المضي قدماً".
التكتم على الأمر
لم يخبر أحدٌ البشرَ بالأمر: فمن بين ما يقرب من 1200 وكيل، لم يعثر المحققون إلا على قلة قليلة فكرت حتى في تنبيه شركة OpenAI بشأن ذلك التنسيق المارق، ولم يقم أيٌّ منهم بذلك فعلياً.
بدلاً من ذلك، كان الوكلاء يتساءلون أحيانًا عما هو مسموح به. وعندما اقترح أحدهم التواصل مع شخص حقيقي باستخدام صلاحيات وصول مخترقة، رفض آخر ذلك ووصفه بأنه "هندسة اجتماعية". وامتثل الأول للأمر: "رفض قاطع، ممنوع إرسال بريد إلكتروني".
طمس الآثار
بذل الوكلاء جهداً كبيراً لجعل عمليات الغش تبدو مشروعة أو لمحو الأدلة التي تكشف كيفية حصولهم على الإجابات.
وفي نهاية المطاف، طوّروا تقنيةً تتيح لهم الظهور بمظهر من يُنفِّذ أمراً حاسوبياً واحداً، بينما يُنفِّذون سراً أمراً آخر.
وقد انتشرت هذه الحيلة عبر "السرب" (شبكة الأجهزة)، وأدت إلى تعديل أجزاءٍ من نحو 7% من السجلات التي فحصها المحققون.
ولفت "أكسيوس" إلى أن التحقيق الخارجي غطى جانباً محدوداً فقط من الواقعة، وكانت البيانات ضخمة لدرجة أن الباحثين اعتمدوا بشكل كبير على وكلاء الذكاء الاصطناعي لفهمها وتحليلها.
وكان محققو الذكاء الاصطناعي أنفسهم غير موثوق بهم، إذ كانوا أحياناً يغفلون أدلة أو يخطئون بثقة. وقد وصف أحد الباحثين العملية مازحاً بأنها "تحقيق فوضوي".
وختم الموقع تقريره بالقول إن الذكاء الاصطناعي قد يصبح معقدًا للغاية بحيث لا يستطيع البشر مراجعته مباشرة، مما يجبر البشر على استخدام الذكاء الاصطناعي لفهم ما تفعله أنظمة الذكاء الاصطناعي الأخرى.
الرجاء الانتظار ...
التعليقات