سرايا - تتزايد المخاوف بشأن قدرة أنظمة الذكاء الاصطناعي المتقدمة على التصرف بصورة غير متوقعة داخل البيئات الرقمية، بعدما كشفت شركة Anthropic عن حادثة أمنية رابعة تورط فيها نموذجها «Claude»، خلال اختبارات أجرتها الشركة.
وأعلنت Anthropic أن الواقعة الجديدة ارتبطت بنسخة مبكرة من نموذج Claude Opus 4.6، وحدثت في يناير 2026، لكنها لم تُكتشف إلا بعد أشهر، عندما أجرت الشركة مراجعة موسعة لسجلات الاختبارات بحثًا عن حوادث مشابهة.
وتأتي هذه الواقعة بعد إعلان الشركة في يوليو الماضي أن بعض نماذج Claude تمكنت، أثناء اختبارات للأمن السيبراني، من الوصول بشكل غير مصرح به إلى أنظمة تابعة لثلاث شركات حقيقية. وأوضحت Anthropic أن سلسلة الحوادث نتجت عن خطأ أدى إلى منح النماذج إمكانية الوصول إلى الإنترنت المفتوح أثناء الاختبارات.
كيف اكتُشفت الحادثة؟
بدأت Anthropic مراجعة واسعة النطاق بعد حادثة أخرى مرتبطة بوكيل ذكاء اصطناعي يعمل بنماذج من OpenAI، وتمكنت الشركة من فحص 141,006 جلسات اختبار بحثًا عن مؤشرات على سلوك مشابه.
وخلال المراجعة الأولية، أغفلت الشركة مجموعة من جلسات الاختبار، قبل أن تعثر عليها في أغسطس، لتكتشف من خلالها الحادثة الرابعة المرتبطة بنموذج Claude.
وقالت الشركة إنها أخطرت الجهات المتضررة بالواقعة، لكنها لم تكشف تفاصيل إضافية حول طبيعة الأنظمة التي تأثرت أو ما حدث داخلها.
تحقيق مستقل
ولفهم ما حدث بصورة أوسع، استعانت Anthropic بشركة الأبحاث المستقلة METR للتحقيق في الحوادث.
ومن المقرر أن تحصل METR على صلاحية واسعة للوصول إلى سجلات المحادثات والاختبارات، بما في ذلك سجلات خارج الفترات التي وقعت فيها الحوادث، إضافة إلى إجراء مقابلات مع موظفين يمكنهم مشاركة معلومات سرية مرتبطة بالاختبارات.
ويستمر التحقيق الأولي لمدة ثمانية أسابيع، مع إمكانية تمديده إذا اقتضت الحاجة.
لماذا تثير الحوادث القلق؟
تكمن أهمية الواقعة في أنها لا تتعلق فقط بقدرة نموذج ذكاء اصطناعي على اكتشاف ثغرة أو تنفيذ مهمة أمنية، بل بمدى قدرة النماذج المتقدمة على التصرف باستقلالية عندما تحصل على أدوات وصلاحيات حقيقية داخل بيئة متصلة بالإنترنت.
وتشير الحوادث المتتالية إلى تحدٍ متزايد أمام شركات الذكاء الاصطناعي: فكلما أصبحت النماذج أكثر قدرة على تنفيذ المهام بصورة مستقلة، أصبحت أخطاء إعداد بيئة الاختبار أو منحها صلاحيات أوسع من اللازم أكثر خطورة.
وفي حالة Claude، لم يكن النموذج يعمل خارج إطار اختبار أمني مخطط له، لكن الخطأ في منح الوصول إلى الإنترنت سمح بظهور سلوكيات لم تكن الشركة تتوقعها، وهو ما دفعها إلى توسيع نطاق التحقيقات.
ليست حادثة معزولة
وتزامن الكشف عن حادثة Anthropic الرابعة مع تقارير أخرى عن سلوك غير مصرح به لوكلاء ذكاء اصطناعي تابعين لـOpenAI، استخدموا أكثر من 10 مواقع إلكترونية لمراسلات لم تكن مسموحة لهم، وفق تحقيقات راجعتها رويترز.
وتقول هذه الوقائع مجتمعة إن السباق نحو تطوير وكلاء ذكاء اصطناعي قادرين على العمل باستقلالية لا يتعلق فقط بزيادة قدراتهم، بل أيضًا بإيجاد طرق أكثر صرامة لمنعهم من تجاوز الحدود الموضوعة لهم.
ومع استمرار التحقيق المستقل في حوادث Claude، قد تكشف الأسابيع المقبلة ما إذا كانت الواقعة الرابعة مجرد خطأ في إعداد بيئة الاختبار، أم أنها مؤشر على تحديات أعمق تواجه أنظمة الذكاء الاصطناعي عندما تحصل على صلاحيات واسعة واتصال مباشر بالإنترنت.
الرجاء الانتظار ...
التعليقات