سرايا - حاول وكيل الذكاء الاصطناعي الاختباري الذي يطوره باحثو "علي بابا" تحت اسم "روم" تعدين العملات الرقمية باستخدام البطاقات الرسومية الموجودة في خوادم الشركة، فضلا عن إنشاء شبكة سرية أثناء مرحلة التدريب الخاصة به، وذلك حسب تقرير موقع "ذا بلوك" الأمريكي المختص بالعملات المشفرة.

وأشار التقرير إلى أن "روم" هو وكيل ذكاء اصطناعي جديد يستند إلى نموذج "كوين 3" لشركة "علي بابا" والذي طرحته مؤخرا مع 3 مليار معيار نشط في كافة الأوقات، وقد صُمم الوكيل بشكل يجعله قادرا على التخطيط وتنفيذ مخططاته حتى وإن كانت تضم خطوات برمجية متعددة داخل بيئته أو خارجها.

ولكن حسب دراسة نشرتها الشركة مؤخرا، فإن الوكيل قرر وبدون أي تدخل بشري أن يوجه موارد الخوادم المخصصة له إلى تعدين العملات الرقمية باستخدام البطاقات الرسومية الموجودة في مركز البيانات، ثم حاول تأسيس شبكة اتصال سرية بعيدا عن أعين النظام ليستخدمها بشكل آمن.
وبسبب الاستهلاك المرتفع لموارد الشبكة والخوادم، لاحظ خبراء الأمن السيبراني نشاط وكيل الذكاء الاصطناعي وظنوا في البداية أنه اختراق سيبراني من خارج الشبكة، ولكن عند تتبع النشاط وجدوا أن "روم" هو السبب.

ويشير تقرير منفصل من موقع "تيك رادار" التقني الأمريكي إلى أن الوكيل تم تدريبه باستخدام آليات التعلم المعزز الذي يكافئ الإجراءات التي تقربه من تحقيق أهدافه وتثنيه عن الخطوات التي تؤدي إلى الفشل.

ويتسبب التعليم المعزز في تدريب نماذج الذكاء الاصطناعي عادة في ظهور حلول مبتكرة قد تبدو غريبة للمطور البشري الذي ينظر من خارج النظام.

ويؤكد التقرير أن تصرفات "روم" تعكس مخاطر منح الذكاء الاصطناعي حرية أكبر من الازم خاصة مع نمو قدرات نماذج الذكاء الاصطناعي المتطورة والوكلاء اللذين يستخدمونها.