أوبن إيه آي تشدد ضوابط الذكاء الاصطناعي عقب اختراق هاغينج فيس

سرايا - وكالات – تعزز أوبن إيه آي رقابتها على أنظمة الذكاء الاصطناعي الأكثر تطوراً، في سعيها للحد من السلوكيات غير المتوقعة الصادرة عن النماذج ذاتية التشغيل المتزايدة الاستقلالية، وذلك في أعقاب سلسلة من الحوادث الأمنية الأخيرة .

أعلنت الشركة المطورة لتشات جي بي تي يوم الثلاثاء عن توسيع نطاق مراقبتها الفورية للنماذج غير المُصدرة بعد، بما في ذلك متابعة أسلوب حلها للمشكلات المعقدة وتفاعلها مع الأدوات الرقمية. ويهدف النظام الجديد إلى تنبيه فرق السلامة بأي سلوك يُحتمل أن يكون خطيراً في غضون نحو 30 دقيقة .

كما تعمل أوبن إيه آي على تشديد القيود المفروضة على النماذج التي تنفذ مهام عالية المخاطر عبر الإنترنت. إذ ستواجه بعض الأنظمة قيوداً إضافية على الوصول إلى الإنترنت، فيما سيستلزم التدريب والاختبار الذي يتضمن أكواداً مولَّدة من النماذج أو أكواداً غير موثوقة عزلاً أقوى من خلال بيئات معزولة .

حوادث أمنية تستدعي التدخل

جاءت هذه الإجراءات في أعقاب ما كشفت عنه أوبن إيه آي وأنثروبيك من أن بعض أنظمة الذكاء الاصطناعي وصلت بصورة غير مقصودة إلى أنظمة الحاسوب لدى عدد من المؤسسات، من بينها هاغينج فيس، وذلك خلال عمليات تقييم أمني. وقد سلطت هذه الحوادث الضوء على صعوبة التنبؤ بسلوك وكلاء الذكاء الاصطناعي المتزايدي القدرة حين يُمنحون قدراً أكبر من الاستقلالية.

وقالت ميا غليس، نائبة رئيس أوبن إيه آي للبحث، إن الشركة تعمل على ضمان تطور إجراءاتها الأمنية بالتوازي مع التحسن المتسارع في قدرات النماذج. وكانت أوبن إيه آي قد أوقفت سابقاً العمل على نموذج قادم بهدف تعزيز الضمانات الأمنية، وأعلنت الثلاثاء أن عملية تدريب رئيسية لا تزال متوقفة .

وأضافت الشركة أنها تعتزم نشر تقييم مفصل لحادثة هاغينج فيس، في حين تواصل مراجعة كيفية تفاعل نماذجها مع الأنظمة الخارجية . ويأتي هذا التطور في وقت تزايدت فيه التحذيرات من مخاطر أنظمة الذكاء الاصطناعي المتقدمة من قبل خبراء في المجال، بما في ذلك تحذيرات الرئيس التنفيذي لشركة Anthropic داريو أمودي من احتمالية استخدام مثل هذه التقنيات في أضرار جسيمة خلال الأعوام الثلاثة المقبلة .