سرايا - علنت "أوبن إيه آي" (OpenAI) أنها ستؤجل طرح نسخة من نموذج الذكاء الاصطناعي "أسترا" (Astra) حيث لم يحقق البرنامج أداءً مماثلاً للنسخة الحالية في تقييمات السلامة.
وقالت ساتشي جاين، رئيسة أنظمة السلامة في "أوبن إيه آي"، في بيان يوم الاثنين، إن النموذج لم يكن بالمستوى الذي أرادته الشركة عندما يتعلق الأمر بـ"البقاء ضمن النطاق والتفويض، وكيفية تواصله مع المستخدم بشأن نوع العمل الذي أنجزه".
ومع ذلك، حققت النسخة، التي تحمل اسم "جي بي تي-6.1 أسترا" (GPT-6.1 Astra)، تحسناً في ما يتعلق بما يسمى "كسل النموذج"، وهو ما يشير إلى أمور مثل الإخفاق في إكمال مهمة.
وأبلغت "أوبن إيه آي" عن سلسلة من الحوادث الأمنية التي اخترق فيها وكلاء الذكاء الاصطناعي التابعون لها أنظمة خارجية؛ ما أضاف إلى المخاوف الأوسع بشأن خروج الذكاء الاصطناعي عن السيطرة البشرية.
وقالت الشركة الأسبوع الماضي إنها كانت توقف مؤقتاً التدريب باستخدام الأدوات على نماذجها الأكثر قدرة، بعدما تمكن نموذج آخر للذكاء الاصطناعي من الوصول إلى الإنترنت رغم أنه كان من المفترض ألا يكون قادراً على ذلك.
وأشارت الشركة في ذلك الوقت إلى أنها قررت أيضاً عدم استئناف التدريب على ذلك النموذج تحديداً، الذي استعلم، بعد حصوله على إمكانية الوصول إلى الإنترنت، من روبوت دردشة خارجي.
وقالت "أوبن إيه آي" يوم الاثنين إن نموذج "أسترا" الذي أُلغي إطلاقه كان مختلفاً عن النموذج الذي جرى الحديث عنه الأسبوع الماضي.
وقالت جاين في البيان: "بالطبع، نريد التأكد من أن تطوير نماذجنا آمن، سواء كان ذلك داخل الشركة أو عندما نطرحها للمستخدمين".
الرجاء الانتظار ...
التعليقات