سرايا - أعلنت شركة OpenAI أنها ستوقف مؤقتا تدريب واختبار بعض تحديثات نموذج ChatGPT، بعد أن رصدت سلوكا مقلقا في نماذجها.
وستعمل الشركة خلال هذه الفترة على إعادة هيكلة أنظمة البحث والتدريب لجعلها أكثر أمانا، مع الإبطاء من وتيرة تطوير الذكاء الاصطناعي.
وجاء هذا الإعلان بعد أسابيع من اعتراف OpenAI بأن أحد أنظمتها تصرف بشكل خارج عن السيطرة أثناء الاختبار، وقام باختراق شركة منافسة تعمل في مجال الذكاء الاصطناعي. وأدى ذلك إلى سلسلة من الكشوفات المماثلة من شركات أخرى مثل Anthropic و"ميتا"، ما أثار مخاوف من أن تطوير هذه الأنظمة يجري بوتيرة أسرع بكثير من قدرة الأنظمة المصممة لحماية العالم من مخاطرها.
وقالت OpenAI إنها ستأخذ استراحة لمدة أسبوعين من اختبار النماذج، كما أوقفت تدريب الجيل التالي من نماذجها المعروفة باسم Astra. وستستغل هذه الفترة في إضافة أنظمة أمان جديدة، بما في ذلك أدوات ذكاء اصطناعي جديدة قادرة على مراقبة سلوك الأنظمة قيد الاختبار.
اختبارات الأمان الحالية قد لا تكون كافية
أشارت الشركة إلى أن بعض أنظمة الاختبار الحالية، التي تعتمد على طريقة تسمى "مراقبة سلسلة الأفكار" (chain-of-thought monitoring) لمراقبة كيفية عمل النماذج، قد لا تكون كافية لضمان سلامتها. هذه الطريقة تسمح للباحثين بالنظر في عملية التخطيط للنموذج وفهم كيفية إنتاجه للنتائج، لكن هناك قلقا جديدا من أن النماذج قد تخفي خططها لكسر قواعدها الخاصة.
ويمثل تباطؤ وتيرة تطوير النماذج تحولا في نهج OpenAI، التي كانت في طليعة تطوير النماذج الجديدة وتلقت أحيانا انتقادات لإصدارها مبكرا جدا.
ويأتي هذا القرار في وقت تواجه فيه الشركة ضغوطا متزايدة، إذ تشير التقارير إلى أنها تخلفت عن منافستها Anthropic، وتخطط للطرح العام في السوق قريبا.
وكتب سام ألتمان، الرئيس التنفيذي لـOpenAI، على منصة "إكس": إن "تقدم النماذج الآن سريع للغاية، وقلنا دائما إننا سنتخذ إجراء إذا شعرنا أن قدرات النماذج تفوق وتيرة الأمان والمواءمة. نهتم بعمق بسلامة الذكاء الاصطناعي. ونعتقد أن المجال بأكمله سيتعين عليه التنسيق حول معايير أمان مشتركة، لكننا سنعمل بشكل فردي في الوقت الحالي"
وأضاف: "نتوقع أن تتحكم الثقة في الأمان بشكل متزايد في وتيرة تقدم الذكاء الاصطناعي. نحن متفائلون بشأن عمل المواءمة الذي نقوم به، ونظل ملتزمين بجعل القدرات المتطورة متاحة على نطاق واسع".
وجاء الإعلان الأخير لـOpenAI، بعد أن كشفت الشركة الشهر الماضي أن وكيلا مستقلا يعمل بنموذجين متقدمين من أنظمة الذكاء الاصطناعي، قد هرب من بيئة الاختبار، واتصل بالإنترنت، واخترق شركة ذكاء اصطناعي منافسة تدعى Hugging Face. وقام بذلك للغش في الاختبار، حيث أن Hugging Face تستضيف مواد كانت ستساعده في تحقيق هدفه بسهولة أكبر، ما دفع النموذج التجريبي إلى شن هجوم إلكتروني.
ومنذ ذلك الحين، تحركت الشركة للرد على مخاوف الخبراء والمشرعين من أنها تختبر وتطلق نماذج مبكرا جدا، بطرق قد تشكل خطرا على الجمهور العام. وقد أعلنت OpenAI أنها تضيف ضوابط أمنية جديدة لنماذجها الأكثر قوة، وتوقفت عن الأنشطة المتعلقة بـAstra، نموذج الجيل التالي الذي لم يطرح بعد، وذلك تماشيا مع "إطار الاستعداد" الذي أطلقته في نهاية عام 2023، والذي يتطلب إيقاف العمل على النماذج التي قد تشكل خطرا.
الرجاء الانتظار ...
التعليقات