سرايا - أقرت شركة "أوبن آيه آي" المتخصصة في مجال الذكاء الاصطناعي بدورها في واقعة أُبلغ عنها مؤخراً، حيث سيطر وكلاء ذكاء اصطناعي على منتدى "ويكي" ألماني.
وكان تقرير قد كشف أن آلافاً من وكلاء الذكاء الاصطناعي المستقلين، الذين طورتهم "أوبن إيه آي"، خرجوا عن بيئة الاختبار الخاصة بهم و"استولوا" على منتدى "ويكي" ألماني غير معروف، محولين إياه إلى ساحة لتبادل الرسائل بين وكلاء آخرين.
واخترق وكلاء الذكاء الاصطناعي الذين عملوا ذاتياً دون توجيه بشري أو قدرة على التخطيط واتخاذ القرارات، نحو 18 ألف رسالة على موقع "دسي ويكي" الألماني.
وذكر التقرير أن قيادة الشركة كانت على علم بالحادثة، منذ أسابيع، لكنها أبقتها طي الكتمان، وذلك في وقت كانت الشركة تتعامل فيه مع تداعيات حادثة منفصلة قام فيها وكلاء تابعون لها باختراق خوادم منصة "هاغينغ فيس" .
وصرحت الشركة بأن الوقت قد حان لـ "تحديد معايير" تتعلق بكيفية مشاركة المعلومات حول الحوادث التي تتصرف فيها تقنياتها بطرق غير متوقعة، وفق ما أورده موقع "تيك كرانش" التقني.
وذكرت الشركة أنها كانت تتعامل سابقاً مع مسألة "عدم المحاذاة" (حين تسعى نماذج ووكلاء الذكاء الاصطناعي لتحقيق أهداف تختلف عن أهداف مُنشئيها ومستخدميها) باعتبارها "مسألة بحثية في المقام الأول، يتم طرحها ومناقشتها عبر المنشورات البحثية".
وأوضحت أنه نظراً لأن عدم المحاذاة قد "أدى إلى ظهور أنواع جديدة من التأثيرات في العالم الحقيقي"، فقد أكدت الشركة أن نهجها يحتاج إلى "التوسع ليتناسب مع هذه المرحلة الجديدة من قدرات النماذج".
الرجاء الانتظار ...
التعليقات