سرايا - يلتقط برنامج Sentinel الخاص بمنصة لقطات سريعة مدتها دقيقة واحدة للمحادثات عبر المنصة، ويحللها للكشف عن أي أضرار محتملة تدل على التحرش بالأطفال.

وستطلق روبلوكس،الألعاب الإلكترونية الشهيرة بين الأطفال والمراهقين، نسخة مفتوحة المصدر من نظام ذكاء اصطناعي، تقول إنه يمكّنها من الكشف المسبق عن اللغة المخادعة في محادثات الألعاب.


وتأتي هذه الخطوة في الوقت الذي تواجه فيه الشركة دعاوى قضائية وانتقادات تتهمها بالتقصير في حماية الأطفال من المتحرشين.

وتزعم أغلب الدعاوى المرفوعة، أن ميزات تصميم روبلوكس تجعل الأطفال الذين يستخدمونه فرائس سهلة للمتحرشين بالأطفال.

نظام الكشف المبكر
وصرحت روبلوكس بأنها تسعى جاهدةً لجعل أنظمتها آمنة قدر الإمكان افتراضياً، لكنها تشير إلى أنه لا يوجد نظام مثالي، وأن أحد أكبر التحديات في هذا المجال هو الكشف عن الأضرار الجسيمة، مثل احتمال تعريض الأطفال للخطر.

وفي هذا السياق، يساعد نظام الذكاء الاصطناعي المسمى Sentinel، على الكشف المبكر عن احتمال تعرض الأطفال للخطر، مثل استخدام لغة استغلالية.

وتقول روبلوكس إن النظام الجديد مكن الشركة من تقديم 1200 بلاغ عن محاولات محتملة لاستغلال الأطفال إلى المراكز المختصة في النصف الأول من عام 2025.

وتعمل روبلوكس حالياً على إتاحة النظام للجميع حتى تتمكن منصات أخرى من استخدامه.

وأشارت إلى أنه قد يكون الكشف المسبق عن المخاطر المحتملة على الأطفال أمراً صعباً بالنسبة لأنظمة الذكاء الاصطناعي وللبشر أيضاً؛ لأن المحادثات قد تبدو غير مؤذية في البداية. فأسئلة مثل "كم عمرك؟" أو "من أين أنت؟" لا تثير بالضرورة علامات تحذير بحد ذاتها، ولكن عند وضعها في سياق محادثة أطول، قد تأخذ معنى مختلفاً.


في الختام، لا بد من الإشارة إلى أن منصة روبلوكس التي تضم أكثر من 111 مليون مستخدم شهرياً، لا تسمح للمستخدمين بمشاركة مقاطع الفيديو أو الصور في المحادثات، وتحاول حظر أي معلومات شخصية مثل أرقام الهواتف.

ومع ذلك، وكما هو الحال مع معظم قواعد الإشراف، يجد المستخدمون باستمرار طرقاً للالتفاف على هذه الضمانات.

كذلك، لا تسمح المنصة للأطفال دون سن 13 عاماً بالدردشة مع مستخدمين آخرين خارج الألعاب إلا بموافقة صريحة من الوالدين، وعلى عكس العديد من المنصات الأخرى، لا تشفّر روبلوكس محادثات الدردشة الخاصة، ما يسمح بمراقبتها والإشراف عليها.