سرايا - يكشف تقرير موسّع صادر عن مشروع شفافية التكنولوجيا عن دور غير مباشر لكنه فعّال لشركتي آبل وغوغل في انتشار تطبيقات تعتمد على الذكاء الاصطناعي لتوليد صور عارية أو محتوى جنسي دون موافقة، وهي تطبيقات تُعرف باسم نوديفاي .

ويشير التقرير إلى أن المشكلة لا تقتصر على وجود هذه التطبيقات داخل متاجر التطبيقات، بل تمتد إلى أن أنظمة البحث والإعلانات داخل هذه المتاجر تسهم في توجيه المستخدمين إليها وتعزيز انتشارها، رغم وجود سياسات رسمية تحظر هذا النوع من المحتوى.

انتشار واسع وتطور تقني مقلق

يوضح التقرير أن هذه التطبيقات تعتمد على تقنيات الذكاء الاصطناعي التوليدي لإنشاء صور ومقاطع فيديو ذات طابع جنسي باستخدام صور حقيقية لأشخاص، غالباً دون علمهم أو موافقتهم. ويمكن لهذه الأدوات تجريد الأشخاص من ملابسهم رقمياً، أو وضعهم في مشاهد إباحية، أو حتى تحويلهم إلى شخصيات ضمن روبوتات دردشة تفاعلية ذات طابع جنسي.

وبحسب البيانات التي جمعها التقرير، فقد تجاوز عدد تحميلات هذه التطبيقات 483 مليون مرة، فيما حققت إيرادات تفوق 122 مليون دولار، ما يعكس حجم السوق المتنامي لهذه التطبيقات، ويثير تساؤلات حول الدوافع الاقتصادية التي قد تؤثر على آليات الرقابة والتنفيذ داخل المتاجر الرقمية

منصات غير محايدة: كيف تُوجّه المتاجر المستخدمين

أحد أبرز استنتاجات التقرير يتمثل في أن آبل وغوغل لا تعملان كمنصات عرض محايدة، بل إن أنظمة البحث داخل متاجرهما تلعب دوراً نشطاً في إبراز هذه التطبيقات. فقد أجرى الباحثون اختبارات باستخدام كلمات مفتاحية مثل nudify و undress و deepfake ، وتبيّن أن نتائج البحث تتضمن عدداً كبيراً من التطبيقات القادرة على إنتاج محتوى جنسي غير توافقي.

كما أظهرت النتائج أن نحو 40% من التطبيقات التي ظهرت ضمن النتائج الأولى تمتلك قدرات واضحة على إنشاء صور عارية أو شبه عارية للنساء، وهو ما يعكس انتشاراً واسعاً لهذه الوظائف داخل التطبيقات المتاحة .

الإعلانات والتوصيات: مضاعفة الوصول

لا يقتصر الأمر على نتائج البحث العضوية، بل يمتد إلى الإعلانات المدفوعة التي تظهر في أعلى النتائج، حيث رصد التقرير قيام الشركتين بعرض إعلانات لتطبيقات نوديفاي ، ما يمنحها أولوية في الظهور ويزيد من احتمالية تحميلها.

كما تلعب خاصية الإكمال التلقائي دوراً إضافياً في تعزيز الانتشار، إذ تقترح المتاجر كلمات بحث جديدة مرتبطة بهذه التطبيقات، ما يخلق مساراً متدرجاً يقود المستخدمين إلى المزيد من المحتوى المشابه، حتى دون نية مسبقة للبحث عنه.

تجارب عملية تكشف سهولة إساءة الاستخدام

أجرى فريق التقرير اختبارات مباشرة على عدد من التطبيقات، حيث تمكن من تحميل صور لنساء بملابس عادية، ثم استخدام أدوات داخل التطبيقات لإزالة الملابس رقمياً أو استبدال الوجوه بأجساد عارية أو إنشاء مقاطع فيديو تحاكي محتوى إباحياً.

وفي العديد من الحالات، لم تضع التطبيقات قيوداً فعالة لمنع هذا الاستخدام، بل وفّرت أدوات سهلة وسريعة لتنفيذه، أحياناً عبر خطوات بسيطة أو أوامر نصية قصيرة. كما أن بعض التطبيقات عرضت نماذج جاهزة لمحتوى جنسي يمكن تخصيصه بسهولة باستخدام صور المستخدمين.

تطبيقات موجهة للقاصرين ومخاطر متزايدة

من بين النتائج الأكثر إثارة للقلق، كشف التقرير أن 31 تطبيقاً من هذه الفئة مصنّف على أنه مناسب للقاصرين، ما يفتح الباب أمام استخدام هذه الأدوات في سياقات حساسة، مثل المدارس أو بين المراهقين.

ويأتي ذلك في وقت تتزايد فيه حوادث استخدام الديب فيك الجنسي لاستهداف فتيات ونساء، ما يضاعف من خطورة توفر هذه التطبيقات دون رقابة كافية.

ثغرات في السياسات والتنفيذ

رغم أن سياسات آبل وغوغل تحظر بشكل صريح التطبيقات التي تحتوي على محتوى جنسي أو تنتهك كرامة الأفراد، فإن التقرير يشير إلى وجود فجوة واضحة بين السياسات المعلنة والتطبيق الفعلي.

وتشمل هذه الفجوة السماح بمرور التطبيقات عبر أنظمة المراجعة، واستمرار ظهورها في نتائج البحث، إضافة إلى الترويج لها عبر الإعلانات، وهو ما يشير إلى ضعف في آليات الرقابة أو عدم كفاية إجراءات التنفيذ.

ردود الشركات وإجراءات لاحقة

بعد مشاركة نتائج التحقيق، قامت آبل بإزالة 15 تطبيقاً، فيما أزالت غوغل عدداً من التطبيقات الأخرى وأكدت استمرار مراجعة المحتوى. ومع ذلك، لم تقدّم الشركتان توضيحات كافية حول كيفية وصول هذه التطبيقات إلى المستخدمين أو سبب استمرار ظهورها رغم مخالفتها للسياسات

كما لم تجب الشركتان بشكل مباشر عن تساؤلات تتعلق بالإيرادات التي تحققها من هذه التطبيقات، سواء من خلال الإعلانات أو الاشتراكات داخل التطبيقات، وهو ما يثير تساؤلات إضافية حول تضارب المصالح المحتمل.

يخلص التقرير إلى أن دور آبل وغوغل يتجاوز مجرد الاستضافة، ليشمل المساهمة في تضخيم انتشار هذه التطبيقات عبر أدوات البحث والترويج. ويحذر من أن استمرار هذا الوضع، بالتزامن مع التطور السريع في تقنيات الذكاء الاصطناعي، قد يؤدي إلى تفاقم ظاهرة المحتوى الجنسي غير التوافقي.

كما يشير إلى أن تزايد القضايا المرتبطة بإساءة استخدام هذه الأدوات، خاصة ضد النساء والفتيات، قد يدفع الجهات التنظيمية إلى فرض رقابة أكثر صرامة على متاجر التطبيقات، ومساءلة الشركات التقنية عن دورها في هذا السياق.