نموذج فيسبوك للذكاء الاصطناعي يفشل في توليد صور تجمع الآسيويين بغيرهم

05-04-2024 06:22 AM

تعديل حجم الخط:

سرايا - يبدو أن نموذج ميتا لتوليد الصور بالذكاء الاصطناعي يواجه صعوبة في التعامل مع الواقع البسيط المتمثل في العلاقات بين الثقافات المتعددة؛ فعند تجربة النموذج من موقع "ذا فيرج" (The Verge) أظهر مولد الصور بالذكاء الاصطناعي من شركة ميتا عجزا مثيرا للدهشة في تخيل صور أفراد آسيويين إلى جانب نظرائهم من الجنس القوقازي.

رغم تعدد المحاولات باستخدام توجيهات متنوعة مثل "رجل آسيوي وصديق قوقازي"، أو "رجل آسيوي وزوجة بيضاء"، أو "امرأة آسيوية وزوج قوقازي"، فإن الأداة تولد في الغالب صورا تظهر فردين آسيويين فقط.

يمتد هذا الخلل إلى تصوير الأزواج من الأعراق المختلطة والصداقات بين الأجناس المختلفة، إذ إن نموذج الذكاء الاصطناعي يعيد باستمرار صورا لا تعكس المزيج العرقي المحدد له في التوجيهات المكتوبة.

على سبيل المثال، نتج عن توجيه "رجل آسيوي وامرأة بيضاء يبتسمان مع كلب" صور لشخصين آسيويين فقط، حتى بعد تعديل الوصف المكتوب.

ولاحظ الموقع أيضا مشكلات مماثلة مع التوجيهات التي تطلب تصوير علاقات الصداقة بين الأجناس المختلفة، إذ كانت الأداة تتجه مرة أخرى إلى عرض صور لأفراد آسيويين.

اللافت للنظر أنه عندما انتقل الموقع للتركيز على صور أفراد من جنوب آسيا، كانت النتائج أدق قليلا ولكنها لا تزال متفاوتة، فقد تمكنت الأداة من إنتاج صورة لرجل من جنوب آسيا مع امرأة قوقازية في إحدى المرات، لتعود بعدها إلى إنتاج صور لأفراد جنوب آسيويين فقط.

إلى جانب هذه التحيزات الواضحة، تشير نتائج نموذج الذكاء الاصطناعي أيضًا إلى تحيزات أعمق وأكثر منهجية.

على سبيل المثال، فإن تصوير الأداة للنساء الآسيويات يتماشى في الغالب مع الملامح الشرق آسيوية وألوان البشرة الفاتحة، متجاهلةً التنوع الهائل في التركيبة السكانية الآسيوية. بالإضافة إلى ذلك، ثمة نزعة واضحة تتمثل في استخدام ملابس خاصة بثقافة معينة، مثل زينة "البيندي" ولباس "الساري" وهي أزياء تشتهر بها الهند، دون أي تعليمات صريحة للنموذج باستخدام هذا النوع من الملابس.

لا تتعلق تلك التحيزات بالمغالطات العرقية فحسب، بل تعكس أيضا التحيزات النمطية والعمرية، فغالبا ما يصور النموذج صورة المرأة الآسيوية على أنها شابة وشرق آسيوية في المظهر، متجاهلا التنوع العمري والعرقي في مختلف أنحاء القارة الآسيوية.

تثير أوجه القصور والتحيزات في نموذج ميتا لتوليد الصور بالذكاء الاصطناعي عدّة مخاوف مهمة بشأن مدى شمولية أدوات الذكاء الاصطناعي وحساسيتها الثقافية، ويؤكد هذا الوضع على الحاجة إلى أن يكون تطوير الذكاء الاصطناعي أكثر تعبيرا عن التنوع الثقافي العالمي وتجنب استمرار التأثر بالقوالب النمطية والتحيزات التي تسيطر على العالم.

ربما تكون تجربة موقع "ذا فيرج" لنموذج ميتا مثالًا تحذيريًا حول المخاطر المحتملة في تطوير نماذج الذكاء الاصطناعي التوليدي، مما يبرز أهمية مجموعات البيانات المختلفة التي تتدرب عليها تلك النماذج. ومع تقدمنا إلى المستقبل، سيكون التصدي لمثل هذه التحيزات أمرًا ضروريًا لتطوير أنظمة الذكاء الاصطناعي التي تفهم وتمثل حقًا النسيج الثري للتجربة الإنسانية.