الذكاء الاصطناعي يستعين بـ«حَكَم خارجي» لضمان سلامة النماذج المتطورة

سرايا - قبل شهرين، كان المقيّمون المستقلون يشغلون حيزاً هادئاً نسبياً في قطاع الذكاء الاصطناعي، الذي تبلغ قيمته تريليونات الدولارات، أما الآن، فقد بات يُطلب منهم التدخل لإنقاذ هذا القطاع.

يأتي ذلك في خضم الجدل المحتدم حول قدرة شركتي "أنثروبيك" و"أوبن إيه آي"، على حماية نماذجهما المتطورة وتنمية أعمالهما في آن واحد، حيث تسعى الشركتان للحصول على الدعم من مجموعة صغيرة من الجهات الخارجية المستقلة، مثل "موديل إيفالويشن آند ثريت ريسيرش" و"أبولو ريسيرش" و"ترانسلوس".

ولا تزال هذه الجهات المقيمة، التي تعمل في الغالب كمؤسسات غير ربحية، تحاول ترسيخ مكانتها في قطاع يشهد تدفقات رأسمالية بمستويات غير مسبوقة وإطلاقاً متسارعاً لنماذج جديدة.

وبحسب تقرير لشبكة سي إن بي سي، يتمثل دورها الأساسي في تقييم قدرات نماذج الذكاء الاصطناعي ومخاطرها، ورصد الحالات التي تسلك فيها هذه التقنية مسارات غير مرغوب فيها أو ضارة.

وفي ظل غياب تحرك فيدرالي لفرض لوائح تنظيمية، اكتسبت هذه الجهات المقيمة أهمية بالغة، فقد تعهد الرئيس التنفيذي لشركة "أنثروبيك"، داريو أمودي، الشهر الماضي بدمج مقيمين مستقلين ضمن هيكل شركته، وهي خطوة حظيت بتأييد سريع من سام ألتمان، الرئيس التنفيذي لشركة "أوبن إيه آي". كما أبدى الرئيس دونالد ترامب دعمه للفكرة، وكذلك فعلت معظم كبرى شركات التكنولوجيا الأمريكية.

ومع ذلك، لا تزال هناك أسئلة عالقة حول كيفية تمويل هذه الجهات الخارجية، ومستوى الصلاحيات الممنوحة لها، وشكل آلية إعداد التقارير في نهاية المطاف.

وقال أستاذ علوم الحاسوب في جامعة براون، سوريش فينكاتاسوبرامانيان، لشبكة سي إن بي سي، "إلى حد ما، تكمن المشكلة، كما هي الحال دائماً، في المال، من سيموّل عمل هذه الشركات؟ وكيف سيتم دعمها؟ نحن بحاجة إلى منظومة متكاملة ونموذج عمل قابل للاستمرار لهذا الغرض".

وفي الوقت الراهن، تتولى شركات "أنثروبيك" و"أوبن إيه آي" وشركاء البنية التحتية المستفيدون من طفرة الذكاء الاصطناعي صياغة القواعد بأنفسهم.

ويرى النقاد أن هذا الوضع يشبه تكليف أكبر البنوك بمهمة حمايتنا من الأزمات المالية، أو السماح لشركات الأدوية بطرح منتجاتها في الأسواق دون الحصول على موافقات رقابية.

وقد أشاد الرئيس الأمريكي دونالد ترامب مؤخراً بمسؤولي شركات الذكاء الاصطناعي لما أظهروه من "رقابة ذاتية هائلة"، وألمح إلى نيته ترك الشركات تدير شؤونها بنفسها، إذ لا يرغب في عرقلة نمو هذا القطاع الذي يقود عجلة الاقتصاد وسوق الأسهم.

وشجّع الرئيس شركات الذكاء الاصطناعي على "عقد شراكة مع مدقق أو مُقيِّم خارجي مستقل"، وذلك في إطار اتفاق طوعي كان قد طرحه في أواخر شهر سبتمبر/أيلول.

وبدأ أمودي هذا النقاش في مقالٍ له نشر على نطاق واسع الشهر الماضي، حيث دعا إلى اعتماد "وتيرة أبطأ" في تطوير النماذج المتقدمة، وذلك بعد مغادرة باحثين لشركته وإعرابهم عن مخاوفهم بشأن التهديدات الوجودية التي تفرضها هذه التكنولوجيا.

ومع اتجاه مختبرات الذكاء الاصطناعي نحو تعيين مُقيّمين خارجيين، بدأت تظهر بوادر احتكاك وخلافات.

فقد قامت شركة "OpenAI" الأسبوع الماضي بفصل ثلاثة موظفين بتهمة "مخالفة سياسات الشركة المتعلقة بالوصول إلى المعلومات الحساسة والتعامل معها"، وذلك وفقاً لما ذكره متحدث باسم الشركة.

وقد صرّح اثنان من هؤلاء الموظفين، وهما ميكيتا باليسني وتوميك كورباك، بأنهما يعتقدان أن قرار فصلهما جاء نتيجة لطريقة تواصلهما مع مُقيّمين من أطراف خارجية.

وكتب باليسني في منشور على منصة "X" ، "يخبرني زملائي السابقون بأنهم في حيرة من أمرهم ولا يعرفون ما الذي يجب تصديقه، كما أنهم يخشون التحدث، ويساورهم القلق من احتمال تفتيش هواتفهم الشخصية بحثاً عن رسائل متبادلة معنا أو مع أطراف خارجية، وأنا أخشى أن يؤدي هذا الخوف السائد من التحدث والتفاعل مع أطراف خارجية إلى قيام OpenAI بالتساهل في معايير السلامة خلف الأبواب المغلقة".

وقد عارضت شركة "OpenAI" هذا التوصيف للأمور، وذكرت في منشور لها الجمعة أنها "تعمل حالياً على وضع اللمسات الأخيرة على عقود مع مُقيّمين خارجيين للسلامة، وستعلن عن التفاصيل في الأسابيع المقبلة".

وجاء في بيان الشركة، "نحن ملتزمون بإشراك مُقيّمين خارجيين، ونواصل جعل التعاون الوثيق مع منظمات السلامة المستقلة جزءاً جوهرياً من جهودنا المتعلقة بالسلامة".

كما صرّح متحدث باسم "OpenAI" في بيان، بأن عمل الشركة المرتقب مع المُقيّمين "يبني على التعاون القائم حالياً مع منظمات السلامة المستقلة"، بما في ذلك مؤسستي "METR" و"Redwood Research".