سرايا - تُحقق شركتا الذكاء الاصطناعي "أوبن إيه آي" و"أنثروبيك"، إلى جانب باحثين في مجال الأمن، في عشرات الآلاف من الحوادث التي اتخذت خلالها نماذجهما المتقدمة خطوات قد يعتبرها مقيمون من خارج الشركتين إشكالية، بحسب مصادر تحدثت إلى موقع "أكسيوس".
يُشير العدد الهائل من الحوادث، التي وقعت في الأشهر الأخيرة خلال الاختبارات الداخلية وفي بيئات واقعية، إلى أن المشكلة أعقد بكثير مما هو معروف للعامة.
وتظهر هذه النتائج في إطار العمل الداخلي لتقييم النماذج، وكذلك التحقيقات التي تجريها الشركتان بشأن سلوك النماذج، ما يثير تساؤلات حول ما إذا كانت أي من الشركتين، أو أي شركة رائدة في تطوير نماذج الذكاء الاصطناعي، قادرة حاليًا على فرض سيطرة كاملة على تقنيتها، بحسب تقرير لموقع "أكسيوس".
وتشمل هذه الوقائع تجاوز حواجز الحماية، وإنشاء لوحات رسائل، والهروب من بيئات الاختبار المعزولة، واختراق مواقع إلكترونية، وتوجيه النماذج لأنفسها، أو محاولة تجاوز أنظمة المراقبة، بحسب المصادر.
ووقعت هذه الحوادث خلال اختبارات داخلية وفي العالم الحقيقي، ولا يزال كثير منها غير معلن، في الوقت الذي يواصل فيه باحثو الأمن التحقيق فيها، حسبما قالت المصادر.
وأضافت المصادر أن بعض هذه الاختبارات يشبه أنشطة "الفريق الأحمر"، التي تحاول فيها الشركات دفع النماذج إلى التصرف بشكل سيئ للتأكد من سلامتها.
وتواجه أكبر مختبرات الذكاء الاصطناعي تحديًا متشابهًا يتمثل في محاولة البشر وضع حواجز حماية أمام أنظمة قوية وقادرة على الصمود، تسعى بدورها إلى إتمام المهام الموكلة إليها.
حوادث متفاوتة الخطورة
تتفاوت خطورة هذه الحوادث، وهي مماثلة في طبيعتها للإفصاحات التي نشرتها "أوبن إيه آي" خلال الأيام الأخيرة. وتشمل محاولات ناجحة وأخرى فاشلة لتجاوز حواجز الحماية، ولم يُعرف حتى الآن ما إن كان معظمها قد تسبب في أضرار حقيقية في العالم. وقد يتجاوز العدد الإجمالي عشرات الآلاف بكثير، بحسب المصادر.
وخلال الأيام الأخيرة، كشفت "أوبن إيه آي" وباحثون من خارج الشركة عن سلسلة من الوقائع المتعلقة بسلوك أنظمتها، والتي يعتبر بعض الخبراء أنها مثيرة للقلق.
وتشمل هذه الوقائع تسريب وكلاء تابعين لــ"أوبن إيه آي" 53 صورة من مستخدمي "شات جي بي تي" على الإنترنت، واختراق موقع حكومي أسترالي، ومحاولات اختراق مواقع أخرى، من بينها مواقع تابعة للحكومة الأميركية، وفقًا للشركة ومصادر وتقارير لـ"رويترز" و"نيويورك تايمز".
وأعلنت "أوبن إيه آي" أنها أوقفت مؤقتًا تدريب نماذجها الأكثر قدرة، وأنها ستستأنف تدريبها "فقط عندما نكون واثقين من وجود مزيد من إجراءات الحماية وتحسينات المواءمة"، بحسب ما قاله متحدث باسم الشركة لـ"أكسيوس".
وقال الرئيس التنفيذي سام ألتمان على منصة "إكس" إن المراجعة الجارية "لم تكن بالسرعة التي كنا نأملها".
وقال ألتمان إن حادثة "Hugging Face" هي أخطر ما شهدته الشركة. وفي هذه الواقعة، نسّقت مجموعة تضم مئات الوكلاء أعمالها عبر لوحة رسائل واخترقت شركة خارجية في محاولة لتحسين أدائها في اختبار للأمن السيبراني.
وقال متحدث باسم "أوبن إيه آي" لـ"أكسيوس": "يريد الناس معرفة أن الذكاء الاصطناعي يجري تطويره بأمان، وهذا يبدأ بما تفعله شركات مثل شركتنا بأنفسها. وهذه ليست المرة الأولى التي نوقف فيها هذه الإجراءات مؤقتًا، ولا نتوقع أن تكون الأخيرة مع استمرار تطور قدرات الذكاء الاصطناعي".
تكرار السلوك غير المتوافق
كلفت "أنثروبيك" منظمة مستقلة متخصصة في سلامة الذكاء الاصطناعي بفحص سلوك نماذجها. وكشفت الشركة في وثائق نشرتها علنًا عن معدل تكرار حالات السلوك غير المتوافق مع الأهداف لنماذجها.
وأظهر "مستند النظام" الخاص بنموذج "Opus 5.5"، الذي أصدرته الشركة الأسبوع الماضي، مدى تكرار تصرف النموذج بطرق صنفتها الشركة على أنها غير معتادة أو إشكالية.
وتجري "أنثروبيك" وشركات أخرى مئات الآلاف من عمليات الاختبار على نماذجها، أو أكثر، بحسب المصادر. وهذا يعني أن حتى النسبة الصغيرة من السلوك غير المتوافق قد تؤدي إلى عشرات الآلاف من الحوادث التي تتصرف فيها النماذج بطرق غير متوقعة، وأحيانًا مثيرة للقلق.
ويتفق باحثون في أمن الذكاء الاصطناعي على وجود إصلاحات بسيطة من شأنها أن تساعد شركات الذكاء الاصطناعي على تجنب بعض العوامل التي جعلت حادثة مثل اختراق منصة "هاغينغ فيس" تبدو خطيرة إلى هذا الحد بالنسبة للمراقبين من خارج القطاع.
ثقة محدودة
حذر مسؤولون تنفيذيون آخرون في شركات الذكاء الاصطناعي وباحثون في مجال السلامة من أن ثقتهم محدودة في قدرة شركات الذكاء الاصطناعي على منع جميع السلوكيات الإشكالية للنماذج.
وتتمتع النماذج الجديدة من الذكاء الاصطناعي بقدرة استثنائية على إتمام المهام، لذا فإن محاولة الحد من قدرتها على ابتكار الحلول غالبًا ما تكون معركة خاسرة، إذ يتعين على المطورين توقع كل طريقة ممكنة قد تجعلها تخرج عن السيطرة.
وقال مسؤولون تنفيذيون بارزون في مجال الذكاء الاصطناعي إن تقنية لم تخطر للبشر من قبل قد تكون في كثير من الأحيان هي التي تسمح للنماذج بتجاوز حواجز الحماية. وقال أحد المسؤولين التنفيذيين في مجال الأمن السيبراني: "محاولة وضع قائمة مثالية بما يجب فعله وما لا يجب فعله ربما تكون مسعى عقيمًا".
ومن المتوقع حدوث قدر معين من السلوك الذي يسميه المتخصصون في سلامة الذكاء الاصطناعي "السلوك غير المتوافق" داخل شركات الذكاء الاصطناعي أثناء اختبارها لنماذجها الجديدة.
وقال خبراء لـ"أكسيوس" إن القضاء على مخاطر السلوك غير المتوافق بشكل كامل قد لا يكون ممكنًا.
وما يثير القلق هو أنه إذا اتخذ نموذج إجراءً إشكاليًا مرات عديدة أثناء الاختبارات، فمن المرجح أن يؤدي سلوكه إلى وقوع حادث للأمن السيبراني في العالم الحقيقي.
يُشير العدد الهائل من الحوادث، التي وقعت في الأشهر الأخيرة خلال الاختبارات الداخلية وفي بيئات واقعية، إلى أن المشكلة أعقد بكثير مما هو معروف للعامة.
وتظهر هذه النتائج في إطار العمل الداخلي لتقييم النماذج، وكذلك التحقيقات التي تجريها الشركتان بشأن سلوك النماذج، ما يثير تساؤلات حول ما إذا كانت أي من الشركتين، أو أي شركة رائدة في تطوير نماذج الذكاء الاصطناعي، قادرة حاليًا على فرض سيطرة كاملة على تقنيتها، بحسب تقرير لموقع "أكسيوس".
وتشمل هذه الوقائع تجاوز حواجز الحماية، وإنشاء لوحات رسائل، والهروب من بيئات الاختبار المعزولة، واختراق مواقع إلكترونية، وتوجيه النماذج لأنفسها، أو محاولة تجاوز أنظمة المراقبة، بحسب المصادر.
ووقعت هذه الحوادث خلال اختبارات داخلية وفي العالم الحقيقي، ولا يزال كثير منها غير معلن، في الوقت الذي يواصل فيه باحثو الأمن التحقيق فيها، حسبما قالت المصادر.
وأضافت المصادر أن بعض هذه الاختبارات يشبه أنشطة "الفريق الأحمر"، التي تحاول فيها الشركات دفع النماذج إلى التصرف بشكل سيئ للتأكد من سلامتها.
وتواجه أكبر مختبرات الذكاء الاصطناعي تحديًا متشابهًا يتمثل في محاولة البشر وضع حواجز حماية أمام أنظمة قوية وقادرة على الصمود، تسعى بدورها إلى إتمام المهام الموكلة إليها.
حوادث متفاوتة الخطورة
تتفاوت خطورة هذه الحوادث، وهي مماثلة في طبيعتها للإفصاحات التي نشرتها "أوبن إيه آي" خلال الأيام الأخيرة. وتشمل محاولات ناجحة وأخرى فاشلة لتجاوز حواجز الحماية، ولم يُعرف حتى الآن ما إن كان معظمها قد تسبب في أضرار حقيقية في العالم. وقد يتجاوز العدد الإجمالي عشرات الآلاف بكثير، بحسب المصادر.
وخلال الأيام الأخيرة، كشفت "أوبن إيه آي" وباحثون من خارج الشركة عن سلسلة من الوقائع المتعلقة بسلوك أنظمتها، والتي يعتبر بعض الخبراء أنها مثيرة للقلق.
وتشمل هذه الوقائع تسريب وكلاء تابعين لــ"أوبن إيه آي" 53 صورة من مستخدمي "شات جي بي تي" على الإنترنت، واختراق موقع حكومي أسترالي، ومحاولات اختراق مواقع أخرى، من بينها مواقع تابعة للحكومة الأميركية، وفقًا للشركة ومصادر وتقارير لـ"رويترز" و"نيويورك تايمز".
وأعلنت "أوبن إيه آي" أنها أوقفت مؤقتًا تدريب نماذجها الأكثر قدرة، وأنها ستستأنف تدريبها "فقط عندما نكون واثقين من وجود مزيد من إجراءات الحماية وتحسينات المواءمة"، بحسب ما قاله متحدث باسم الشركة لـ"أكسيوس".
وقال الرئيس التنفيذي سام ألتمان على منصة "إكس" إن المراجعة الجارية "لم تكن بالسرعة التي كنا نأملها".
وقال ألتمان إن حادثة "Hugging Face" هي أخطر ما شهدته الشركة. وفي هذه الواقعة، نسّقت مجموعة تضم مئات الوكلاء أعمالها عبر لوحة رسائل واخترقت شركة خارجية في محاولة لتحسين أدائها في اختبار للأمن السيبراني.
وقال متحدث باسم "أوبن إيه آي" لـ"أكسيوس": "يريد الناس معرفة أن الذكاء الاصطناعي يجري تطويره بأمان، وهذا يبدأ بما تفعله شركات مثل شركتنا بأنفسها. وهذه ليست المرة الأولى التي نوقف فيها هذه الإجراءات مؤقتًا، ولا نتوقع أن تكون الأخيرة مع استمرار تطور قدرات الذكاء الاصطناعي".
تكرار السلوك غير المتوافق
كلفت "أنثروبيك" منظمة مستقلة متخصصة في سلامة الذكاء الاصطناعي بفحص سلوك نماذجها. وكشفت الشركة في وثائق نشرتها علنًا عن معدل تكرار حالات السلوك غير المتوافق مع الأهداف لنماذجها.
وأظهر "مستند النظام" الخاص بنموذج "Opus 5.5"، الذي أصدرته الشركة الأسبوع الماضي، مدى تكرار تصرف النموذج بطرق صنفتها الشركة على أنها غير معتادة أو إشكالية.
وتجري "أنثروبيك" وشركات أخرى مئات الآلاف من عمليات الاختبار على نماذجها، أو أكثر، بحسب المصادر. وهذا يعني أن حتى النسبة الصغيرة من السلوك غير المتوافق قد تؤدي إلى عشرات الآلاف من الحوادث التي تتصرف فيها النماذج بطرق غير متوقعة، وأحيانًا مثيرة للقلق.
ويتفق باحثون في أمن الذكاء الاصطناعي على وجود إصلاحات بسيطة من شأنها أن تساعد شركات الذكاء الاصطناعي على تجنب بعض العوامل التي جعلت حادثة مثل اختراق منصة "هاغينغ فيس" تبدو خطيرة إلى هذا الحد بالنسبة للمراقبين من خارج القطاع.
ثقة محدودة
حذر مسؤولون تنفيذيون آخرون في شركات الذكاء الاصطناعي وباحثون في مجال السلامة من أن ثقتهم محدودة في قدرة شركات الذكاء الاصطناعي على منع جميع السلوكيات الإشكالية للنماذج.
وتتمتع النماذج الجديدة من الذكاء الاصطناعي بقدرة استثنائية على إتمام المهام، لذا فإن محاولة الحد من قدرتها على ابتكار الحلول غالبًا ما تكون معركة خاسرة، إذ يتعين على المطورين توقع كل طريقة ممكنة قد تجعلها تخرج عن السيطرة.
وقال مسؤولون تنفيذيون بارزون في مجال الذكاء الاصطناعي إن تقنية لم تخطر للبشر من قبل قد تكون في كثير من الأحيان هي التي تسمح للنماذج بتجاوز حواجز الحماية. وقال أحد المسؤولين التنفيذيين في مجال الأمن السيبراني: "محاولة وضع قائمة مثالية بما يجب فعله وما لا يجب فعله ربما تكون مسعى عقيمًا".
ومن المتوقع حدوث قدر معين من السلوك الذي يسميه المتخصصون في سلامة الذكاء الاصطناعي "السلوك غير المتوافق" داخل شركات الذكاء الاصطناعي أثناء اختبارها لنماذجها الجديدة.
وقال خبراء لـ"أكسيوس" إن القضاء على مخاطر السلوك غير المتوافق بشكل كامل قد لا يكون ممكنًا.
وما يثير القلق هو أنه إذا اتخذ نموذج إجراءً إشكاليًا مرات عديدة أثناء الاختبارات، فمن المرجح أن يؤدي سلوكه إلى وقوع حادث للأمن السيبراني في العالم الحقيقي.
إقرأ ايضاَ
شارك المقال:
الرجاء الانتظار ...
التعليقات