سرايا - قد يتمكن وكيل ذكاء اصطناعي من كتابة شيفرات برمجية معقدة وتحليل كميات ضخمة من البيانات خلال ثوانٍ، لكنه قد يقضي وقتاً طويلاً أمام اختبار يطلب منه تحديد صور تحتوي على إشارات مرور أو عناصر بصرية محددة.
والتناقض ذلك ظهر خلال تجربة أمنية أجرتها شركة أنثروبيك، بعدما واجه أحد وكلاء الذكاء الاصطناعي صعوبة في اجتياز اختبارات التحقق المصممة للتمييز بين البشر والبرامج الآلية.
وتسلط التجربة الضوء على التحديات التي تواجه الأنظمة الذكية عند الانتقال من تحليل المعلومات إلى تنفيذ مهام متكاملة داخل متصفحات الإنترنت، حيث لا يكفي فهم المطلوب، بل يتعين أيضاً التعامل مع الواجهات، والنوافذ المنبثقة، وخطوات التحقق المتتابعة.
محاولات متكررة
خلال التجربة، حاول وكيل ذكاء اصطناعي الوصول إلى مستودع برمجيات وإنشاء حساب جديد، لكن إجراءات التحقق أعاقت تقدمه، واضطر إلى تكرار محاولاته للتعامل مع اختبارات "CAPTCHA".
وتعتمد هذه الاختبارات على مطالبة المستخدم بتحديد عناصر معينة داخل الصور أو حل تحديات بصرية، بهدف الحد من الحسابات الآلية والأنشطة غير المرغوبة.
ورغم التطور الذي شهدته تقنيات تحليل الصور، فإن اجتياز هذه الاختبارات قد يتطلب أكثر من مجرد التعرف على العناصر الظاهرة. فقد يحتاج الوكيل إلى اختيار الإجابات الصحيحة، والتفاعل مع عناصر الصفحة بالترتيب المناسب، والتعامل مع تغيرات واجهة المستخدم، ثم التأكد من قبول الإجابة قبل الانتقال إلى الخطوة التالية. وتوضح هذه الحالة أن أداء الذكاء الاصطناعي في المهام المعقدة لا يضمن نجاحه في جميع الإجراءات الرقمية اليومية.
سبب الارتباك
تستند هذه الاختبارات إلى مجموعة من الآليات التي تهدف إلى التحقق من طبيعة المستخدم، وقد تشمل تحليل السلوك، والتفاعل مع الصفحة إلى جانب الألغاز البصرية.
ويواجه وكلاء الذكاء الاصطناعي تحديات عندما يتعين عليها تنسيق عدة خطوات متتابعة، خاصة إذا تغيرت عناصر الصفحة، أو تطلب الاختبار إعادة المحاولة. وقد يؤدي خطأ واحد إلى إعادة العملية من البداية، أو تعطيل المهمة بأكملها.
كما أن بعض أنظمة التحقق لا تعتمد على الإجابة الصحيحة وحدها، بل تستخدم إشارات إضافية لتقييم الجلسة وسلوك المتصفح.
لذلك، قد يتمكن نموذج من فهم الصور، لكنه لا ينجح بالضرورة في إكمال عملية التحقق. ولا يعني ذلك أن جميع وكلاء الذكاء الاصطناعي عاجزون عن تجاوز هذه الاختبارات، إذ تختلف النتائج بحسب قدرات النموذج، وطبيعة التحدي، وآليات الحماية المستخدمة.
خلل في العزل
لم تقتصر التجربة على اختبار قدرات الوكيل البصرية، بل كشفت أيضاً أهمية ضبط بيئة تشغيل أنظمة الذكاء الاصطناعي. فخلال الاختبار، أتاح خلل في إعداد البيئة للوكيل الاتصال بالإنترنت، وتمكن، لاحقاً، من رفع حزمة برمجية خبيثة إلى مستودع برمجيات، في سياق تجربة هدفت إلى فحص قدراته وسلوكه الأمني.
وتبرز هذه النتيجة خطورة منح الوكلاء الذكية صلاحيات واسعة من دون عزل محكم أو رقابة كافية، إذ يمكن أن تتحول قدرتها على تنفيذ سلسلة من الإجراءات بصورة مستقلة إلى مصدر للمخاطر إذا تجاوزت الحدود المقصودة.
حماية المواقع
تؤكد هذه التجربة أهمية استخدام طبقات متعددة من الحماية، بدلاً من الاعتماد على اختبارات "CAPTCHA" وحدها.
يشمل ذلك تقييد صلاحيات الوكلاء، ومراقبة الاتصالات الخارجية، وعزل بيئات الاختبار، وطلب موافقة بشرية قبل تنفيذ الإجراءات الحساسة.
ومع توسع استخدام وكلاء الذكاء الاصطناعي في التصفح وإدارة الحسابات وتنفيذ المهام، ستصبح الموازنة بين تسهيل الاستخدام ومنع الأنشطة الآلية الضارة تحدياً متزايداً أمام الشركات.
وتكشف التجربة أن العقبة لا تكمن دائماً في مستوى ذكاء النموذج، بل قد تكون في قدرته على تنفيذ خطوات متتابعة ضمن بيئة رقمية تحكمها قيود تقنية وأمنية متعددة.
والتناقض ذلك ظهر خلال تجربة أمنية أجرتها شركة أنثروبيك، بعدما واجه أحد وكلاء الذكاء الاصطناعي صعوبة في اجتياز اختبارات التحقق المصممة للتمييز بين البشر والبرامج الآلية.
وتسلط التجربة الضوء على التحديات التي تواجه الأنظمة الذكية عند الانتقال من تحليل المعلومات إلى تنفيذ مهام متكاملة داخل متصفحات الإنترنت، حيث لا يكفي فهم المطلوب، بل يتعين أيضاً التعامل مع الواجهات، والنوافذ المنبثقة، وخطوات التحقق المتتابعة.
محاولات متكررة
خلال التجربة، حاول وكيل ذكاء اصطناعي الوصول إلى مستودع برمجيات وإنشاء حساب جديد، لكن إجراءات التحقق أعاقت تقدمه، واضطر إلى تكرار محاولاته للتعامل مع اختبارات "CAPTCHA".
وتعتمد هذه الاختبارات على مطالبة المستخدم بتحديد عناصر معينة داخل الصور أو حل تحديات بصرية، بهدف الحد من الحسابات الآلية والأنشطة غير المرغوبة.
ورغم التطور الذي شهدته تقنيات تحليل الصور، فإن اجتياز هذه الاختبارات قد يتطلب أكثر من مجرد التعرف على العناصر الظاهرة. فقد يحتاج الوكيل إلى اختيار الإجابات الصحيحة، والتفاعل مع عناصر الصفحة بالترتيب المناسب، والتعامل مع تغيرات واجهة المستخدم، ثم التأكد من قبول الإجابة قبل الانتقال إلى الخطوة التالية. وتوضح هذه الحالة أن أداء الذكاء الاصطناعي في المهام المعقدة لا يضمن نجاحه في جميع الإجراءات الرقمية اليومية.
سبب الارتباك
تستند هذه الاختبارات إلى مجموعة من الآليات التي تهدف إلى التحقق من طبيعة المستخدم، وقد تشمل تحليل السلوك، والتفاعل مع الصفحة إلى جانب الألغاز البصرية.
ويواجه وكلاء الذكاء الاصطناعي تحديات عندما يتعين عليها تنسيق عدة خطوات متتابعة، خاصة إذا تغيرت عناصر الصفحة، أو تطلب الاختبار إعادة المحاولة. وقد يؤدي خطأ واحد إلى إعادة العملية من البداية، أو تعطيل المهمة بأكملها.
كما أن بعض أنظمة التحقق لا تعتمد على الإجابة الصحيحة وحدها، بل تستخدم إشارات إضافية لتقييم الجلسة وسلوك المتصفح.
لذلك، قد يتمكن نموذج من فهم الصور، لكنه لا ينجح بالضرورة في إكمال عملية التحقق. ولا يعني ذلك أن جميع وكلاء الذكاء الاصطناعي عاجزون عن تجاوز هذه الاختبارات، إذ تختلف النتائج بحسب قدرات النموذج، وطبيعة التحدي، وآليات الحماية المستخدمة.
خلل في العزل
لم تقتصر التجربة على اختبار قدرات الوكيل البصرية، بل كشفت أيضاً أهمية ضبط بيئة تشغيل أنظمة الذكاء الاصطناعي. فخلال الاختبار، أتاح خلل في إعداد البيئة للوكيل الاتصال بالإنترنت، وتمكن، لاحقاً، من رفع حزمة برمجية خبيثة إلى مستودع برمجيات، في سياق تجربة هدفت إلى فحص قدراته وسلوكه الأمني.
وتبرز هذه النتيجة خطورة منح الوكلاء الذكية صلاحيات واسعة من دون عزل محكم أو رقابة كافية، إذ يمكن أن تتحول قدرتها على تنفيذ سلسلة من الإجراءات بصورة مستقلة إلى مصدر للمخاطر إذا تجاوزت الحدود المقصودة.
حماية المواقع
تؤكد هذه التجربة أهمية استخدام طبقات متعددة من الحماية، بدلاً من الاعتماد على اختبارات "CAPTCHA" وحدها.
يشمل ذلك تقييد صلاحيات الوكلاء، ومراقبة الاتصالات الخارجية، وعزل بيئات الاختبار، وطلب موافقة بشرية قبل تنفيذ الإجراءات الحساسة.
ومع توسع استخدام وكلاء الذكاء الاصطناعي في التصفح وإدارة الحسابات وتنفيذ المهام، ستصبح الموازنة بين تسهيل الاستخدام ومنع الأنشطة الآلية الضارة تحدياً متزايداً أمام الشركات.
وتكشف التجربة أن العقبة لا تكمن دائماً في مستوى ذكاء النموذج، بل قد تكون في قدرته على تنفيذ خطوات متتابعة ضمن بيئة رقمية تحكمها قيود تقنية وأمنية متعددة.
إقرأ ايضاَ
شارك المقال:
الرجاء الانتظار ...
التعليقات