سرايا - لم يعد الذكاء الاصطناعي مجرد أداة تقدم إجابة عن سؤال أو تلخص وثيقة أو تقترح قرارًا.
فظهور الوكلاء الأذكياء ينقل التقنية إلى مرحلة أكثر حساسية، حيث يمكن للنظام تنفيذ سلسلة من الإجراءات نيابة عن المستخدم، بدءًا من حجز موعد أو شراء منتج، وصولًا إلى إرسال رسائل، أو إدارة عمليات رقمية، أو التفاعل مع أنظمة وخدمات خارجية.
وهذا التحول يغيّر طبيعة المخاطر جذريًّا. فإذا قدم نظام تقليدي معلومة خاطئة، يستطيع الإنسان مراجعتها قبل التصرف بناءً عليها.
أما عندما يمتلك الوكيل صلاحية التنفيذ، فقد تتحول المعلومة الخاطئة إلى قرار وفعل ونتيجة مالية أو قانونية أو تشغيلية خلال ثوانٍ.
ومن هنا يبرز سؤال يتجاوز الدقة التقنية: من يدفع ثمن الخطأ عندما يتصرف الوكيل الذكي نيابة عن الإنسان؟
المسؤولية لم تعد واضحة
في النماذج التقليدية، كان من السهل نسبيًّا تحديد صاحب القرار.
فالمستخدم يطلب، والنظام يستجيب، ثم يتخذ الإنسان الخطوة النهائية.
لكن الوكيل الذكي يعمل بطريقة مختلفة، إذ يمكن أن يستقبل هدفًا عامًّا، ثم يحدد بنفسه الخطوات اللازمة لتحقيقه.
وهنا تظهر منطقة رمادية بين عدة أطراف: المستخدم الذي منح الوكيل الصلاحيات، ومطور النموذج الذي صمم النظام، والشركة التي توفر المنصة، ومزود الخدمة الذي يتيح تنفيذ الإجراء.
فإذا اتخذ الوكيل قرارًا خاطئًا نتيجة تفسير غير دقيق لتعليمات المستخدم، فهل تقع المسؤولية على المستخدم؟
وإذا كان الخطأ ناتجًا عن خلل في تصميم النظام أو غياب آلية تحقق مناسبة، فهل تصبح المسؤولية على الشركة المطورة أو المشغلة؟
الصلاحية تعني المسؤولية
يرى خبراء التقنية والحوكمة أن المشكلة الأساسية لا تكمن فقط في قدرة الوكيل على ارتكاب الأخطاء، فالخطأ جزء متوقع من أي نظام معقد، وإنما في حجم الصلاحيات التي تمنح له قبل وقوع الخطأ.
فكلّما انتقل الوكيل من تقديم التوصيات إلى تنفيذ عمليات ذات أثر مباشر، يصبح من الضروري أن تتناسب صلاحياته مع مستوى المخاطر.
فالوكيل الذي يستطيع اقتراح مطعم لا يحتاج إلى مستوى الحماية نفسه الذي يحتاجه وكيل يستطيع إجراء عملية شراء أو تعديل عقد أو إرسال تعليمات ملزمة.
ويعني ذلك ضرورة بناء أنظمة تتدرج فيها الصلاحيات، بحيث تتطلب الإجراءات عالية المخاطر تأكيدًا بشريًّا صريحًا، بينما يمكن ترك الإجراءات البسيطة والمنخفضة المخاطر للوكيل بصورة أكثر استقلالية.
من يتحمل تكلفة الخطأ؟
قد تكون الإجابة مختلفة باختلاف طبيعة الخطأ والاختصاص القانوني.
فقد يتحمل المستخدم جزءًا من المسؤولية إذا منح الوكيل صلاحيات واسعة دون رقابة، بينما قد تتحمل الشركة المطورة أو المشغلة المسؤولية إذا ثبت وجود خلل يمكن توقعه أو قصور في إجراءات الأمان والتحقق.
لكن السيناريو الأكثر تعقيدًا يظهر عندما لا يكون الخطأ نتيجة أمر مباشر من المستخدم أو عيب واضح في البرمجيات، بل نتيجة سلسلة من القرارات التي اتخذها الوكيل لتحقيق هدف عام.
في هذه الحالة، يصبح من الصعب تحديد نقطة القرار التي بدأ عندها الخطأ، ومن ثم تحديد الطرف الذي يجب أن يتحمل تبعاته.
سجل قرارات الوكيل
أمام هذه الإشكالية، تبرز الحاجة إلى تطوير مفهوم أكثر وضوحًا للمساءلة داخل أنظمة الوكلاء الأذكياء.
ومن بين الأدوات الممكنة وجود سجل قابل للمراجعة يوثق الإجراءات التي اتخذها النظام، والصلاحيات التي استخدمها، والمعلومات التي استند إليها، والتحقق الذي أجراه قبل التنفيذ.
ووجود مثل هذا السجل لا يمنع الخطأ، لكنه يمكن أن يجيب عن سؤال بالغ الأهمية بعد وقوعه، وهو لماذا فعل الوكيل ما فعله؟
كما يمكن أن يساعد هذا النوع من التوثيق المستخدمين والشركات والجهات التنظيمية في تحديد المسؤولية، وتحسين الأنظمة، ومنع تكرار الأخطاء.
التحدي المقبل
يمثل انتقال الذكاء الاصطناعي من الإجابة إلى التصرف مرحلة جديدة في العلاقة بين الإنسان والآلة.
فكلما زادت استقلالية الوكيل، لم تعد جودة الإجابة وحدها معيارًا كافيًا لتقييم النظام. والمعيار الجديد سيكون قدرة النظام على التصرف بأمان، ضمن حدود واضحة، وبصلاحيات قابلة للتتبع والمراجعة.
وفي النهاية، لا يكفي أن نسأل ما إذا كان الوكيل الذكي قادرًا على تنفيذ المهمة، بل ماذا يحدث إذا أخطأ؟ ومن يتحمل النتيجة؟
ففي عالم تتولى فيه الأنظمة الذكية تنفيذ قرارات نيابة عن البشر، يجب ألا تكون القدرة على الفعل أكبر من القدرة على تحديد المسؤولية.
وإلا فإننا قد نصل إلى مرحلة تستطيع فيها الآلة اتخاذ القرار، بينما لا يعرف الإنسان من سيدفع ثمنه.
الرجاء الانتظار ...
التعليقات