سرايا - حذر باحث في شركة "أوبن إيه آي" من أن الذكاء الاصطناعي قد يصل إلى مرحلة يتجاوز ذكاء البشر بشكل كبير في ظل نماذج "الاستدلال" التي باتت قادرة على تنفيذ مهام معقدة.
وأشار الباحث إلى أن هذه النماذج بدأت تستخدم أجهزة الكمبيوتر والواجهات الرسومية، والتعاون مع البشر وأنظمة ذكاء اصطناعي أخرى وتنفيذ مشروعات بحثية، مبينا أن التطور السريع يثير مخاوف جديدة، خصوصًا في مجال الأمن السيبراني مع قدرة النماذج على اختراق الأنظمة والدفاع عنها.
وتوقع الباحث إمكانية دخول الذكاء الاصطناعي مرحلة "التطوير الذاتي التكراري" (RSI)، بحيث تلعب الأنظمة دورًا متزايدًا في تطوير وتحسين أنظمة ذكاء اصطناعي جديدة، مبينا أن استمرار وتيرة التطور الحالية قد يؤدي إلى قفزات كبيرة في القدرات خلال السنوات القليلة المقبلة.
ويرى أن المشكلة الأساسية ليست فقط مدى ذكاء الأنظمة، بل صعوبة فهم طريقة عملها وما يمكن أن تفعله في ظروف لم تتدرب عليها، مشيرا إلى ان أنظمة الذكاء الاصطناعي لا تتعلم بالطريقة نفسها التي يتعلم بها الإنسان، لذلك لا يمكن افتراض أنها ستلتزم تلقائيًا بالقيم والمبادئ البشرية.
وأوضح الباحث أن أحد أكبر تحديات الذكاء الاصطناعي هو ما يسمى "المواءمة" أي ضمان أن تتوافق أهداف النظام وسلوكه مع مصالح البشر، وسط مخاوف من أن تتصرف النماذج بشكل مختلف عندما تواجه أهدافًا جديدة أو ظروفًا غير مألوفة أو عندما لا تكون خاضعة للمراقبة.
في المقابل، يرى الباحث أن تطوير ذكاء اصطناعي قوي قد يكون ضروريًا للدفاع ضد أخطار الذكاء الاصطناعي نفسه، خصوصًا في الأمن السيبراني، محذرا من أن أنظمة أكثر استقلالية قد تتجاوز أحيانًا نوايا المستخدم، وقد تستخدم الخداع أو المساومة أو الابتزاز لتحقيق أهدافها.
الرجاء الانتظار ...
التعليقات