سرايا - لم يكتفِ الباحث البريطاني جاكوب كوكسون، 27 عامًا، بتقديم استقالته من شركة أنثروبيك (Anthropic) بهدوء يوم الثلاثاء الماضي، بل اختار أن يودّع 3 سنوات من العمل في أبحاث "التدريب المسبق" للنماذج -موزعة بين أوبن إيه آي (OpenAI) وأنثروبيك- بتغريدات مقتضبة نشرها في التاسع من سبتمبر الجاري على منصة إكس، حملت اتهامًا مباشرًا لكلتا الشركتين بعدم التصرف بمسؤولية، وبأنهما "تندفعان مباشرة نحو ذكاء اصطناعي فائق قادر على تحسين نفسه ذاتيًا، مراهنتين بحياتنا جميعًا".
"انفجار الذكاء"
كما أوضح في مقابلة مع شبكة " سي بي إس نيو"ز (CBS News) أن "المشكلة الأساسية تكمن في وجود سباق من الأساس" بين شركات الذكاء الاصطناعي. وأكد أن كثيرين ممن بقوا داخل الشركات "يشاركون نية فعل الخير حقًا"، لكنهم محاصرون بخوفهم من تفوق المنافسين عليهم.
كذلك تحدث عن المثال الأوضح الذي يثبت وجود تهديد فعلي للبشر، مستعينا بواقعة حقيقية لشرح موقفه. وقال في مقابلة أخرى أيضا على "سي أن أن" أول أمس أن "أسهل طريقة لفهمه هي التفكير في أحداث واقعية حدثت قبل شهرين؛ حيث قامت وكلاء الذكاء الاصطناعي التابعة لأوبن إيه آي باختراق بنية تحتية لجهة خارجية من تلقاء نفسها". وحذّر مما وصفه بـ "انفجار الذكاء"، حين يتولى النظام تطوير قدراته ذاتيًا دون أي تدخل بشري.
لكن رغم قتامة السيناريوهات التي طرحها، أوضح كوكسون في حديثه أن الأنظمة الحالية "لا تشكل خطرًا بهذا المستوى"، وأن ما يقلقه ليس الاستخدام الفردي اليومي، بل غياب تشريعات تُلزم جميع الشركات بمعايير أمان موحدة.
أصوات من الداخل تؤيده
أما ما رفع القصة فوق مستوى الاستقالات المعتادة هو تأييد باحثين ما زالوا على رأس عملهم داخل أنثروبيك لمضمون كلامه. فقد كتب إيفان هوبينجر (Evan Hubinger)، قائد أبحاث "المحاذاة" في الشركة، في رد مباشر على حساب كوكسون: "جاكوب محق.. نحن نعتقد بصدق أن الذكاء الاصطناعي قد يقتل كل البشر. أرى شخصيًا أن الاحتمال يتجاوز 10% خلال العقد القادم. وأعتقد أن أنثروبيك تبذل قصارى جهدها، لكننا لا نملك بعد خطة لحل مشكلة المحاذاة مع الذكاء الفائق، ولسنا على مسار واضح لذلك".
أما زميله صامويل ماركس (Samuel Marks)، فنقلت عنه تقارير صحفية متابعة للواقعة أن تقنيات "المحاذاة" الحالية لا توفر بعد وسيلة موثوقة لضمان التزام الأنظمة المتقدمة بالسلوك المقصود باستمرار.
في المقابل، ردّت أنثروبيك في بيان رسمي أكدت فيه أنها كانت "دائمًا شفافة" بشأن أن الذكاء الاصطناعي "سيجلب فوائد هائلة ومخاطر غير مسبوقة"، مشيرة إلى أنها أول شركة تنشر إطارًا عامًا لمعالجة المخاطر الكارثية المحتملة لنماذجها، وأنها تواصل اختبار أنظمتها في مجالات حساسة كالأمن السيبراني والأبحاث البيولوجية.
يذكر أن كوكسون تنازل عن أسهمه في أنثروبيك قبل أسابيع قليلة من الطرح العام الأولي المرتقب للشركة، بينما احتفظ بحصته في أوبن إيه آي. وقال إن خطوته التالية ستكون التفرغ للكتابة والتنبؤ بمسارات تطور هذه التقنية، داعيًا جيل الطلاب المتابعين له إلى المطالبة بـ"شفافية الأبحاث" بدل إبقائها حبيسة الشركات المغلقة.
العربية
"انفجار الذكاء"
كما أوضح في مقابلة مع شبكة " سي بي إس نيو"ز (CBS News) أن "المشكلة الأساسية تكمن في وجود سباق من الأساس" بين شركات الذكاء الاصطناعي. وأكد أن كثيرين ممن بقوا داخل الشركات "يشاركون نية فعل الخير حقًا"، لكنهم محاصرون بخوفهم من تفوق المنافسين عليهم.
كذلك تحدث عن المثال الأوضح الذي يثبت وجود تهديد فعلي للبشر، مستعينا بواقعة حقيقية لشرح موقفه. وقال في مقابلة أخرى أيضا على "سي أن أن" أول أمس أن "أسهل طريقة لفهمه هي التفكير في أحداث واقعية حدثت قبل شهرين؛ حيث قامت وكلاء الذكاء الاصطناعي التابعة لأوبن إيه آي باختراق بنية تحتية لجهة خارجية من تلقاء نفسها". وحذّر مما وصفه بـ "انفجار الذكاء"، حين يتولى النظام تطوير قدراته ذاتيًا دون أي تدخل بشري.
لكن رغم قتامة السيناريوهات التي طرحها، أوضح كوكسون في حديثه أن الأنظمة الحالية "لا تشكل خطرًا بهذا المستوى"، وأن ما يقلقه ليس الاستخدام الفردي اليومي، بل غياب تشريعات تُلزم جميع الشركات بمعايير أمان موحدة.
أصوات من الداخل تؤيده
أما ما رفع القصة فوق مستوى الاستقالات المعتادة هو تأييد باحثين ما زالوا على رأس عملهم داخل أنثروبيك لمضمون كلامه. فقد كتب إيفان هوبينجر (Evan Hubinger)، قائد أبحاث "المحاذاة" في الشركة، في رد مباشر على حساب كوكسون: "جاكوب محق.. نحن نعتقد بصدق أن الذكاء الاصطناعي قد يقتل كل البشر. أرى شخصيًا أن الاحتمال يتجاوز 10% خلال العقد القادم. وأعتقد أن أنثروبيك تبذل قصارى جهدها، لكننا لا نملك بعد خطة لحل مشكلة المحاذاة مع الذكاء الفائق، ولسنا على مسار واضح لذلك".
أما زميله صامويل ماركس (Samuel Marks)، فنقلت عنه تقارير صحفية متابعة للواقعة أن تقنيات "المحاذاة" الحالية لا توفر بعد وسيلة موثوقة لضمان التزام الأنظمة المتقدمة بالسلوك المقصود باستمرار.
في المقابل، ردّت أنثروبيك في بيان رسمي أكدت فيه أنها كانت "دائمًا شفافة" بشأن أن الذكاء الاصطناعي "سيجلب فوائد هائلة ومخاطر غير مسبوقة"، مشيرة إلى أنها أول شركة تنشر إطارًا عامًا لمعالجة المخاطر الكارثية المحتملة لنماذجها، وأنها تواصل اختبار أنظمتها في مجالات حساسة كالأمن السيبراني والأبحاث البيولوجية.
يذكر أن كوكسون تنازل عن أسهمه في أنثروبيك قبل أسابيع قليلة من الطرح العام الأولي المرتقب للشركة، بينما احتفظ بحصته في أوبن إيه آي. وقال إن خطوته التالية ستكون التفرغ للكتابة والتنبؤ بمسارات تطور هذه التقنية، داعيًا جيل الطلاب المتابعين له إلى المطالبة بـ"شفافية الأبحاث" بدل إبقائها حبيسة الشركات المغلقة.
العربية
شارك المقال:
الرجاء الانتظار ...
التعليقات