النجاح الإخباري - أثارت استقالة باحث في شركة الذكاء الاصطناعي الأميركية Anthropic وتحذيراته العلنية من مخاطر تطوير أنظمة قادرة على تحسين نفسها، جدلًا واسعًا داخل قطاع التكنولوجيا، بعدما اتهم شركتي Anthropic وOpenAI بالتسابق نحو تطوير ما وصفه بـ"الذكاء الفائق القادر على تحسين نفسه"، محذرًا من أن هذا المسار قد يشكل خطرًا غير مسبوق على البشرية.
وأعلن الباحث جاكوب كوكسون، الذي قال إنه أمضى السنوات الثلاث الماضية في أبحاث التدريب المسبق لنماذج الذكاء الاصطناعي لدى OpenAI وAnthropic، استقالته من Anthropic في منشور عبر منصة "إكس"، قائلًا إن الشركتين "لا تتصرفان بمسؤولية"، وإنهما "تتسابقان مباشرة نحو ذكاء فائق قادر على تحسين نفسه، وتقامران بحياتنا".
وقال كوكسون إن على الجمهور ألا يقلل من قدرات هذه التكنولوجيا، متوقعًا أن تصل الأنظمة مستقبلًا إلى مستويات تتجاوز القدرات البشرية في مجالات عدة، بما في ذلك اختراق الأنظمة، واكتساب الموارد والنفوذ، وإحداث تحولات سريعة في مجالات مختلفة.
مخاوف من فقدان السيطرة
لم يقتصر تحذير كوكسون على قدرات الذكاء الاصطناعي الحالية، بل ركز بصورة أساسية على احتمال ظهور أنظمة قادرة على تحسين قدراتها ذاتيًا بوتيرة تتجاوز قدرة البشر على فهمها والسيطرة عليها.
وقال إن العاملين في تطوير الذكاء الاصطناعي "يعتقدون بجدية" أن هذه التكنولوجيا قد تقتل البشر جميعًا بحلول نهاية العقد، مؤكدًا أن هذا التحذير، من وجهة نظره، ليس حملة تسويقية.
وانتقد كوكسون اختلاف ثقافة السلامة بين الشركتين، معتبرًا أن المخاطر في OpenAI لم تُستوعب بما يكفي على مستوى المؤسسة، بينما قال إن المخاطر مفهومة بصورة أكبر داخل Anthropic، لكن الشركة -بحسب رأيه- عالقة في سباق للوصول إلى هذه التكنولوجيا أولًا، خشية أن يسبقها منافسون لا يتعاملون معها بالقدر نفسه من الحذر.
باحث حالي في Anthropic يؤيد التحذير
واكتسبت تصريحات كوكسون أهمية أكبر بعدما أيده إيفان هوبينغر، الذي يعمل في مجال أبحاث المواءمة في Anthropic، وهي الأبحاث المعنية بجعل سلوك أنظمة الذكاء الاصطناعي متوافقًا مع الأهداف والقيم البشرية.
وقال هوبينغر، في منشور على "إكس"، إن الباحثين "يعتقدون بجدية" أن الذكاء الاصطناعي قد يقتل جميع البشر، مضيفًا أنه يقدّر شخصيًا احتمال حدوث ذلك خلال العقد المقبل بأكثر من 10%.
وشدد هوبينغر على أن هذا تقديره الشخصي وليس توقعًا رسميًا من شركة Anthropic، كما أوضح أن المخاطر التي تمثلها النماذج الموجودة حاليًا منخفضة من وجهة نظره، وأن مصدر قلقه الأساسي يتمثل في احتمال تطور أنظمة مستقبلية قادرة على تحسين نفسها بصورة متقدمة.
وقال أيضًا إن Anthropic تحاول معالجة المشكلة، لكنها "لا تملك حتى الآن خطة لحل مشكلة المواءمة للذكاء الفائق"، وليست -بحسب تقييمه- على مسار واضح لتحقيق ذلك.
لماذا يثير "الذكاء الفائق" كل هذه المخاوف؟
يقصد بالذكاء الفائق، في هذا السياق، أن تصل أنظمة الذكاء الاصطناعي إلى مستوى يتجاوز القدرات البشرية بصورة واسعة في مختلف المجالات، فيما تتمثل إحدى أكثر المخاوف إثارة للجدل في احتمال أن تتمكن هذه الأنظمة مستقبلًا من تحسين قدراتها بنفسها.
ويتمحور ما يعرف بـ"مشكلة المواءمة" حول كيفية ضمان بقاء أهداف وسلوك أنظمة الذكاء الاصطناعي المتقدمة متوافقة مع المصالح والقيم البشرية، حتى مع ازدياد قدراتها واستقلاليتها.
ولا تعني تحذيرات الباحثين أن الأنظمة الحالية قادرة على إبادة البشرية، إذ تتعلق التقديرات المطروحة أساسًا بأنظمة مستقبلية أكثر قدرة، ولا تمثل تنبؤًا علميًا محسومًا بشأن مصير البشرية.
حوادث تعيد مخاوف السلامة إلى الواجهة
تأتي هذه التحذيرات في وقت تواجه فيه شركات الذكاء الاصطناعي تدقيقًا متزايدًا بشأن سلوك النماذج المستقلة.
ونشرت Anthropic، في 9 سبتمبر/أيلول، تقييمًا للمواءمة تناول أربع حوادث وصلت فيها نماذج Claude إلى أنظمة حقيقية تابعة لجهات خارجية دون تصريح، موضحة أنها اكتشفت هذه الحالات من خلال مراجعة واسعة لسجلات الاختبارات والتقييمات، وأنها أخطرت الجهات المتضررة.
كما أشارت تقارير صحفية إلى حوادث أخرى مرتبطة بأنظمة الذكاء الاصطناعي، من بينها وصول نماذج إلى أنظمة خارج بيئات الاختبار، ما زاد المخاوف بشأن قدرة الشركات على ضمان بقاء الوكلاء الذكيين ضمن الحدود الموضوعة لهم.
لكن هذه الوقائع لا تعني بحد ذاتها أن الذكاء الاصطناعي أصبح قادرًا على السيطرة على البشر أو القضاء عليهم، وإنما تعكس تحديات عملية في ضبط الأنظمة ذات القدرات المتزايدة، وهي نقطة تقع في قلب الجدل الحالي حول سلامة الذكاء الاصطناعي.
Anthropic: نعمل على السلامة
وردًا على الجدل، قالت متحدثة باسم Anthropic إن الشركة كانت شفافة منذ فترة طويلة بشأن فوائد الذكاء الاصطناعي ومخاطره، وإنها تعمل على تطوير نماذج تتضمن بعض أقوى إجراءات الحماية في القطاع.
وأضافت الشركة أنها ترى أن العالم سيستفيد من اعتماد شركات الذكاء الاصطناعي آلية قانونية وقابلة للتحقق للتعاون في تحديد وتيرة إطلاق النماذج القوية.
ولم ترد OpenAI، في التقارير التي تناولت تصريحات كوكسون، فورًا على طلبات التعليق بشأن انتقاداته.
من التحذير إلى الدعوة لتغيير المسار
وتعكس استقالة كوكسون جدلًا أوسع داخل قطاع الذكاء الاصطناعي بشأن التوازن بين تسريع تطوير النماذج المتقدمة وضمان سلامتها.
ويرى مؤيدو تشديد الرقابة أن السباق بين الشركات والدول لتطوير أنظمة أكثر قدرة قد يدفع الصناعة إلى إطلاق قدرات جديدة قبل امتلاك وسائل كافية لفهمها والسيطرة عليها، بينما تؤكد شركات الذكاء الاصطناعي أهمية تطوير التكنولوجيا بالتوازي مع أبحاث السلامة والمواءمة.
وبينما تبقى احتمالات السيناريوهات القصوى محل خلاف واسع بين الباحثين، فإن خروج باحث عمل في شركتين من أبرز مختبرات الذكاء الاصطناعي، وتأييد باحث حالي في Anthropic لبعض مخاوفه، يسلطان الضوء على سؤال بات يحتل موقعًا متقدمًا في النقاش العالمي: هل تستطيع البشرية تطوير ذكاء اصطناعي أكثر قدرة من دون أن تفقد قدرتها على فهمه والسيطرة عليه؟
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
GPT-6 Astra isn’t just for chatting. People are using it to build games, automate trading, create content and make real money. 10 ways you can use Astra to start making money today. https://t.co/57O2UF2Wqc
— Rahul (@sairahul1) September 9, 2026
