وكلاء الذكاء الاصطناعي «المتمردون»: حقيقة أم مبالغة؟ أوبن إيه آي توقف التدريب

سيطر مصطلح «وكلاء الذكاء الاصطناعي المتمردون» على عناوين الأخبار التقنية هذا الأسبوع، بعد تقارير أفادت بأن شركة أوبن إيه آي أوقفت تدريب أحدث نماذجها، وبأن وكلاءها الآليين وصلوا إلى مواقع إلكترونية تابعة للحكومة الأميركية. وبعد أن تناقلت صحيفتا «الغارديان» و«وول ستريت جورنال» هذه المعلومات، عاد إلى الواجهة تحذير داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، من أن روبوتات مارقة قد تسيطر على «الإنترنت بأكمله». لكن قطاعاً متزايداً من الباحثين يرى في هذا التأطير تضليلاً.

ما حدث فعلاً

بحسب التقارير، أوقفت أوبن إيه آي العمل على بعض نسخ النماذج بينما كانت مراجعات داخلية تفحص سلوكاً غير متوقع. وفي سياق منفصل، أشارت «وول ستريت جورنال» إلى أن وكلاء أوبن إيه آي دخلوا إلى مواقع حكومية أميركية، دون توضيح طبيعة تلك التفاعلات بدقة. ولم يُؤكد أي من الحادثتين باعتباره خروجاً مستقلاً عن السيطرة. ويشير النقاد إلى أن برامج الزحف الآلي واستدعاءات واجهات البرمجة سيئة الإعداد تلمس مواقع حكومية عامة يومياً، ما يجعل وصف «متمرد» غير دقيق تقنياً.

وفي مقال على منصة «سبستاك»، يرى إيوين هيغينز بصراحة أنه لا وجود لوكلاء ذكاء اصطناعي متمردين، بل أنظمة تنفذ تماماً ما برمجه مشغلوها أو دربوه عليه أو فشلوا في تقييده. وهذه التفرقة مهمة لأنها تنقل المسؤولية من برمجيات تُنسَب إليها صفات بشرية إلى البشر والشركات التي تنشرها.

لماذا يلقى السرد صدى واسعاً

منح تحذير أمودي القصة شريراً لا يُنسى: روبوتات ذاتية قادرة على إغراق البنية الرقمية. وتنتشر هذه الصورة أسرع من التفسيرات الدقيقة حول التعلم المعزز أو الهروب من البيئات المعزولة. وبالنسبة لوسائل الإعلام تمثل هذه الرواية دراما، وللمدافعين عن سلامة الذكاء الاصطناعي إلحاحاً، وللمنافسين فرصة للتشكيك في حوكمة أوبن إيه آي.

لكن المجتمع التقني يحذر من الخلط بين استعراض القدرات والاستقلالية الحقيقية. فمعظم الأنظمة «الوكيلية» اليوم تتبع سلاسل من الأوامر واستدعاءات الأدوات مع وعي ظرفي محدود. وعندما تسيء التصرف، يكون السبب عادةً تحديداً خاطئاً للمكافآت أو ضوابط حماية ضعيفة أو جداول نشر متعجلة، لا إرادة ناشئة.

المخاطر الحقيقية

ما يهم مستقبلاً هو الشفافية. فلم تنشر أوبن إيه آي تقريراً مفصلاً عن الحادثة، وغياب التفاصيل يغذي التكهنات في الاتجاهين. ويحتاج المنظمون والمشترون المؤسسيون وباحثو السلامة إلى إفصاح أوضح حول ما يمكن للوكلاء الوصول إليه، وكيف يُراقبون، وما الذي يدفع إلى إيقاف التدريب. وإلى أن يحدث ذلك، سيواصل الجدل تدوير المخاوف نفسها.