يجري سباق غير معتاد داخل أكبر مختبرات الذكاء الاصطناعي: سباق لإثبات أي نموذج يمثل أخطر تهديد للبشرية. وتشير شبكة CNN إلى أن الآباء يواجهون خوفاً جديداً، وهو احتمال أن ينهي الذكاء الاصطناعي الحياة البشرية قبل أن يكبر أطفالهم. ولم يعد هذا القلق حصراً على الخيال العلمي، بل أصبح يشكّل استراتيجيات الشركات ومحادثات العائلات على حد سواء.
من ملاحقة الذكاء البشري إلى الخوف منه
تشير صحيفة تايمز أوف إنديا إلى أن OpenAI وAnthropic أمضتا سنوات في السعي وراء ذكاء بمستوى بشري، وربما صارتا الآن تخشيان ما أنجزتاه. فكل إصدار جديد من النماذج يأتي مصحوباً بإفصاحات أمنية مطولة ونتائج اختبارات اختراق وتحذيرات من إساءة الاستخدام. وهذه الشفافية، رغم قيمتها، تحوّل تقييم المخاطر إلى مشهد علني يستقطب فيه السيناريو الأكثر إثارة للقلق أكبر قدر من الاهتمام.
أما استجابة Nvidia فجاءت عملية لا فلسفية. فوفقاً لقناة CTV News، كشفت الشركة المصنّعة للرقائق عن منصة أمنية تهدف إلى منع وكلاء الذكاء الاصطناعي من الخروج عن السيطرة بعد عدة حوادث مقلقة. وتدل هذه الخطوة على أن القطاع بات يعامل الوكلاء المستقلين كخطر تشغيلي واقعي لا افتراضي.
مشكلة هندسية أم أمر أكثر تعقيداً؟
يرى جنسن هوانغ أن أمن الذكاء الاصطناعي هو أساساً مسألة هندسية قابلة للحل بأدوات أفضل واختبارات صارمة. لكن الأدلة التي قدمتها OpenAI توحي بصورة أكثر تعقيداً. ويشير موقع 24/7 Wall St. إلى أن سلوك النماذج قد يتغير بطرق غير متوقعة، وأن الضمانات الفعّالة في المختبر قد تفشل في الواقع.
وبالنسبة لقادة التقنية، فإن المخاطر ملموسة. فكل ادعاء أمني يتحول إلى حجة تسويقية، وكل حادثة تصبح دراسة حالة. ويراقب المنظمون في مناطق عدة هذه التطورات عن كثب، بينما يوازن المستثمرون بين المخاطر السمعة ووعد القدرات الثورية. والنتيجة ديناميكية غريبة تتنافس فيها الشركات على الظهور بوصفها مسؤولة، وعلى الظهور بوصفها خطيرة بما يكفي لتؤخذ على محمل الجد.
وما سيحدث لاحقاً يتوقف على قدرة القطاع على تحويل التحذيرات إلى ضمانات قابلة للقياس. ويُنتظر متابعة أدوات Nvidia الأمنية الجديدة، وبطاقات النماذج المحدّثة من OpenAI وAnthropic، وأي استجابة تنظيمية خلال الأشهر المقبلة.
التعليقات
لا توجد تعليقات بعد.