لماذا تهمّ الرقابة على مستوى العتاد
مع اكتساب وكلاء الذكاء الاصطناعي قدرات تصفح الويب وتنفيذ الأكواد وإدارة الملفات والتفاعل مع واجهات برمجية خارجية، يتصاعد خطر الإجراءات غير المقصودة أو الضارة. ويمكن تجاوز البيئات البرمجية المعزولة أو إبطاؤها بواسطة النماذج نفسها التي يُفترض أن تحتويها. وتقلب Sentry هذه المعادلة بوضع آلية التنفيذ على مستوى السيليكون، حيث تستطيع العمل باستقلال عن بيئة تشغيل الوكيل. ووفقاً لتغطية موقع The Decoder، تريد إنفيديا إبقاء وكلاء الذكاء الاصطناعي في نطاق ضيق عبر حارس مدمج في الشرائح بدلاً من الاعتماد على حواجز خارجية فقط.
وتشير تقارير tech-insider.org إلى أن Sentry قادر على إيقاف وكيل منحرف في أجزاء من الثانية، وهي سرعة بالغة الأهمية حين تنفذ عملية مستقلة عشرات القرارات كل ثانية. وبالنسبة للمؤسسات التي تنشر وكلاء في قطاعات المال والصحة والبنية التحتية، فإن هامش الاستجابة هذا يفرّق بين خلل محتوى وحادث مكلف. ولم تنشر إنفيديا بعد مواصفات تقنية كاملة، لكن التوجه يرسم مستقبلاً يعمل فيه كل وكيل ذكاء اصطناعي إلى جانب دائرة إشراف مخصصة.
والمنطق الاستراتيجي واضح. فإنفيديا تهيمن أصلاً على سوق مسرّعات الذكاء الاصطناعي، وإضافة طبقة أمان تمنح العملاء سبباً إضافياً للبقاء داخل منظومتها. وإذا بدأ المنظمون يطالبون بضوابط قابلة للتحقق للأنظمة المستقلة، فقد يتحول الحارس على مستوى الشريحة إلى متطلب امتثال لا رفاهية. وسيمنح ذلك إنفيديا نفوذاً في الصفقات التي يوافق عليها الفريق القانوني وفريق المخاطر، لا المهندسون فقط.
مستقبل الذكاء الاصطناعي الوكيلي
يأتي الإعلان في وقت تنتقل فيه الصناعة من روبوتات المحادثة إلى وكلاء يتصرفون بمفردهم. ورهان إنفيديا أن الاستقلالية لن تتوسع إلا إذا وثق المستخدمون في قدرة العتاد على التدخل. ومن المتوقع أن يرد المنافسون بسيليكون أمان خاص بهم، وأن تطالب المؤسسات بضمانات قابلة للقياس لا بدرجات اختبارات فقط. وفي الوقت الحالي، تمثل Sentry إشارة: المعركة المقبلة في الذكاء الاصطناعي لن تتعلق بذكاء الوكلاء فحسب، بل بمن يستطيع إيقافهم.
التعليقات
لا توجد تعليقات بعد.