التكاليف الخفية للتبني السريع للذكاء الاصطناعي
من أكثر المخاوف إلحاحًا ظهور "الذكاء الاصطناعي الخفي"، وهو استخدام أدوات الذكاء الاصطناعي دون موافقة تنظيمية صريحة. يحذر فرق الأمن من أن هذا الاستخدام غير المصرح به يمكن أن يعرض الكود المملوك والبيانات الحساسة لخدمات خارجية. تُظهر التقارير الحديثة، بما في ذلك تحقيق أجرته مايكروسوفت حول برنامج MacSync Stealer الضار، أن المهاجمين يستغلون بالفعل سير عمل المطورين. هذا البرنامج الضار، الذي يتم توزيعه عبر مساعدي برمجة مزيفين يعتمدون على الذكاء الاصطناعي، يسرق بيانات الاعتماد والكود المصدري، مما يثبت أن مشهد التهديدات يتطور جنبًا إلى جنب مع الأدوات.
في الوقت نفسه، تتجه المؤسسات بشكل متزايد إلى نماذج الذكاء الاصطناعي مفتوحة المصدر بدلاً من النماذج المتطورة. الدافع واضح: إبقاء البيانات المملوكة داخل حدود الشركة. من خلال استضافة نماذج مثل Llama أو Mistral ذاتيًا، يمكن للشركات ضبطها على مجموعات البيانات الداخلية دون إرسال المعلومات إلى واجهات برمجة التطبيقات الخارجية. يخفف هذا النهج من مخاطر تسرب البيانات، لكنه يتطلب استثمارات كبيرة في البنية التحتية وخبرات متخصصة.
هناك قضية حاسمة أخرى وهي تراكم الديون التقنية الناجمة عن الذكاء الاصطناعي. عندما يقبل المطورون الكود المولد بالذكاء الاصطناعي بشكل أعمى، فقد يقدمون أخطاء دقيقة أو ثغرات أمنية أو تناقضات معمارية. يقترح محللون من 36Kr أن تضع الفرق مقاييس صارمة لقياس الصحة طويلة الأجل لقواعد الأكواد الخاصة بها. بدون هذه الضمانات، قد تقابل السرعة المكتسبة من الذكاء الاصطناعي بتكاليف إعادة عمل باهظة وأعباء صيانة.
بينما تتنقل المؤسسات في هذا المجال الجديد، فإن الإجماع واضح: يجب أن يكون تبني الذكاء الاصطناعي استراتيجيًا وليس رد فعل. إن وضع حوكمة واضحة، والاستثمار في الأمن، والحفاظ على عمليات مراجعة صارمة للكود هي أمور ضرورية لجني فوائد الذكاء الاصطناعي مع تخفيف مخاطره.
التعليقات
لا توجد تعليقات بعد.