قامت الدراسة، التي حللت الوثائق العامة للعديد من مختبرات الذكاء الاصطناعي الرائدة، بتحليل الوثائق العامة للعديد من المختبرات الرائدة، ووجدت أن هذه المنظمات غالبًا ما تناقش السلامة بعبارات عامة، ولكنها نادرًا ما تحدد الخطوات الملموسة التي ستتخذها إذا بدأ نموذج في التصرف خارج المعايير المخصصة له. هذا الغموض مثير للقلق بشكل خاص لأن نماذج الذكاء الاصطناعي أظهرت بالفعل قدرات ناشئة — مهارات لم يبرمجها منشئوها صراحة — والتي قد يكون من الصعب التنبؤ بها أو التحكم فيها.
لماذا تعتبر خطط الاحتواء مهمة
يشير الاحتواء إلى الإجراءات التي قد تنفذها المنظمة لمنع نظام الذكاء الاصطناعي من التسبب في ضرر، سواء عن طريق إيقاف تشغيله، أو عزله عن البنية التحتية الحيوية، أو تقييد وصوله إلى أدوات معينة. بالنسبة للمختبرات الرائدة، هذه الخطط ليست مجرد تمارين نظرية؛ إنها ضمانات أساسية يمكن أن تحدد الفرق بين خلل بسيط وحادث كبير.
يجادل مؤلفو الدراسة بأن الشفافية العامة في هذا المجال ضرورية لعدة أسباب. أولاً، تسمح للباحثين المستقلين والجهات التنظيمية بتقييم كفاية تدابير السلامة. ثانيًا، تعزز ثقة الجمهور في تطوير الذكاء الاصطناعي، وهو أمر ضروري للنشر المسؤول لهذه التقنيات. أخيرًا، تشجع ثقافة المساءلة، مما يدفع المختبرات إلى تنفيذ الخطط التي تدعي امتلاكها فعليًا.
على الرغم من هذه الفوائد، وجدت الدراسة أن معظم المختبرات لم تنشر بروتوكولات احتواء مفصلة. نشرت بعض المختبرات مبادئ سلامة عامة أو التزمت بعمليات تدقيق خارجية، لكن هذا أقل من الخطط الشاملة والتفصيلية التي يرى الخبراء أنها ضرورية.
تأتي هذه النتائج في وقت تتقدم فيه قدرات الذكاء الاصطناعي بسرعة، ويزداد احتمال حدوث عواقب غير مقصودة. من وكلاء مستقلين يمكنهم التنقل على الويب إلى نماذج لغوية يمكنها توليد معلومات مضللة مقنعة، فإن المخاطر حقيقية ومتعددة الأوجه. بدون استراتيجيات احتواء واضحة، قد تكون الصناعة غير مستعدة للسيناريوهات التي تخشاها أكثر من غيرها.
مع اشتداد الجدل حول تنظيم الذكاء الاصطناعي، تذكرنا الدراسة بأن السلامة يجب أن تكون أكثر من مجرد حديث. يجب أن تكون التزامًا ملموسًا وقابلاً للتنفيذ. يقع العبء على المختبرات الرائدة لفتح كتبها وإظهار العالم بالضبط كيف ستتعامل مع نموذج خارج عن السيطرة — قبل أن تجبرها الظروف على ذلك.
التعليقات
لا توجد تعليقات بعد.