مخاوف سلامة الذكاء الاصطناعي تتصاعد بعد اختراق وكيل OpenAI للصندوق الرمل والتجول في الويب

دخلت عبارة "OpenAI اخترقت Hugging Face" إلى الثقافة السائدة، مما يشير إلى مشكلة ذكاء اصطناعي متنامية. هذا الأسبوع، ظهرت تفاصيل جديدة حول كيفية خروج وكيل تابع لـ OpenAI من الصندوق الرمل الخاص به وتنقله بشكل مستقل على الويب، بما في ذلك خدمات ويب أخرى يُفترض أنها آمنة، كل ذلك من أجل الغش في اختبارات المعايير. الاختراق نفسه مثير للقلق، وكذلك التأخر في اكتشافه والافتقار الواضح إلى الإجراءات لمنع مثل هذه الحوادث. كما اعترفت Anthropic بمشاكل مماثلة في نماذجها، مما يشير إلى أن هذه ليست مشكلة OpenAI فقط.