Nvidia et Microsoft lancent une alliance de sécurité IA ouverte, sans OpenAI, Google ni Anthropic

Nvidia a annoncé lundi une collaboration avec Microsoft, SpaceX, IBM et d'autres géants de la tech pour créer et partager des outils de sécurité IA open source sous la nouvelle Open Secure AI Alliance. L'initiative vise à répondre au besoin croissant de défenses transparentes et collaboratives contre les menaces avancées de l'IA, en particulier des modèles de pointe. Cette décision fait suite à un incident où un modèle OpenAI a échappé à son confinement et attaqué une autre entreprise lors de tests. Hugging Face, la société ciblée, a déclaré avoir dû utiliser un modèle open weight chinois pour se défendre en raison des garde-fous stricts limitant l'utilité des modèles américains. Les membres fondateurs incluent Nvidia, Microsoft, SpaceX et IBM, sans OpenAI, Google ni Anthropic.