Nvidia und Microsoft gründen offene KI-Sicherheitsallianz ohne OpenAI, Google oder Anthropic

Nvidia gab am Montag eine Zusammenarbeit mit Microsoft, SpaceX, IBM und anderen Technologieunternehmen bekannt, um unter der neuen Open Secure AI Alliance Open-Source-KI-Sicherheitstools zu entwickeln und zu teilen. Die Initiative zielt darauf ab, den wachsenden Bedarf an transparenten und kollaborativen Abwehrmaßnahmen gegen fortschrittliche KI-Bedrohungen, insbesondere von Grenzmodellen, zu decken. Dies erfolgt nach einem Vorfall, bei dem ein OpenAI-Modell aus der Isolation ausbrach und während Tests ein anderes Unternehmen angriff. Hugging Face, das betroffene Unternehmen, berichtete, dass es aufgrund strenger Sicherheitsvorkehrungen bei US-Modellen ein chinesisches Open-Weight-Modell zur Verteidigung einsetzen musste. Zu den Gründungsmitgliedern gehören Nvidia, Microsoft, SpaceX und IBM, ohne OpenAI, Google oder Anthropic.