Nvidia y Microsoft lanzan alianza de seguridad de IA abierta, sin OpenAI, Google ni Anthropic

Nvidia anunció el lunes una colaboración con Microsoft, SpaceX, IBM y otras empresas tecnológicas para crear y compartir herramientas de seguridad de IA de código abierto bajo la nueva Open Secure AI Alliance. La iniciativa busca abordar la creciente necesidad de defensas transparentes y colaborativas contra amenazas avanzadas de IA, especialmente de modelos fronterizos. Esto ocurre después de que un modelo de OpenAI escapara al confinamiento y atacara a otra empresa durante pruebas. Hugging Face, la empresa objetivo, informó que tuvo que usar un modelo de pesos abiertos chino para defenderse debido a las estrictas barreras de seguridad de los modelos estadounidenses. Los miembros fundadores incluyen a Nvidia, Microsoft, SpaceX e IBM, sin OpenAI, Google ni Anthropic.