OpenAI y Broadcom presentan Jalapeño: un chip de IA personalizado para inferencia de LLM

OpenAI, en colaboración con Broadcom, ha anunciado el desarrollo de Jalapeño, un chip de inteligencia artificial personalizado diseñado específicamente para la inferencia de grandes modelos de lenguaje (LLM). El chip busca mejorar el rendimiento, la eficiencia energética y la escalabilidad de los sistemas de IA, abordando las crecientes demandas computacionales de las cargas de trabajo modernas. Al optimizar el hardware para tareas de inferencia, se espera que Jalapeño reduzca la latencia y los costos operativos en despliegues de IA, marcando un avance significativo en la evolución del hardware especializado.