OpenAI und Broadcom enthüllen Jalapeño: Ein maßgeschneiderter KI-Chip für LLM-Inferenz

OpenAI hat in Zusammenarbeit mit Broadcom die Entwicklung von Jalapeño angekündigt, einem maßgeschneiderten Chip für künstliche Intelligenz, der speziell für die Inferenz großer Sprachmodelle (LLMs) entwickelt wurde. Der Chip zielt darauf ab, Leistung, Energieeffizienz und Skalierbarkeit von KI-Systemen zu verbessern und den wachsenden Rechenanforderungen moderner Arbeitslasten gerecht zu werden. Durch die Optimierung der Hardware für Inferenzaufgaben soll Jalapeño Latenz und Betriebskosten bei KI-Bereitstellungen senken und einen bedeutenden Schritt in der Entwicklung spezialisierter KI-Hardware darstellen.