OpenAIs erster eigener Inferenzbeschleuniger verbindet zwei Experimente. Der gemeinsam mit Broadcom entwickelte Jalapeño soll zeigen, ob ein Labor mit genauer Kenntnis seiner Modelllasten diese auf Spezialhardware effizienter bedienen kann. Die gemeldete Entwicklungszeit von neun Monaten prüft zugleich, ob dieselben Modelle die Entwicklung der Hardware für ihre Nachfolger beschleunigen.
Der Chip existiert: Laut OpenAI erreichten Muster die vorgesehenen Frequenz- und Leistungsziele und führten im Labor maschinelle Lernaufgaben aus. Das größere Ergebnis steht noch aus. Ausgewählte Herstellervergleiche, begrenzte anfängliche Nutzung und eine überarbeitete Siliziumversion zeigen, wie weit funktionsfähige Muster noch von einer verlässlichen Produktionsflotte entfernt sind.
Ein Prozessor für wiederkehrende Inferenz
OpenAI und Broadcom stellten Jalapeño im Juni 2026 als erste Generation einer geplanten Plattform vor. OpenAI lieferte Architektur und Lastwissen; Broadcom übernahm die Siliziumimplementierung und brachte Netzwerktechnik einschließlich Tomahawk ein. Die Arbeitsteilung verbindet Modellbetrieb mit einem erfahrenen Anbieter kundenspezifischer Chips. Sie macht OpenAI nicht zu einem vollständig unabhängigen Halbleiterhersteller.
Inferenz bedeutet, ein bereits trainiertes Modell auszuführen. ChatGPT-Antworten, API-Anfragen, Programmiersitzungen und Agenten beanspruchen fortlaufend Speicher, Rechenleistung und Netzwerk. Ein Agent, der Alternativen untersucht oder mehrere Modellaufrufe ausführt, benötigt möglicherweise wesentlich mehr Inferenzarbeit als eine kurze Antwort. OpenAI kann diese Muster in seinen Produkten beobachten und Hardware, Rechenkerne und Serving-Software darauf abstimmen.
Jalapeño soll unnötige Datenbewegungen reduzieren und Rechnen, Speicher und Netzwerk ausbalancieren. Ein Kernel ist eine Softwareroutine für eine wiederkehrende Beschleunigeroperation. Die passenden Einheiten kontinuierlich mit Daten zu versorgen, kann wichtiger sein als zusätzliche ungenutzte Rechenwerke. Die behauptete Nähe zur theoretischen Spitzenleistung muss deshalb an vollständigen Arbeitslasten geprüft werden, nicht nur anhand maximaler Spezifikationen.
Hardware-Vizepräsident Richard Ho nannte auf der Hot Chips 2026 eine Leistungsangabe von 700 Watt. Bei getesteten Lasten lag der gemessene Dauerverbrauch Berichten zufolge höchstens bei 550 Watt; das garantiert keinen entsprechenden Wert unter allen Bedingungen. Ein Rack enthält 128 Beschleuniger, ein Pod 2.048 ASICs. Genannt wurden 27,5 Terabyte HBM4 je Rack, 15,4 Terabyte pro Sekunde Speicherbandbreite je Package und 1,7 Exaflops Vier-Bit-Rechenleistung pro Rack.
Die Grenzen dieser Zahlen unterscheiden sich. Rackspeicher ist kein Speicherwert pro Chip, und Spitzenleistung mit geringer Präzision ist keine Erfolgsquote einer Anwendung. Ein sinnvoller Vergleich muss Modellqualität, Latenz, Konfiguration und Leistungsaufnahme gemeinsam berücksichtigen.
Was die ausgewählten Vergleiche zeigen
OpenAI testete GPT-OSS-120B, DeepSeek R1 und Kimi K2.5 von Moonshot AI. Fremde Modelle auszuführen, spricht gegen die engste Befürchtung, dass die Architektur nur ein proprietäres OpenAI-Modell unterstützt. Es belegt weder Kompatibilität mit jeder künftigen Architektur noch eine Migration ohne Entwicklungsaufwand.
Das Unternehmen meldete bei ausgewählten Vergleichen mit Konkurrenzplattformen das 1,5- bis 1,9-Fache der Arbeitsmenge der Vergleichssysteme bei Spitzenlast und geringere Latenzen. Die Berichterstattung nennt Nvidia GB200 NVL72 und GB300 NVL72 sowie die InferenceX-Methodik von SemiAnalysis. Modellauswahl, Präzision, Batchgröße, Latenzziel und Softwarestand beeinflussen das Ergebnis. Es handelt sich um OpenAIs Messungen, nicht um eine unabhängig reproduzierte allgemeine Rangliste.
OpenAI erklärte, endgültige Messungen liefen noch, und kündigte ausführlichere technische Ergebnisse an. Im dauerhaften Flottenbetrieb kommen Fertigungsstreuung, Netzüberlastung, Reparaturen, Verfügbarkeit und schwankende Auslastung hinzu. Ein Laborvorteil zeigt nicht, wie häufig ein Dienst ihn unter realen Anfragen erreicht.
Auch die erste Generation wurde nach dem anfänglichen Silizium überarbeitet. Laut Berichten verbesserte das B0-Stepping die Leistung pro Watt gegenüber A0 um bis zu 25 Prozent. Ein Stepping ist eine Designrevision. Solche Revisionen sind normal, verdeutlichen aber den Unterschied zwischen schnellem Tape-out und optimiertem Produktionsteil. Der Gewinn darf nicht einfach zu einem anderen Benchmark unter abweichenden Bedingungen addiert werden.
Neun Monate vom RTL-Entwurf bis zum Tape-out
Ho beschrieb neun Monate vom anfänglichen Register-Transfer-Level-Entwurf bis zum Tape-out. RTL beschreibt Logik und Datenbewegung; beim Tape-out geht der fertige Entwurf in die Fertigung. Der Zeitraum umfasst nicht sämtliche Arbeiten für Entwicklung, Herstellung und Bereitstellung einer ganzen Rechenplattform.
Als historischen Vergleich nannte er etwa 18 Monate bis zwei Jahre für leistungsfähige ASICs, auch bei wiederverwendetem geistigem Eigentum. OpenAI startete ohne eine geerbte interne Beschleunigerarchitektur. Das ist bemerkenswert, bleibt aber die gemeldete Zeitspanne eines Teams und kein kontrollierter Nachweis, dass KI allein sämtliche Chipentwicklungszeiten halbiert.
Interne Modelle, darunter Codex und aufeinanderfolgende Modellgenerationen, halfen bei Code, Fehlersuche, Entwurfsvarianten, Validierung und Kerneloptimierung. Erfahrene Ingenieure führten die Arbeit und nutzten etablierte Werkzeuge zur Electronic Design Automation. Prüfungen von Timing, Signalintegrität und anderen physikalischen Eigenschaften blieben erforderlich. Ein Sprachmodell entwarf und zertifizierte den Chip nicht unbeaufsichtigt.
Die Modelle selbst verbesserten sich während des Projekts. Für spätere Kernelarbeit standen leistungsfähigere Hilfen bereit als am Anfang. Das kann Iterationen verkürzen, erschwert aber die Übertragung einer festen Produktivitätszahl auf andere Vorhaben.
OpenAI vermied in der ersten Generation neue Techniken wie 3D-Stapelung und Co-Packaged Optics, um Integrationsrisiken zu begrenzen. Der Zeitplan gilt folglich für einen bestimmten technischen Umfang. Spätere Ergänzungen können Packaging-, Prüf- und Lieferabhängigkeiten schaffen, die schnellere Codegenerierung nicht beseitigt. Maschinelles Lernen im Chipentwurf ist zudem älter als dieses Projekt; neu ist vor allem der beanspruchte breite Einsatz innerhalb des eigenen Hardwareprogramms eines Modelllabors.
Spezialhardware braucht weiterhin mehrere Lieferanten
Nvidias Plattform bietet Flexibilität, ausgereifte Bibliotheken, Netzwerke und Entwicklungswerkzeuge für Training, Inferenz und wissenschaftliches Rechnen. Jalapeño verfolgt ein engeres Ziel und erhofft sich dafür höhere Effizienz bei gut bekannten OpenAI-Lasten. Das lohnt nur, wenn die Annahmen trotz neuer Modellstrukturen, Zahlenformate und Serving-Verfahren tragfähig bleiben.
OpenAI benötigt weiterhin Nvidia, AMD, Cerebras und andere Anbieter. Jalapeño ersetzt nicht die Hardware für das Training von Frontier-Modellen; der Gesamtbedarf übersteigt die Kapazität eines einzelnen Chipprogramms. Der glaubwürdige Wettbewerbseffekt wäre die Verlagerung eines erheblichen wiederkehrenden Inferenzanteils, nicht die vollständige Abschaffung zugekaufter Beschleuniger.
Frühe Systeme verwenden AMD EPYC Turin als Host-CPU. Ho begründete dies pragmatisch mit Plattformreife und Partnererfahrung; Nvidias Vera galt damals als weniger ausgereifte eigenständige Host-Option. Das ist eine zeitplanabhängige Bauteilentscheidung, kein Beweis dauerhafter CPU-Überlegenheit.
Googles TPU-Geschichte, Amazons Inferentia und Trainium, Microsofts Maia sowie Metas interne Prozessoren zeigen, weshalb große vorhersehbare Lasten eigene Chips rechtfertigen können. OpenAI besitzt genaue Modell- und Produktkenntnis, aber keine ebenso lang etablierte Cloud-Chiporganisation. Broadcom hilft, diese industrielle Lücke zu schließen.
Fertigung, Packaging, HBM, Platinen, Firmware, Netzwerkausrüstung und Racks müssen dennoch zusammenkommen. Compiler, Fehlersuche und Kernelportierung müssen Modellwechsel ohne unvertretbare Qualitätsänderungen ermöglichen. Kontrolle über die Architektur bedeutet nicht Kontrolle über jeden Engpass.
Entscheidend sind echte Anfragen
Der damals angekündigte Plan sah begrenzte Einführung 2026 und größere Kapazität 2027 vor. Jalapeño ist für interne Nutzung gedacht. Ho ließ eine spätere breitere Verfügbarkeit offen, doch OpenAI erwartete, den absehbaren Nachschub selbst zu benötigen. Das beschränkt unabhängigen Zugang und die Reproduzierbarkeit der Vergleiche.
Als Nächstes zählen der tatsächliche Arbeitslastanteil, Auslastung, Zuverlässigkeit und Modellabdeckung, nicht nur installierte Chipzahlen. Ein ausführlicher Bericht muss Effizienz unter gleichen Qualitäts- und Latenzanforderungen messen. Die bereits weit entwickelte zweite Generation und die Planung einer dritten werden zeigen, ob das erste Programm wiederverwendbare Entwicklungskompetenz geschaffen hat.
Kunden dürften Veränderungen zunächst über Dienstlatenz, Kapazität und API-Wirtschaftlichkeit erleben, nicht durch den Kauf eines Chips. Jalapeños strategische Bedeutung hängt von dauerhaft nutzbarer Leistung ab. Funktionsfähiges Silizium und KI-gestützte Entwicklung machen diesen Test plausibel; sie nehmen sein Ergebnis nicht vorweg.
Quellen
OpenAI-Ankündigung · Rack-Spezifikationen · TPU-Studie · Designinterview mit Ho · Technische Wissensbasis · KI-gestützter Chipentwurf · Branchenvergleich