OpenAIs erster eigener Chip schlägt Nvidia beim Strom

OpenAI hat am 25. August 2026 an der Hot-Chips-Konferenz in Stanford die ersten gemessenen Benchmarks für «Jalapeño» vorgelegt – den ersten selbst entworfenen Inferenz-Chip des Unternehmens, gemeinsam mit Broadcom entwickelt. Auf dem öffentlichen InferenceX-Benchmark der Analysefirma SemiAnalysis liefert Jalapeño laut OpenAI 1,5 bis 1,9 Mal mehr KI-Arbeit pro Watt und 1,7 bis 3,6 Mal tiefere Antwortzeiten als die aktuell besten kommerziell verfügbaren Systeme – gemessen gegen Nvidias Blackwell-Generation. Dass ein Chip der ersten Generation etablierte Hardware schlägt, ist in der Halbleiterbranche die grosse Ausnahme.

Inferenz heisst: Der Chip lässt fertig trainierte KI-Modelle laufen, er trainiert sie nicht. Genau dort entstehen die laufenden Kosten – jede ChatGPT-Antwort, jeder API-Aufruf, jeder Agenten-Schritt.

Neun Monate vom Reissbrett in die Fabrik

Jalapeño wurde erst im Juni 2026 überhaupt angekündigt. Der Designstart lag Mitte 2024, das Tape-out – der Moment, in dem der fertige Entwurf zur Fertigung geht – im November 2025. OpenAI beziffert die Spanne vom ersten Chip-Design bis zum fertigen Blueprint auf neun Monate. Für einen Hochleistungs-ASIC ist das brutal schnell.

Geholfen haben dabei die eigenen Modelle. Ältere Generationen unterstützten den Entwurf, neuere die Optimierung. Konkret nennt OpenAI 8 Prozent weniger Fläche bei den SIMD-Einheiten und 10 Prozent bei der Matrix-Engine. Für ausgewählte Bausteine von GPT-OSS liefen KI-geschriebene Kernel 1,5 bis 1,8 Mal schneller als die Varianten menschlicher Experten.

Warum Watt die neue Währung ist

Die entscheidende Kennzahl ist nicht Leistung pro Chip, sondern Leistung pro Watt. SemiAnalysis begründet das nüchtern: Rechenzentren sind heute durch verfügbaren Strom limitiert, nicht durch Budget oder Fläche. Neue GPUs lassen sich schneller beschaffen als neue Netzanschlüsse.

Jalapeño ist mit 700 Watt spezifiziert, im Test blieb der Verbrauch bei 550 Watt oder darunter. Die Vergleichssysteme GB200 und GB300 liegen bei 1'200 respektive 1'400 Watt. Getestet wurde auf drei offenen Modellen: GPT-OSS 120B, DeepSeek R1 670B und Kimi K2.5 1T. Auf GPT-OSS erreichte der Chip rund 1'459 Token pro Sekunde und Nutzer, bei DeepSeek R1 über 700 Token pro Sekunde bei einer einzelnen Anfrage.

«The bottom line is that the results show a very, very significant performance advance over state of the art.» – Richard Ho, Head of Hardware bei OpenAI, in einem Presse-Call

Bemerkenswert: Jalapeño schafft das ohne Multi-Token-Prediction und ohne spekulatives Decoding – zwei gängige Beschleunigungstricks, die einige Vergleichssysteme sehr wohl nutzten. Da liegt also noch Luft drin.

Der CUDA-Burggraben bekommt Risse

SemiAnalysis-CEO Dylan Patel ordnet es so ein: «Usually first generation chips aren't competitive, but OpenAI is beating Nvidia Blackwell and even Rubin.» Die Analysten halten den Blackwell-Vergleich selbst für unfair – der richtige Gegner sei Nvidias neuere Vera-Rubin-Plattform, weil beide HBM4-Speicher nutzen. Auch dort liegt Jalapeño bei den Ausgabe-Token pro Megawatt vorn; bei den Gesamtbetriebskosten pro Token sind beide etwa gleichauf.

Der eigentliche Sprengsatz steckt in der Software. Nvidias Vorsprung beruhte jahrelang auf CUDA – dem Ökosystem, das jeder Konkurrent erst nachbauen muss. OpenAI brachte drei nicht eingeplante Open-Weight-Modelle in zwei Monaten mit Codex auf Tempo. SemiAnalysis' Fazit: «The CUDA moat is potentially dead given how fast OpenAI can bring up new models on their silicon.»

Was die Zahlen nicht zeigen

Die Skepsis gehört dazu. Alle Messwerte stammen von OpenAI selbst; SemiAnalysis hat einzelne Läufe vor Ort im Labor nachvollzogen, aber nicht die volle Benchmark-Suite gefahren. Getestet wurde nur ein vergleichsweise einfaches 8k/1k-Profil, nicht die mehrstufigen Langkontext-Lasten, die echte Agenten erzeugen. Nvidia und AMD haben längst Resultate auf grösseren Modellen publiziert, die auf Jalapeño noch gar nicht laufen. Und der wichtigste Punkt: Vera-Rubin-Systeme werden bereits an Kunden ausgeliefert, während Jalapeño über Engineering-Samples nicht hinaus ist. Richard Ho rechnet mit einem Deployment «in sehr kleinen Stückzahlen» Ende 2026, ernsthaft erst 2027.

Lugano rechnet mit sieben Megawatt

Für dich in der Schweiz ist die Energie-Rechnung der interessante Teil. Der nationale Supercomputer Alps am CSCS in Lugano – jene Maschine, auf der ETH und EPFL das Schweizer Sprachmodell Apertus trainiert haben – zieht im Schnitt rund sieben Megawatt. Das entspricht dem Verbrauch von 10'000 Schweizer Haushalten, wie der Nachhaltigkeitsforscher Vlad Coroama gegenüber SWI swissinfo vorgerechnet hat; der Strom kommt laut CSCS ausschliesslich aus Wasserkraft. Ein Zwei-Rack-System mit 128 Jalapeño-Chips zieht demgegenüber etwa 160 Kilowatt.

Rechenzentren stossen auch hierzulande an Netz- und Bewilligungsgrenzen, und Schweizer Strom ist nicht billig. Wenn pro Kilowattstunde mehr Token herausfallen, verschiebt das die Wirtschaftlichkeit jeder KI-Anwendung – auch der Schweizer. OpenAI-Finanzchefin Sarah Friar argumentiert genau so: Effizienzgewinne senken die Kosten pro erfolgreichem Resultat, und die zahlst du am Ende in der API-Rechnung.

Gen 2 ist laut OpenAI bereits weit in der Entwicklung, Gen 3 nimmt Form an. Nvidia bleibt vorerst Lieferant und Partner – aber der Preisdruck hat gerade einen Namen bekommen.