Nvidias schnellstes offenes Modell läuft auf einer einzigen GPU

Nvidia hat am 11. August 2026 Nemotron 3.5 Lightning veröffentlicht, ein offenes Sprachmodell mit rund 30 Milliarden Parametern, von denen pro Anfrage nur etwa 3 Milliarden aktiv sind. Beim unabhängigen Messdienst Artificial Analysis erreicht es 24 Punkte im Intelligence Index – exakt gleich viel wie OpenAIs gpt-oss-120b, das mit 117 Milliarden Parametern fast viermal so gross ist. Und laut dem Modellsteckbrief auf Hugging Face genügt für den Betrieb eine einzige GPU: eine H100 im Rack oder ein DGX Spark auf dem Pult.

Ein Viertel der Parameter, dieselbe Punktzahl

Möglich macht das eine Mixture-of-Experts-Architektur – vereinfacht gesagt schickt ein Router jedes Token nur an wenige Spezialisten im Modell, statt jedes Mal das ganze Netzwerk zu rechnen. Das Ergebnis ist vor allem Tempo: Artificial Analysis misst rund 481 Token pro Sekunde – Platz eins unter 134 verglichenen Modellen. Auch bei Agenten-Aufgaben, also Arbeit über viele selbstständige Schritte hinweg, zieht Lightning an. Auf GDPval-AA v2 erreicht es eine Elo-Wertung von 824 gegenüber 800 bei gpt-oss-120b; bei Terminal-Bench v2.1 liegt es mit 24,3 Prozent knapp dahinter (26,2 Prozent).

Was «eine GPU» für ein Schweizer KMU heisst

Das Modell steht unter der permissiven Lizenz OpenMDW-1.1; Firmen dürfen es laut CNBC herunterladen, anpassen und weiterverteilen, ohne Nvidia zu fragen und ohne zu zahlen. Die Modellkarte hält ausdrücklich fest: bereit für den kommerziellen Einsatz.

Wer heute Kunden-, Personal- oder Mandatsdaten durch eine Cloud-KI schickt, braucht einen Auftragsbearbeitungsvertrag und muss die Bekanntgabe ins Ausland prüfen. Läuft das Modell im eigenen Serverraum, verlassen die Daten das Haus gar nicht erst. Neu ist nicht die Idee, neu ist ihr Preis: Es braucht kein GPU-Cluster mehr, sondern eine Karte – Nvidia nennt neben H100 und DGX Spark auch die GeForce RTX 5090 sowie LM Studio, llama.cpp und Ollama. Das Kontextfenster liegt bei einer Million Token; Deutsch, Französisch und Italienisch sind unterstützt, Bilder und Audio nicht. Wer lieber mietet: Über Serverless-Anbieter kostet die Million Input-Token im Median 5 Cent, die Million Output-Token 20 Cent.

Warum Nvidia Modelle verschenkt

Es ist Nvidias erstes offenes Modell, seit Konzernchef Jensen Huang Ende Juli erstmals auf X für offene Gewichte eintrat – sie stärkten Sicherheit, beschleunigten Innovation und ermöglichten Souveränität, schrieb er laut CNBC in einem offenen Brief. Das Geschäftsinteresse liegt zutage: Auch ein verschenktes Modell braucht Grafikkarten. «Free AI should be great for hardware», sagte Huang im Juli gegenüber Axios. «Free AI should be great for chips.»

Schnell heisst nicht klug

Der Haken: Lightning ist nicht das klügste Modell seiner Klasse. Laut The Decoder liegen Qwen3.6 35B A3B und Metas Muse Glimmer im Intelligence Index klar vorne. Nvidia positioniert Lightning bewusst als Arbeiter, nicht als Denker: Werkzeuge aufrufen, Ergebnisse prüfen, Ausgaben formatieren – während ein grösseres Modell plant. Für die meisten KMU-Anwendungen ist genau das der Teil, der laufend Geld kostet.