IBM veröffentlicht Granite 4.2 in den Grössen 3B, 8B und 30B unter Apache 2.0 – frei herunterladbar, feintunebar, produktiv einsetzbar. Klein genug fürs eigene Rechenzentrum.
Kostenloses Erstgespräch — herstellerneutral, direkt aus dem Rheintal.
Offen lizenzierte Modelle in 3B-, 8B- und 30B-Grösse machen KI im eigenen Serverraum realistisch – für Betriebe mit Datenschutzauflagen ist genau das der eigentliche Gewinn.
IBM hat am 25. August 2026 die Sprachmodell-Familie Granite 4.2 veröffentlicht: drei Modelle mit 3, 8 und 30 Milliarden Parametern, allesamt unter der Apache-2.0-Lizenz. Heisst konkret: herunterladen, feintunen, produktiv einsetzen – ohne Lizenzgebühr und ohne Nutzungsbeschränkung. Laut IBM Research wurden die Modelle von Grund auf mit rund 15 Billionen Tokens trainiert und sind gezielt für KI-Agenten gebaut, also für Systeme, die Aufgaben nicht nur beschreiben, sondern selbst erledigen.
Jedes Granite-4.2-Modell lässt sich umschalten. Im Thinking-Modus schreibt es zuerst eine Gedankenkette – eine Art lautes Mitdenken, bevor die eigentliche Antwort kommt. Im Non-Thinking-Modus antwortet es direkt. Dazwischen sitzt ein Low-Effort-Modus, der bei einfachen Fragen nur ein kurzes Denkbudget verbraucht. Wer viele Anfragen verarbeitet, spart damit Rechenzeit und Strom.
Das Kontextfenster – die Textmenge, die ein Modell auf einmal überblickt – liegt laut IBM-Dokumentation bei 128'000 Tokens, beim 30B-Flaggschiff erweitert auf 512'000.
Die 8B- und die 30B-Variante durchlaufen zusätzlich eine Trainingsstufe, die IBM agentic RL nennt: Die Modelle üben in abgeschotteten Testumgebungen, echte Code-Repositories zu bearbeiten, ein Terminal zu bedienen und im Web zu recherchieren. Belohnt wird nur, wer die Aufgabe tatsächlich löst.
In IBMs eigenen Messungen erreicht das 30B-Modell auf SWE-Bench Verified – dort müssen echte Fehler in Software-Projekten behoben werden – 57,00, das 8B-Modell 47,67. Das 3B-Modell durchläuft diese Stufe nicht und wird dort gar nicht erst gemessen. Alle drei sprechen Werkzeuge im OpenAI-Format an und laufen auf den verbreiteten Servern vLLM und SGLang – gängige Agenten-Baukästen funktionieren also ohne Bastelei.
Am selben Tag kam Granite Speech 5.0 Turbo CTC dazu, ein Transkriptionsmodell mit nur 470 Millionen Parametern. IBM misst dafür einen Durchsatzwert (RTFx – wie viel Audio pro Sekunde Rechenzeit verarbeitet wird) von rund 12'600 auf einer einzelnen H200-Grafikkarte, während die bisherigen Geschwindigkeits-Spitzenreiter im Open ASR Leaderboard bei etwa 6'000 liegen. Drei Stunden Aufnahme seien damit in einer Sekunde transkribiert, schreibt IBM.
Für Schweizer Betriebe ist weniger die Benchmark-Tabelle interessant als die Lizenz. Ein 3B- oder 8B-Modell unter Apache 2.0 läuft auf eigener Hardware – im Serverraum der Klinik, der Gemeindeverwaltung oder des KMU. Wer Personendaten so verarbeitet, muss sie keinem Cloud-Anbieter anvertrauen; gerade bei Datenschutzauflagen ist das der praktische Unterschied.
Damit steht neben Apertus, dem offenen Schweizer Modell von EPFL, ETH Zürich und CSCS, eine weitere frei nutzbare Option – diesmal von einem Konzern, der seine Enterprise-Kundschaft gleich mitbringt. Herunterladen kannst du Granite 4.2 unter anderem über Hugging Face, Ollama und GitHub.