OpenAIs neue Sprachmodelle antworten schneller – und eines wird günstiger

OpenAI hat zwei neue Sprachmodelle für seine Realtime-API veröffentlicht: gpt-realtime-2.1 und gpt-realtime-2.1-mini. Beide sind dafür gemacht, dass Anwendungen in Echtzeit zuhören und antworten – also die Technik hinter Sprachassistenten, Telefon-Bots und Voice-Agenten.

Ein Viertel weniger Wartezeit

Der wichtigste Fortschritt ist Tempo. Laut OpenAI sinkt die sogenannte p95-Latenz – die Wartezeit, die 95 Prozent der Anfragen nicht überschreiten – über alle Realtime-Sprachmodelle hinweg um mindestens 25 Prozent. Möglich macht das ein verbessertes Caching, bei dem wiederkehrende Teile einer Anfrage zwischengespeichert statt jedes Mal neu berechnet werden. Für dich als Nutzer heisst das: Ein Sprach-Bot, der auf dieser Technik läuft, reagiert flüssiger und stockt seltener.

Das grosse Modell hört genauer zu

gpt-realtime-2.1 baut auf dem Vorgänger GPT-Realtime-2 auf und verbessert vor allem drei Dinge: Es erkennt Buchstaben- und Zahlenfolgen zuverlässiger – etwa wenn du eine Kundennummer oder ein Autokennzeichen diktierst –, geht besser mit Sprechpausen und Hintergrundgeräuschen um und lässt sich sauberer unterbrechen. Dazu kommt ein einstellbarer «Reasoning-Aufwand», also wie viel das Modell nachdenkt, bevor es antwortet, plus die Fähigkeit, externe Werkzeuge für komplexere Abläufe zu nutzen.

Die Sparvariante für den Massenbetrieb

Daneben steht gpt-realtime-2.1-mini: ein kleineres, schnelleres Modell für alle, die vor allem auf die Kosten achten. Der Preisunterschied ist deutlich. Während die grosse Version pro einer Million Audio-Token 32 Dollar für Eingaben und 64 Dollar für Ausgaben kostet, sind es bei der Mini-Variante nur 10 respektive 20 Dollar – also rund ein Drittel. Wer einen Voice-Agenten für viele gleichzeitige Gespräche baut, kann mit dem Mini-Modell kräftig sparen und die grosse Version für die kniffligen Fälle reservieren.

So kommst du dran

Beide Modelle sind ab sofort über die Realtime-API und den Playground von OpenAI verfügbar. Wer bereits eine Sprachanwendung auf GPT-Realtime-2 betreibt, kann in vielen Fällen einfach den Modellnamen austauschen – und profitiert sofort von der kürzeren Wartezeit.