Nvidia PAIR verteilt lokale KI-Jobs über dein ganzes Netzwerk

Nvidia hat an der IFA in Berlin ein Werkzeug veröffentlicht, das die Computer in deinem Netzwerk zusammenschaltet: den Personal AI Router, kurz PAIR. Er verteilt lokale KI-Anfragen auf alle Geräte, die gerade Kapazität haben. Die Beta ist seit dem 3. September gratis verfügbar, der Code liegt unter der Apache-Lizenz 2.0 auf GitHub.

Ein Verteiler, keine neue Engine

Der Name führt in die Irre: PAIR ist kein Hardware-Router, sondern Software, die zwischen deinen Anwendungen und den Rechnern sitzt. Ausgeführt werden die Modelle weiterhin von Ollama oder LM Studio — den beiden einzigen unterstützten Inferenz-Engines. PAIR stellt lokal einen Endpunkt bereit, der sich gegenüber deinen Tools wie ein gewöhnlicher Ollama- oder OpenAI-kompatibler Anschluss verhält. Deine Agenten merken nichts davon, dass die Antwort vielleicht vom Rechner im Nebenzimmer kommt.

Die Geräte finden sich per mDNS im Netz selbst, gekoppelt wird mit einem sechsstelligen Code, danach läuft der Verkehr verschlüsselt über mTLS (gegenseitig authentifizierte TLS-Verbindungen). Vor dem Pairing ist die Kommunikation zwischen den Geräten komplett blockiert.

Unterstützt werden laut Nvidia GeForce-RTX-Karten ab der 20er-Serie, RTX-PRO-Workstation-GPUs ab der Turing-Architektur, DGX-Spark-Systeme und Apple Silicon ab M4. Wichtig ist eine Fussnote aus dem Repository: Dass PAIR auf einer Maschine läuft, heisst noch nicht, dass dort auch eine Engine läuft. Engine und Modell stellen ihre eigenen Anforderungen an GPU, Treiber und Speicher.

18 Minuten gegen 8 Minuten 48

Nvidias Demo zeigt, wofür das gut ist. Eine Agenten-Anwendung zerlegt eine Aufgabe in fünf Teilaufgaben, jede davon ein eigener Modellaufruf. Auf einem einzelnen RTX-Spark-Laptop dauerte der Durchlauf mit dem Modell Qwen 3.6 35B A3B im Schnitt 18 Minuten. Ein Verbund aus drei Geräten — Laptop, DGX Spark und eine RTX 5090 — brauchte im Schnitt 8 Minuten und 48 Sekunden.

Bemerkenswert ist, wie klar Nvidia diese Zahl selbst relativiert:

Unofficial, configuration-specific demonstration. Results depend on workload parallelism, model, engine settings, hardware, network, and node availability. This is not a universal benchmark.

Das ist ungewöhnlich ehrlich für eine Produktankündigung — und der Grund, warum du die Halbierung nicht als Faustregel mitnehmen solltest.

Was PAIR ausdrücklich nicht kann

Hier liegt der wichtigste Punkt, und er wird in der Berichterstattung gerne verschluckt. PAIR bündelt keinen Grafikspeicher. Es verschmilzt keine GPUs zu einer grossen, es zerlegt kein Modell über mehrere Maschinen und es teilt keine laufende Anfrage auf. Jede Anfrage landet auf genau einem Gerät und bleibt dort.

Konkret heisst das: Dein grösstes ausführbares Modell wird durch PAIR kein Stück grösser. Es bleibt durch die stärkste einzelne Maschine begrenzt. Für typische Consumer-Karten mit 12 bis 24 GB Speicher bewegst du dich damit weiterhin im Bereich quantisierter Modelle zwischen 7 und rund 35 Milliarden Parametern. Und weil ein Gerät nur dann in Frage kommt, wenn das exakt angefragte Modell dort auch liegt, musst du dasselbe Modell auf mehreren Maschinen vorhalten, damit der Verteiler überhaupt Auswahl hat.

Auch das Bild vom «Mini-Rechenzentrum» stammt nicht von Nvidia. Im technischen Blog steht wörtlich das Gegenteil: Ein Heim-Cluster sei eben kein Miniatur-Rechenzentrum, weil Laptops schlafen, Geräte das Netz verlassen und der Gaming-PC seine GPU jederzeit selbst braucht. PAIR ist genau um diese Unzuverlässigkeit herum gebaut.

Für wen sich das im Schweizer Alltag rechnet

Nvidias Produktmanager Seth Schneider nennt gegenüber The Verge das realistische Szenario: ein Laptop plus ein Gaming-PC. Kein Serverschrank im Keller.

Damit wird die Zielgruppe recht scharf. Interessant ist PAIR für Büros, die ohnehin schon lokal arbeiten — Anwaltskanzleien, Treuhandbüros, Arztpraxen, Ingenieurbüros mit Kundendaten unter Berufsgeheimnis oder mit besonders schützenswerten Personendaten nach revidiertem DSG. Wer aus solchen Gründen ohnehin nicht in eine Cloud-API schreiben darf, hat bereits zwei, drei potente Rechner herumstehen und holt mit PAIR mehr aus ihnen heraus, ohne neue Hardware zu kaufen. Nvidia formuliert die Datenschutz-Zusage übrigens bewusst vorsichtig: Prompts und Antworten sollen im lokalen Netz bleiben — vorausgesetzt, Client, Modellquelle, Engine und alle Geräte sind tatsächlich lokal.

Gratis ist die Software, kostenlos ist der Betrieb nicht: Strom, Wartung, Modellpflege auf mehreren Maschinen und ein Stück Netzwerk-Administration kommen dazu. Wer nur gelegentlich eine einzelne Frage an ein Modell schickt, gewinnt gar nichts — bei rein sequenziellen Aufgaben oder einem einzigen langen Modellaufruf bringt Verteilen definitionsgemäss keine Zeit. Der Nutzen entsteht erst dort, wo viele unabhängige Anfragen gleichzeitig anstehen.

So testest du es sinnvoll: nicht mit dem Gefühl, sondern mit der Job-Ansicht in PAIR. Sie zeigt, welcher Rechner welche Anfrage tatsächlich bearbeitet hat. Erst wenn dort Jobs auf mehreren Geräten auftauchen, arbeitet dein Netzwerk wirklich verteilt.