Nvidia PAIR verteilt lokale KI-Jobs über dein ganzes Netzwerk

Nvidias Demo zeigt, wofür das gut ist. Eine Agenten-Anwendung zerlegt eine Aufgabe in fünf Teilaufgaben, jede davon ein eigener Modellaufruf. Auf einem einzelnen RTX-Spark-Laptop dauerte der Durchlauf mit dem Modell Qwen 3.6 35B A3B im Schnitt 18 Minuten. Ein Verbund aus drei Geräten — Laptop, DGX Spark und eine RTX 5090 — brauchte im Schnitt 8 Minuten und 48 Sekunden.

Bemerkenswert ist, wie klar Nvidia diese Zahl selbst relativiert:

Unofficial, configuration-specific demonstration. Results depend on workload parallelism, model, engine settings, hardware, network, and node availability. This is not a universal benchmark.

Das ist ungewöhnlich ehrlich für eine Produktankündigung — und der Grund, warum du die Halbierung nicht als Faustregel mitnehmen solltest.

Was PAIR ausdrücklich nicht kann

Hier liegt der wichtigste Punkt, und er wird in der Berichterstattung gerne verschluckt. PAIR bündelt keinen Grafikspeicher. Es verschmilzt keine GPUs zu einer grossen, es zerlegt kein Modell über mehrere Maschinen und es teilt keine laufende Anfrage auf. Jede Anfrage landet auf genau einem Gerät und bleibt dort.

Konkret heisst das: Dein grösstes ausführbares Modell wird durch PAIR kein Stück grösser. Es bleibt durch die stärkste einzelne Maschine begrenzt. Für typische Consumer-Karten mit 12 bis 24 GB Speicher bewegst du dich damit weiterhin im Bereich quantisierter Modelle zwischen 7 und rund 35 Milliarden Parametern. Und weil ein Gerät nur dann in Frage kommt, wenn das exakt angefragte Modell dort auch liegt, musst du dasselbe Modell auf mehreren Maschinen vorhalten, damit der Verteiler überhaupt Auswahl hat.

Auch das Bild vom «Mini-Rechenzentrum» stammt nicht von Nvidia. Im technischen Blog steht wörtlich das Gegenteil: Ein Heim-Cluster sei eben kein Miniatur-Rechenzentrum, weil Laptops schlafen, Geräte das Netz verlassen und der Gaming-PC seine GPU jederzeit selbst braucht. PAIR ist genau um diese Unzuverlässigkeit herum gebaut.

Für wen sich das im Schweizer Alltag rechnet

Nvidias Produktmanager Seth Schneider nennt gegenüber The Verge das realistische Szenario: ein Laptop plus ein Gaming-PC. Kein Serverschrank im Keller.

Damit wird die Zielgruppe recht scharf. Interessant ist PAIR für Büros, die ohnehin schon lokal arbeiten — Anwaltskanzleien, Treuhandbüros, Arztpraxen, Ingenieurbüros mit Kundendaten unter Berufsgeheimnis oder mit besonders schützenswerten Personendaten nach revidiertem DSG. Wer aus solchen Gründen ohnehin nicht in eine Cloud-API schreiben darf, hat bereits zwei, drei potente Rechner herumstehen und holt mit PAIR mehr aus ihnen heraus, ohne neue Hardware zu kaufen. Nvidia formuliert die Datenschutz-Zusage übrigens bewusst vorsichtig: Prompts und Antworten sollen im lokalen Netz bleiben — vorausgesetzt, Client, Modellquelle, Engine und alle Geräte sind tatsächlich lokal.

Gratis ist die Software, kostenlos ist der Betrieb nicht: Strom, Wartung, Modellpflege auf mehreren Maschinen und ein Stück Netzwerk-Administration kommen dazu. Wer nur gelegentlich eine einzelne Frage an ein Modell schickt, gewinnt gar nichts — bei rein sequenziellen Aufgaben oder einem einzigen langen Modellaufruf bringt Verteilen definitionsgemäss keine Zeit. Der Nutzen entsteht erst dort, wo viele unabhängige Anfragen gleichzeitig anstehen.

So testest du es sinnvoll: nicht mit dem Gefühl, sondern mit der Job-Ansicht in PAIR. Sie zeigt, welcher Rechner welche Anfrage tatsächlich bearbeitet hat. Erst wenn dort Jobs auf mehreren Geräten auftauchen, arbeitet dein Netzwerk wirklich verteilt.