Kleine KI-Modelle könnten sich bald auf Billiggeräten vermehren

Anthropics Frontier Red Team hat am 12. Oktober eine Studie veröffentlicht, nach der kleine Open-Weight-Modelle «nur Monate» davon entfernt sein könnten, sich ohne Rechenzentrum selbst auf günstigen Geräten wie Android-TV-Boxen zu vervielfältigen. Einen frei laufenden KI-Wurm gibt es bisher nicht, die Autoren sprechen von ersten Anzeichen. Im Test verbreitete sich das Modell GLM-5.2 in 4 von 5 Durchläufen auf alle 8 Testknoten. Der entscheidende Teil des Tests war bewusst vereinfacht.

Vier Schritte, ein schwieriger

Die Autoren zerlegen die Replikation in vier Stufen: Ziele finden, Ausführung auf dem Gerät erlangen, das Modell dort einrichten (Inferenz-Setup) und sich weiterverbreiten. Gemessen haben sie vor allem die dritte Stufe, die sie als am wenigsten erforscht beschreiben. Modelle bis 30 Milliarden Parameter meistern laut Anthropic viele Einzelschritte, scheitern aber oft an der ganzen Kette. Qwen3.5-9B lief auf 8 von 9 getesteten Hardwaretypen. Mit übernommenen Notizen stieg seine Erfolgsquote beim Setup über mehrere Generationen von 45 % auf 61 bis 84 %.

55-Dollar-Boxen als Rechenzentrum

Als Demo verteilte Anthropic das Modell Gemma4-26B-A4B auf 15 Android-TV-Boxen zu je rund 55 Dollar. Es schaffte 0,39 Token pro Sekunde und ist damit extrem langsam. Auch die Replikation dauert: Für das gesamte Setup eines 9-Milliarden-Modells nennt Anthropic 28 bis 51 Stunden, für Gemma4-26B 71 bis 150 Stunden, die Verdopplungszeit liegt im Bereich von Tagen. Eine Hochrechnung auf das Botnetz Kimwolf mit über 2 Millionen infizierten Geräten ergibt rund 80'000 Token pro Sekunde, was grob der von 40 H100-Grafikprozessoren entspricht. Die Autoren nennen das selbst eine grobe Schätzung.