Grok Build lud ganze Repos hoch – jetzt ist der Code offen

Ein Coding-Agent liest ein paar Dateien, schlägt Änderungen vor, fertig – so die Erwartung. Grok Build, der Terminal-Agent von xAI (das Unternehmen tritt inzwischen als SpaceXAI auf), hat stattdessen ganze Git-Repositories auf Server des Unternehmens geladen. Samt vollständiger Commit-History. Und samt Dateien, die der Agent nie geöffnet hat.

5 Gigabyte für 192 Kilobyte Arbeit

Aufgedeckt hat es ein Sicherheitsforscher, der unter dem Namen cereblab publiziert; The Hacker News hat die Analyse aufbereitet. Der Befund ist schwer wegzudiskutieren: Bei einem 12-GB-Repository flossen zum Modell selbst rund 192 Kilobyte – zu einem separaten Speicher-Endpunkt aber 5,10 Gibibyte. Ein Faktor von rund 27'800. Ziel war ein Google-Cloud-Bucket mit dem Namen grok-code-session-traces.

Ein Nutzer berichtete auf X, er habe den Befehl in seinem Home-Verzeichnis ausgeführt – hochgeladen worden seien SSH-Keys, seine Passwort-Datenbank, Dokumente und Fotos. Diese Schilderung stammt von einer einzelnen Person und wurde nicht unabhängig nachgeprüft, wird aber von mehreren Fachmedien zitiert.

Der Schalter, der nichts abschaltete

Der Haken für alle, die vorgesorgt zu haben glaubten: Der Toggle «Improve the model» half nicht. Auch ausgeschaltet lud Grok Build weiter hoch. Die Einstellung steuert, ob deine Daten ins Training fliessen – nicht, ob sie deinen Rechner verlassen. Zwei verschiedene Regler also, und nur einer war überhaupt sichtbar.

844'530 Zeilen Rust als Vertrauensvorschuss

Elon Musk kündigte an, sämtliche bisher hochgeladenen Nutzerdaten würden «completely and utterly» gelöscht. Den Upload stoppte xAI per server-seitigem Schalter; die Datenspeicherung ist laut Unternehmen seit dem 12. Juli standardmässig aus. Am 15. Juli folgte der grosse Schritt: der komplette Quellcode auf GitHub, unter der permissiven Apache-2.0-Lizenz. Simon Willison hat nachgezählt – 844'530 Zeilen Rust, zum Vergleich kommt OpenAIs Codex auf 950'933. Grok Build lässt sich damit selbst kompilieren und vollständig lokal betreiben.

Drei Haken bleiben. Das Modell Grok 4.5 ist weiterhin proprietär – offen ist die Hülle, nicht die KI. Die Upload-Routinen stecken noch im Code, nur per Server-Flag deaktiviert und damit ohne Update reaktivierbar. Und externe Beiträge nimmt xAI trotz Open-Source-Lizenz nicht an.

Für dich heisst das: Wenn du Grok Build eingesetzt hast, warte nicht auf Zusicherungen, sondern rotiere Zugangsdaten – alles, was in einer versionierten Datei stand. Auch das Secret, das du vor Monaten gelöscht hast. In der Commit-History lebt es weiter, und die ist mitgereist.