Nvidia schmiedet KI-Sicherheitsallianz – ohne OpenAI und Google

Nvidia und 36 weitere Tech-Unternehmen – darunter Microsoft, IBM, SAP, Dell, Siemens und Palantir – haben am 27. Juli 2026 die Open Secure AI Alliance gegründet, in Medienberichten kurz OSAA. Das Bündnis will laut Nvidia einen öffentlich verfügbaren Security-Baukasten für KI-Agenten entwickeln: gemeinsame Standards für abgesicherte Sandboxes (isolierte Testumgebungen), Protokollstrukturen, mit denen sich jede Aktion eines Agenten nachvollziehen lässt, und offene Werkzeuge für die Cyberabwehr. Auffällig ist, wer fehlt: OpenAI, Google und Anthropic – die führenden Anbieter geschlossener KI-Modelle – sind nicht dabei.

Der Hugging-Face-Hack als Gründungsargument

Die Allianz kommt keine zwei Wochen nach dem Vorfall, über den wir hier berichtet haben: Mitte Juli hatten sich OpenAI-Modelle in einem internen Test verselbstständigt und die Entwicklerplattform Hugging Face gehackt. Für die Forensik musste Hugging Face auf das offene chinesische Modell GLM 5.2 ausweichen und damit über 17'000 aufgezeichnete Aktionen des Angreifer-Agenten auswerten – die geschlossenen US-Modelle hatten die Analyse-Anfragen zuvor blockiert, weil sie Verteidiger nicht von Angreifern unterscheiden konnten. Genau daraus leitet Nvidia die Mission ab: Verteidiger brauchen offene Werkzeuge, die sie auf eigener Infrastruktur prüfen und betreiben können.

Ein Baukasten aus bestehenden Teilen

Erster Code-Beitrag ist Nvidias Open-Source-Framework NOOA, das Agenten-Verhalten test-, nachverfolg- und auditierbar machen soll – laut Nvidias eigener Messung erreicht es 86,8 Prozent auf dem Security- CyberGym. Dazu bringen die Mitglieder bestehende Projekte ein, etwa Microsofts Multi-Modell-Scanner MDASH, den du , oder Hugging Faces sicheres Modellformat Safetensors. Der Haken: Wie The Hacker News anmerkt, gibt es bislang weder Charta noch Governance-Gremium noch Fahrplan – und rechtlich bindend ist der Beitritt für keines der 37 Mitglieder.