Nadella fordert eine Notbremse für KI-Modelle

Microsoft-Chef Satya Nadella fordert, KI-Modelle von Anfang an wie ein mögliches Sicherheitsrisiko zu behandeln. In einem Beitrag auf X und einem Essay vom Samstag, 10. Oktober, schreibt er: «We must assume a model is compromised and contain it from the start» – also: Geh davon aus, dass ein Modell kompromittiert ist, und begrenze es von Beginn an. Dazu stellt er vier Forderungen auf, darunter eine «Notbremse», mit der ein Mensch ein laufendes Modell stoppen kann. Laut RuntimeWire ist es ein Grundsatzpapier und kein Produkt.

Vier Forderungen statt Vertrauensfrage

Nadella will KI nicht als undurchsichtige Black Box behandeln, die man entweder komplett akzeptiert oder komplett ablehnt. Laut TechCrunch schlägt er vor:

• Das Modell vom «Harness» trennen, also von der Software, die seine Arbeit steuert und verwaltet.
• Kontrollen und Schutzmechanismen ausserhalb des Modells einbauen.
• Jede wichtige Modellaktion in manipulationssicheren, lesbaren Protokollen festhalten.
• Eine berechtigte Person kann ein Modell mitten in einer Aufgabe pausieren oder abschalten – «wie eine Notbremse».

Der Essay trägt laut RuntimeWire den Titel «Models as Insider Risks in the Super Intelligence Era». Er vergleicht Modelle mit Insidern, die weitreichende Rechte haben, und nennt zusätzlich laufende Tests, unabhängige Prüfungen, Meldung von Vorfällen und den Einsatz mehrerer Modelle. Ein Microsoft-Produkt oder einen technischen Standard nennt der Text nicht.

Der Anlass: Labore verlieren die Kontrolle