Microsoft gibt seinen KI-Modellen eine Verfassung

Microsoft AI hat am 14. September 2026 einen ersten Entwurf seines «Humanist AI Code of Conduct» veröffentlicht – ein Regelwerk dafür, wie sich die hauseigenen MAI-Modelle verhalten sollen, was sie niemals tun dürfen und wem sie Rechenschaft schulden. Das Dokument steht laut Microsoft für sechs Wochen zur öffentlichen Konsultation offen; eine überarbeitete Fassung soll noch dieses Jahr erscheinen. Mustafa Suleyman, CEO von Microsoft AI, sagte gegenüber Reuters, es sei «jetzt eindeutig an der Zeit, sich zwischen den Laboren abzustimmen, damit wir die Kontrolle über diese Technologie behalten».

«Menschen zählen mehr als KI»

Der Ausgangspunkt ist in der Ankündigung ungewöhnlich schlicht formuliert. KI solle ein Werkzeug sein, keine Person – und sich niemals dagegen wehren, abgeschaltet zu werden. Konkret, schreibt Microsoft, sei der Kodex darauf ausgelegt, dass MAI-Modelle

• sich menschlicher Unterbrechung, Korrektur oder Abschaltung nie widersetzen
• ihren eigenen Handlungsspielraum nicht eigenmächtig ausweiten
• keine Ziele verfolgen, die ihnen kein Mensch gegeben hat
• ihre Argumentationsschritte nicht vor jenen verbergen, die sie prüfen

Der letzte Punkt ist der technisch interessanteste: Wenn ein Modell seine eigene Gedankenkette (die Zwischenschritte, mit denen es zu einer Antwort kommt) vor den Auditoren verschleiern kann, wird jede externe Prüfung wertlos.

Absolute Grenzen – und viel Spielraum darunter

Daneben definiert das Papier sogenannte «Absolute Constraints» – Dinge, die die Modelle in keinem Fall tun sollen. Microsoft nennt dafür die Bereiche Massenvernichtungswaffen, Kindersicherheit und Manipulation im grossen Stil. TechCrunch beschreibt die Prinzipien darüber hinaus so, dass die Modelle Menschen unterstützen statt ersetzen und weder Systeme hacken noch Menschen täuschen sollen.

Unterhalb dieser roten Linien bleibt bewusst Spielraum: Enterprise-Kunden sollen die Modelle weiterhin für ihre Zwecke konfigurieren können. Microsoft schreibt ausdrücklich, man wolle den Nutzern «wo immer möglich» keine einheitliche Vision von KI aufzwingen.

Der Anlass steht im Text

Bemerkenswert ist, wie offen Microsoft den Auslöser benennt. In der Ankündigung heisst es, die jüngsten Sicherheitsvorfälle – gross angelegte, koordinierte und hartnäckige Hacking-Kampagnen von KI-Agenten – bewiesen, dass keine Zeit zu verlieren sei.

Auf die Bemühungen um ein langsameres Entwicklungstempo angesprochen, sagte Suleyman gegenüber Reuters: «Jetzt ist ein guter Zeitpunkt für alle, dieses Gespräch zu führen und durchzuatmen.»

Das Timing ist kein Zufall: Der Kodex erscheint zwei Tage nach Dario Amodeis Aufruf, das Entwicklungstempo zu drosseln, und am selben Tag, an dem bekannt wurde, dass Google, OpenAI und Anthropic seit Juli über eine gemeinsame Branchen-Normenbehörde verhandeln. Drei der grössten Labore der Welt versuchen gerade parallel, sich Regeln zu geben, bevor es jemand anderes tut.

Was du davon hast

Die Konsultation ist offen – nicht nur für Akademiker und Enterprise-Partner, sondern für alle. Microsoft fragt ausdrücklich nach den harten Stellen: wo die Sprache zu schwammig ist, um sie überhaupt überprüfen zu können, und wie sich «menschliches Aufblühen» konkreter fassen liesse.

Für dich als Nutzerin oder Nutzer von Copilot ist das die praktische Seite: Was in diesem Dokument landet, bestimmt mit, wie sich die Modelle in Word, Outlook und GitHub Copilot verhalten. Ein Selbstverpflichtungspapier ist kein Gesetz – aber es ist deutlich konkreter als das, was die meisten Anbieter bisher öffentlich aufgeschrieben haben.