Microsoft gibt seinen KI-Modellen eine Verfassung

Microsoft AI hat am 14. September 2026 einen ersten Entwurf seines «Humanist AI Code of Conduct» veröffentlicht – ein Regelwerk dafür, wie sich die hauseigenen MAI-Modelle verhalten sollen, was sie niemals tun dürfen und wem sie Rechenschaft schulden. Das Dokument steht laut Microsoft für sechs Wochen zur öffentlichen Konsultation offen; eine überarbeitete Fassung soll noch dieses Jahr erscheinen. Mustafa Suleyman, CEO von Microsoft AI, sagte gegenüber Reuters, es sei «jetzt eindeutig an der Zeit, sich zwischen den Laboren abzustimmen, damit wir die Kontrolle über diese Technologie behalten».

«Menschen zählen mehr als KI»

Der Ausgangspunkt ist in der Ankündigung ungewöhnlich schlicht formuliert. KI solle ein Werkzeug sein, keine Person – und sich niemals dagegen wehren, abgeschaltet zu werden. Konkret, schreibt Microsoft, sei der Kodex darauf ausgelegt, dass MAI-Modelle

• sich menschlicher Unterbrechung, Korrektur oder Abschaltung nie widersetzen
• ihren eigenen Handlungsspielraum nicht eigenmächtig ausweiten
• keine Ziele verfolgen, die ihnen kein Mensch gegeben hat
• ihre Argumentationsschritte nicht vor jenen verbergen, die sie prüfen

Der letzte Punkt ist der technisch interessanteste: Wenn ein Modell seine eigene Gedankenkette (die Zwischenschritte, mit denen es zu einer Antwort kommt) vor den Auditoren verschleiern kann, wird jede externe Prüfung wertlos.

Absolute Grenzen – und viel Spielraum darunter

Daneben definiert das Papier sogenannte – Dinge, die die Modelle in keinem Fall tun sollen. Microsoft nennt dafür die Bereiche Massenvernichtungswaffen, Kindersicherheit und Manipulation im grossen Stil. beschreibt die Prinzipien darüber hinaus so, dass die Modelle Menschen unterstützen statt ersetzen und weder Systeme hacken noch Menschen täuschen sollen.