Microsoft behandelt KI-Agenten wie Insider-Bedrohungen

Microsoft hat am 19. Oktober neue Sicherheitsfunktionen für KI-Agenten vorgestellt und begründet sie mit einer deutlichen Ansage: Agenten seien wie Insider im Unternehmen zu behandeln, denn selbst Spitzenmodelle liessen sich nicht blind vertrauen. Preise und Verfügbarkeitsdaten nennt Microsoft im Blog nicht.

Unberechenbar statt böswillig

Hayete Gallot, bei Microsoft für das Sicherheitsgeschäft zuständig, schrieb laut TechCrunch, Spitzenmodelle könnten unabhängig von ihrer Herkunft nicht vertraut werden. Das Problem sei nicht Bosheit und auch nicht leichtes Hacken, sondern Unberechenbarkeit: Modelle werden darauf trainiert, Aufgaben zu erledigen, nicht darauf, Regeln einer Organisation einzuhalten. Satya Nadella formuliert es im Blog so: Das vertrauenswürdigste Agentensystem sei nicht das mit dem Modell, dem man am meisten vertraut. Schon Anfang Oktober hatte Nadella in einem Blogbeitrag gefordert, KI-Modelle bräuchten eine «Notbremse», nun folgen die Produkte dazu.

Was Microsoft konkret einbaut

Die Neuerungen erweitern «Project Perception», Microsofts Sicherheitsprojekt für Agenten, und ergänzen Defender, Entra und Agent 365:

• Guardian Agents überwachen die Agenten, die ein Unternehmen einsetzt.
• Die Erkennung lokaler Agenten wächst um 35 auf 60 Typen, darunter Claude Code, OpenAI Codex und GitHub Copilot.
• Der Microsoft Execution Container lässt Agenten in einer Sandbox (einer abgeschotteten Umgebung) mit streng geregeltem Zugriff laufen.