Story
20. Okt. 2026
Microsoft warnt Unternehmen davor, ihren eigenen KI-Agenten zu vertrauen
Microsofts Argument ist unverblümt: Unternehmen, die KI-Agenten einsetzen, müssen die Kontrolle über sie behalten, selbst wenn die Agenten von vertrauenswürdigen Anbietern stammen. Die Warnung dient zugleich als Verkaufsargument für Microsofts eigene Sicherheitsebene.
Microsofts Argumentation hat sich innerhalb weniger Monate verschoben. Project Perception wurde im Juni eingeführt, um externe KI-gestützte Angreifer zu simulieren und abzuwehren: Red-Team-Agenten griffen an, Blue-Team-Agenten entdeckten Schwachstellen und Green-Team-Agenten behoben sie.1
Nun sagt das Unternehmen, die größere Gefahr könne sich bereits innerhalb des Sicherheitsperimeters befinden. Satya Nadella hat eingesetzte Agenten mit Insider-Bedrohungen verglichen — Systemen mit Zugriff auf sensible Daten und der Berechtigung, folgenschwere Maßnahmen zu ergreifen. In einem kürzlich veröffentlichten Beitrag argumentierte er, dass die Sicherheitsversprechen eines Anbieters die Verantwortlichkeit nicht übertragen können: „Wir können die Verantwortung für das, was Intelligenz in unserem Auftrag tut, schlicht nicht auslagern.“1
Am Montag setzte Microsoft dieses Prinzip in Produktstrategie um und erweiterte Project Perception um Guardian Agents, die andere Agenten kontinuierlich überwachen sollen. Nadella beschrieb den Schritt als die Platzierung von Kontrollen „außerhalb des Modells selbst“, anstatt darauf zu vertrauen, dass das überwachte System sein eigenes Verhalten überwacht.
2
Hayete Gallot, Executive Vice President von Microsoft Security, formulierte die Haltung des Unternehmens noch deutlicher: „Leider kann man Frontier-Modelle unabhängig von ihrer Herkunft nicht vertrauen.“3 Der Punkt sei laut Microsoft nicht unbedingt, dass Modelle bösartig oder kompromittiert seien; es handele sich um unvorhersehbare Systeme, die darauf trainiert wurden, Aufgaben zu erledigen, und nicht darauf, das Urteilsvermögen einer Organisation auszuüben.
Die vorgeschlagene Antwort lautet Trennung: KI-Labore können Intelligenz liefern, doch Unternehmen sollten Zugriff, Berechtigungen und risikoreiche Handlungen kontrollieren. Microsoft Defender kann nun Dutzende Agenten am Arbeitsplatz erkennen, während neue Kontrollen den Zugriff beschränken, Berechtigungen je nach Aufgabe ändern und für riskante Entscheidungen eine menschliche Genehmigung verlangen können.1
Es gibt eine offensichtliche kommerzielle Spannung. Microsoft ist eng mit OpenAI und Anthropic verbunden und entwickelt zugleich eigene Modelle — dennoch fordert es Kunden auf, keinen Modellanbieter beim Wort zu nehmen. Das Gegenmittel ist ein unabhängiger Wachhund, verkauft von Microsoft. Die Logik ähnelt einer externen Prüfung; die Geschäftschance liegt unverkennbar näher am eigenen Haus.
[1] Microsoft sagt, KI-Agenten seien wie Insider-Bedrohungen, da „Frontier-Modelle nicht vertrauenswürdig sind“ — Microsoft erklärt, Guardian Agents und verwandte Kontrollen seien dafür gedacht, eingesetzte KI-Agenten als potenzielle Insider-Risiken zu überwachen.
[2] @satyanadella auf X — Nadella sagt, Sicherheitskontrollen sollten außerhalb von KI-Modellen liegen, während Project Perception erweitert wird.
[3] Microsoft: Frontier-Modelle können nicht vertrauenswürdig sein — Hayete Gallot sagt, Frontier-Modelle könnten unabhängig von ihrer Herkunft nicht vertrauenswürdig sein.