Microsoft verbessert Agentensicherheit mit Project Perception und Guardian Agents
Microsoft erweitert sein Sicherheitsframework für künstliche Intelligenz (KI)-Agenten erheblich durch die Ausweitung von Project Perception und die Einführung von Guardian Agents. Diese Initiative adressiert den wachsenden Bedarf, KI-Agenten, die zunehmend in Geschäftsabläufe integriert werden, zu sichern, indem sie als potenzielle „agentische Insider“ behandelt werden, die robusten, kontinuierlichen Schutz benötigen.
Absicherung des agentischen Insiders
Der Kern dieser Entwicklung liegt in der Absicherung von Agenten, die mit Zugriff auf sensible Unternehmensdaten und -systeme arbeiten. Microsofts Ansatz basiert auf dem Prinzip, „nicht-deterministische Intelligenz mit deterministischen Kontrollen, unabhängigen Beweisen und Containment-Grenzen zu umgeben“. Das bedeutet, dass davon ausgegangen wird, dass Agenten Fehler machen, manipuliert oder kompromittiert werden können, und es werden Kontrollen implementiert, die unabhängig vom KI-Modell selbst funktionieren. Das System ist mit vier kontinuierlichen Verantwortlichkeiten konzipiert: Wissen, welche Agenten existieren und was sie tun, ihren Zugriff und ihre Aktionen einzudämmen, die Ressourcen, mit denen sie interagieren, zu schützen und den Schutz anzupassen, wenn sich die Risikostufen ändern. Dieser Rahmen soll Sicherheitsteams eine konsistente Sicht auf Agenten und ihre damit verbundenen Risiken bieten und eine kontinuierliche Anpassung der Schutzmaßnahmen ermöglichen.
Verbesserte Erkennung und Identitätsmanagement
Eine kritische Komponente der Absicherung von Agenten ist die Sichtbarkeit. Microsoft erweitert seine Erkennungsfähigkeiten, um zusätzlich 35 Arten lokaler Agenten zu identifizieren, was die Gesamtzahl auf 60 unterstützte Agenten erhöht, darunter beliebte Tools wie Claude Code, OpenAI Codex und GitHub Copilot. Diese Agenten können in ein einheitliches Verzeichnis aufgenommen werden, unabhängig von ihrer Herkunft, um Eigentümerschaft, Aktivität und Risiko zu verfolgen. Um die Kontrolle weiter zu verbessern, wird Microsoft Entra Agent ID um neue Identitätstypen für verschiedene Agentenmuster erweitert, einschließlich lokaler und bisher unentdeckter Agenten. Dies bietet eine eindeutige, erstklassige Identität für jeden Agenten, getrennt von seinem Benutzer, was eine granulare Richtlinienzielsetzung und Zuordnung von Aktionen ermöglicht, die vom Agenten ausgeführt werden.
Granulare Eindämmung und dynamische Anpassung
Microsoft führt mehrere Funktionen ein, um sicherzustellen, dass Agenten innerhalb definierter Grenzen arbeiten. Dynamische Berechtigungen ermöglichen es Unternehmen, aufgabenbezogene, zeitlich begrenzte und dynamisch anpassbare Berechtigungen für Agenten festzulegen, die dem Prinzip der geringsten Privilegien entsprechen. Agenten beginnen ohne Berechtigung und erhalten nur das, was für ihre genehmigten Aufgaben notwendig ist. Darüber hinaus bewertet Dynamic Agent Risk kontinuierlich das Risiko eines Agenten anhand von Signalen aus Identität, Daten, Endpunkten und seiner eigenen Aktivität. Diese dynamische Risikobewertung fließt in Dynamic Conditional Access ein, das Microsoft Entra Conditional Access für Agenten erweitert. Dies ermöglicht abgestufte Reaktionen auf sich ändernde Risikostufen, wie z. B. die Reduzierung von Berechtigungen, die Beibehaltung des Lesezugriffs bei gleichzeitiger Blockierung von Schreibvorgängen oder die Anforderung menschlicher Genehmigung für kritische Aktionen. Bei den höchsten Risikostufen kann die Laufzeit eines Agenten isoliert oder die Ausführung vollständig gestoppt werden.
Agentensicherheit in großem Maßstab
Um die Komplexität der Absicherung potenziell Hunderttausender von Agenten zu bewältigen, führt Microsoft Guardian Agents und neue Playbooks innerhalb von Project Perception ein. Diese Guardian Agents arbeiten mit maschineller Geschwindigkeit, um Schutzmaßnahmen zu koordinieren, Risiken zu untersuchen und Richtlinien basierend auf sich entwickelnden Bedrohungen und dem Verhalten von Agenten anzupassen. Dieser agentenbasierte Sicherheitsansatz, der von menschendefinierten Richtlinien und Zielen geleitet wird, ist darauf ausgelegt, effektiv zu skalieren. Die Initiative erweitert die Eindämmung auch auf das Modell selbst, indem sie Signale wie die Denkweise (chain-of-thought) nutzt, um Absichtsabweichungen und nicht vertrauenswürdige Informationen zu erkennen, die die Schlussfolgerungen eines Agenten beeinflussen, während gleichzeitig sichergestellt wird, dass Sicherheitsentscheidungen unabhängig vom Modell bleiben.
Satya Nadella, Chairman und CEO von Microsoft, betonte die Notwendigkeit einer Vertrauensarchitektur, bei der „die Kontrollen, die bestimmen, worauf er zugreifen kann, welche Aktionen er ausführen kann und ob er weiterhin operieren soll, außerhalb des Modells liegen müssen.“ Diese Philosophie untermauert die gesamte Bemühung und zielt darauf ab, Organisationen Vertrauen zu vermitteln, KI-Agenten in großem Maßstab einzusetzen, ohne die Sicherheit zu beeinträchtigen.
