Vom Antworten zum Handeln
Ein KI-Assistent beantwortet Fragen und erstellt Entwürfe. Ein KI-Agent kann zusätzlich Werkzeuge nutzen und Aktionen ausführen: E-Mails senden, Datensätze ändern, Tickets erstellen oder Prozesse anstossen. Damit verschiebt sich das Risiko. Es geht nicht mehr nur um falsche Informationen, sondern um falsche Handlungen mit realen Folgen.
Zusätzliche Governance-Fragen
- Unter welcher Identität handelt der Agent, und welche Rechte hat sie?
- Welche Werkzeuge und Datenquellen darf der Agent verwenden?
- Welche Aktionen erfordern eine menschliche Freigabe?
- Wie werden Eingaben, Entscheidungen und Aktionen protokolliert?
- Wie wird der Agent vor manipulierten Eingaben geschützt?
- Wer ist für das Verhalten des Agenten verantwortlich?
Minimale Rechte für Agenten
Agenten sollten nur die Rechte erhalten, die für ihre Aufgabe nötig sind. Microsoft führt dafür mit Microsoft Entra Agent ID eigene Identitäten für Agenten ein, die wie andere Identitäten verwaltet und mit Richtlinien versehen werden können. Unabhängig vom konkreten Produkt gilt: Ein Agent darf nicht mit einem persönlichen Administratorkonto oder weitreichenden Dienstkonten betrieben werden.
Schutz vor Manipulation
Agenten verarbeiten Inhalte aus E-Mails, Dokumenten und Websites. Solche Inhalte können versteckte Anweisungen enthalten, die den Agenten zu unerwünschten Aktionen verleiten. Diese Angriffsform wird als Prompt Injection bezeichnet. Gegenmassnahmen sind eingeschränkte Werkzeuge, Freigaben für kritische Aktionen, Filterung von Eingaben und Überwachung ungewöhnlichen Verhaltens.
Stufenweise Autonomie
Ein bewährtes Muster ist, Agenten zunächst nur vorschlagen zu lassen und Menschen entscheiden zu lassen. Erst wenn Qualität und Verhalten über eine gewisse Zeit überprüft sind, werden ausgewählte Aktionen automatisch ausgeführt. Die Stufe der Autonomie sollte pro Anwendungsfall dokumentiert und begründet werden.
Einordnung durch techtask
techtask entwickelt Governance-Modelle für KI-Agenten in Microsoft 365, Copilot Studio und Azure. Wir verbinden Identität, Berechtigungen, Freigaben und Überwachung zu einem Rahmen, der produktive Automatisierung erlaubt. Die Produktlandschaft entwickelt sich schnell, weshalb technische Empfehlungen jeweils am aktuellen Stand geprüft werden.
Quellen
Primärquellen und offizielle Dokumentation.
Passende Beratung
Vom Wissen zur belastbaren Entscheidung.
Wir unterstützen Sie bei der Einordnung, Konzeption und Umsetzung im konkreten Organisationskontext.
Leistung ansehen