Wie betreibt man Agentic AI im Unternehmen sicher und kontrolliert?
Direkte Antwort
Sicherer Betrieb von Agentic AI im Unternehmen basiert auf drei Bausteinen — einem Berechtigungskonzept, das jedem Agenten nur die minimal nötigen Systemzugriffe gibt, gestuften Freigaben für kritische Aktionen (automatisch, mit Bestätigung, ausgeschlossen) und lückenlosem Audit-Logging jeder Aktion, damit Entscheidungen nachträglich nachvollzogen werden können.
"Die Frage ist nicht, ob ein Agent irgendwann eine falsche Entscheidung trifft, sondern wie teuer diese eine falsche Entscheidung im schlimmsten Fall werden kann.
Viele Piloten scheitern nicht an der Modellqualität, sondern daran, dass niemand vorab geklärt hat, was ein Agent im Fehlerfall eigentlich anrichten kann.
Least Privilege als Ausgangspunkt
Ein Agent sollte nie mit den vollen Rechten eines administrativen Service-Accounts laufen, sondern mit einem eigens zugeschnittenen Rechteprofil, das exakt die für seine Aufgabe nötigen Aktionen erlaubt.
Das reduziert den möglichen Schaden bei einer Fehlentscheidung oder einem erfolgreichen Prompt-Injection-Angriff erheblich, weil der Agent selbst bei kompromittiertem Verhalten nicht auf Systeme zugreifen kann, für die er keine Berechtigung hat.
Gestufte Freigabekonzepte statt Alles-oder-nichts
Nicht jede Aktion braucht dieselbe Kontrollstufe. Lesende, risikoarme Aktionen (Informationen abrufen) können vollautomatisch laufen, während schreibende oder folgenreiche Aktionen (eine Zahlung auslösen, einen Datensatz löschen) eine explizite menschliche Bestätigung durchlaufen sollten, bevor sie ausgeführt werden.
Diese Einstufung sollte pro Tool und nicht pauschal pro Agent erfolgen, weil ein Agent durchaus sowohl risikoarme als auch kritische Tools nutzen kann.
Audit-Logging als Voraussetzung für Vertrauen und Nachweisführung
Jede Tool-Ausführung, ihre Eingabeparameter, das Ergebnis und die zugrunde liegende Modell-Begründung sollten protokolliert werden, nicht nur für die Fehlersuche, sondern auch für Compliance-Nachweise.
Ohne dieses Logging lässt sich im Streitfall nicht rekonstruieren, warum ein Agent eine bestimmte Aktion ausgeführt hat, was insbesondere bei regulierten Branchen oder Prozessen mit Kundendaten zum ernsten Problem wird.
Wann passt es — wann nicht?
Passt gut
- ✓Der Agent hat Zugriff auf produktive Systeme oder personenbezogene Daten
- ✓Es gibt regulatorische Nachweispflichten für automatisierte Entscheidungen
Passt nicht
- ✗Der Agent arbeitet ausschließlich in einer isolierten Sandbox ohne Zugriff auf produktive Daten