Agentic AI & MCP
Wie betreibt man Agentic AI im Unternehmen sicher und kontrolliert?
Viele Piloten scheitern nicht an der Modellqualität, sondern daran, dass niemand vorab geklärt hat, was ein Agent im Fehlerfall eigentlich anrichten kann.
Nextise Wissen · · 7 Minuten Lesezeit
Direkte Antwort
Sicherer Betrieb von Agentic AI im Unternehmen basiert auf drei Bausteinen — einem Berechtigungskonzept, das jedem Agenten nur die minimal nötigen Systemzugriffe gibt, gestuften Freigaben für kritische Aktionen (automatisch, mit Bestätigung, ausgeschlossen) und lückenlosem Audit-Logging jeder Aktion, damit Entscheidungen nachträglich nachvollzogen werden können.
Die Frage ist nicht, ob ein Agent irgendwann eine falsche Entscheidung trifft, sondern wie teuer diese eine falsche Entscheidung im schlimmsten Fall werden kann.
Least Privilege als Ausgangspunkt
Ein Agent sollte nie mit den vollen Rechten eines administrativen Service-Accounts laufen, sondern mit einem eigens zugeschnittenen Rechteprofil, das exakt die für seine Aufgabe nötigen Aktionen erlaubt.
Das reduziert den möglichen Schaden bei einer Fehlentscheidung oder einem erfolgreichen Prompt-Injection-Angriff erheblich, weil der Agent selbst bei kompromittiertem Verhalten nicht auf Systeme zugreifen kann, für die er keine Berechtigung hat.
Gestufte Freigabekonzepte statt Alles-oder-nichts
Nicht jede Aktion braucht dieselbe Kontrollstufe. Lesende, risikoarme Aktionen (Informationen abrufen) können vollautomatisch laufen, während schreibende oder folgenreiche Aktionen (eine Zahlung auslösen, einen Datensatz löschen) eine explizite menschliche Bestätigung durchlaufen sollten, bevor sie ausgeführt werden.
Diese Einstufung sollte pro Tool und nicht pauschal pro Agent erfolgen, weil ein Agent durchaus sowohl risikoarme als auch kritische Tools nutzen kann.
Audit-Logging als Voraussetzung für Vertrauen und Nachweisführung
Jede Tool-Ausführung, ihre Eingabeparameter, das Ergebnis und die zugrunde liegende Modell-Begründung sollten protokolliert werden, nicht nur für die Fehlersuche, sondern auch für Compliance-Nachweise.
Ohne dieses Logging lässt sich im Streitfall nicht rekonstruieren, warum ein Agent eine bestimmte Aktion ausgeführt hat, was insbesondere bei regulierten Branchen oder Prozessen mit Kundendaten zum ernsten Problem wird.
Wann passt es — wann nicht?
Passt gut, wenn …
- Der Agent hat Zugriff auf produktive Systeme oder personenbezogene Daten
- Es gibt regulatorische Nachweispflichten für automatisierte Entscheidungen
Ein anderer Ansatz ist nötig, wenn …
- Der Agent arbeitet ausschließlich in einer isolierten Sandbox ohne Zugriff auf produktive Daten
Wissen allein reicht nicht — wir zeigen, wie es im Betrieb funktioniert.
Unsere Seminare verbinden die Konzepte aus dem Wissen-Hub mit konkreter Praxis. Ihr Team lernt direkt an eigenen Aufgaben — praxisnah, kompakt, sofort anwendbar.
Schulungen entdeckenLassen Sie uns über Ihr nächstes Training sprechen.
Unser Team steht Ihnen rund um die Uhr zur Verfügung und freut sich auf Ihre Anfrage. Einfach anrufen oder eine Nachricht hinterlassen – wir kümmern uns schnellstmöglich um Ihre Anfrage, ob es um eine Schulung, einen Vortrag oder eine Präsentation geht. Jetzt loslegen!
Selina Schmid
Leiterin Kodschul