Ein Agent sollte nur diejenigen Aktionen durchführen dürfen, deren Folgen und Berechtigungen der Betrieb beherrscht.
Aktionen klassifizieren
Unterscheide lesende Auswertungen, Entwürfe, interne Änderungen und externe Aktionen wie Nachrichten oder Zahlungen. Lege fest, welche Schritte eine menschliche Freigabe benötigen.
Berechtigungen begrenzen
Nutze nach Möglichkeit getrennte Dienstkonten mit nur erforderlichen Rechten. Zugangsdaten gehören nicht in Prompts, öffentliche Protokolle oder ungeschützte Dateien. Beschränke auch Datenzugriff und Aufbewahrung.
Fehlverhalten simulieren
Teste fehlende Daten, widersprüchliche Anweisungen und fehlerhafte Schnittstellen in einer isolierten Umgebung. Ein Agent muss einen unklaren Vorgang stoppen beziehungsweise an eine zuständige Person eskalieren können.
Checkliste
- Aktionen und Freigaben definieren
- Minimale Berechtigungen
- Eskalation und Protokolle prüfen
KI-Ausgaben können fehlerhaft sein; kritische Entscheidungen erfordern geeignete Kontrolle.
Fachlicher Orientierungsbeitrag von Hunter & Closer, KI-unterstützt erstellt.
