Human in the Loop: Wann KI-Agenten eine Freigabe brauchen
Die Frage ist nicht, ob ein Mensch beteiligt ist, sondern an welcher Stelle. Eine klare Freigabelogik macht KI-Agenten erst einsetzbar.
Human in the Loop (HITL) bedeutet: Ein Mensch greift an festgelegten Punkten ein. Er prüft, korrigiert oder gibt frei, bevor eine KI handelt. Bei KI-Agenten, die in Ihren Systemen Aktionen ausführen, ist das die wichtigste Leitplanke. Entscheidend ist, die Freigaben dorthin zu legen, wo eine Aktion Tragweite hat, und nicht überall.
Was bedeutet Human in the Loop?
Es gibt drei Grade menschlicher Beteiligung:
| Modell | Was der Mensch tut | Passt zu |
|---|---|---|
| Human in the Loop | Gibt jede Aktion frei, bevor sie ausgeführt wird | Aktionen mit hoher Tragweite oder ohne Rückweg |
| Human on the Loop | Überwacht laufend und kann jederzeit eingreifen | Häufige Aktionen mit mittlerer Tragweite |
| Human out of the Loop | Prüft nur im Nachhinein, etwa per Stichprobe | Lesende oder leicht umkehrbare Aktionen |
Ein Agent nutzt in der Regel alle drei: abhängig davon, was er gerade tut.
Welche Aktionen brauchen eine Freigabe?
Vier Fragen entscheiden:
- Tragweite: Geht es um Geld, Verträge, Kundenkommunikation oder Personendaten?
- Umkehrbarkeit: Lässt sich die Aktion rückgängig machen?
- Sicherheit der KI: Wie eindeutig ist der Fall? Ist die KI sich unsicher, geht er an einen Menschen.
- Häufigkeit: Eine Freigabe für jede von tausend Routineaktionen macht den Agenten nutzlos.
Daraus ergibt sich eine einfache Logik: Lesen läuft automatisch. Entwürfe erstellt der Agent, versendet werden sie von Menschen. Umkehrbare Änderungen werden stichprobenartig geprüft. Zahlungen, Vertragsänderungen und externe Zusagen brauchen immer eine Freigabe.
Wie sieht eine gute Freigabe aus?
Eine Freigabe ist nur so gut wie die Information, die der Mensch dafür bekommt. Zeigen Sie:
- den Vorschlag: Was genau will der Agent tun?
- die Begründung: Warum, auf Basis welcher Daten und Quellen?
- die Optionen: Freigeben, anpassen oder ablehnen, mit einem Klick.
- eine Frist: Was passiert, wenn niemand reagiert? Eskalation statt Stillstand.
Wer für jede Freigabe erst drei Systeme öffnen muss, klickt irgendwann nur noch „ok“. Dann ist der Mensch zwar in der Schleife, kontrolliert aber nichts mehr.
Welche Leitplanken braucht es neben der Freigabe?
- Minimale Berechtigungen: Der Agent darf nur die Systeme und Aktionen nutzen, die seine Aufgabe erfordert.
- Limits: Maximale Anzahl Schritte, maximale Kosten, maximale Beträge.
- Geprüfte Eingaben: Versteckte Anweisungen in E-Mails oder Dokumenten (Prompt Injection) werden erkannt und ignoriert.
- Lückenloses Protokoll: Jeder Schritt, jede Entscheidung und jede Freigabe ist nachvollziehbar.
Wann darf man die Freigabe lockern?
Messen Sie, wie oft Freigaben ohne Änderung erteilt werden. Liegt der Wert für eine Aktion über längere Zeit sehr hoch, kann sie von „Freigabe“ auf „Stichprobe“ wechseln. Für Aktionen ohne Rückweg gilt das nie. So wächst die Automatisierung mit dem Vertrauen, nicht mit der Hoffnung.
Was sagt der EU AI Act zu menschlicher Aufsicht?
Für Hochrisiko-KI-Systeme schreibt die KI-Verordnung menschliche Aufsicht vor (Art. 14). Diese Pflichten gelten nach dem AI-Omnibus ab dem 2. Dezember 2027. Die meisten Agenten in Geschäftsprozessen sind keine Hochrisiko-Systeme. Eine durchdachte Freigabelogik ist trotzdem gute Praxis und erleichtert jede spätere Prüfung. Details im Beitrag zur KI-Verordnung.
Häufige Fragen
Bremst Human in the Loop die Automatisierung nicht aus?
Nur wenn die Freigaben falsch verteilt sind. Mit Freigaben nur dort, wo eine Aktion Tragweite hat, läuft der Großteil der Arbeit automatisch.
Was ist der Unterschied zwischen Human in the Loop und Human on the Loop?
Beim Human in the Loop gibt ein Mensch vorher frei. Beim Human on the Loop läuft die Aktion, und ein Mensch überwacht und kann eingreifen.
Wer haftet für Entscheidungen eines KI-Agenten?
Das Unternehmen, das den Agenten einsetzt, bleibt verantwortlich. Gerade deshalb gehören Freigaben, Limits und Protokolle in jeden Agenten. Für die rechtliche Bewertung im Einzelfall sprechen Sie mit Ihrer Rechtsberatung.
Welche Prozesse sich überhaupt für Agenten eignen, zeigen acht Beispiele aus Geschäftsprozessen. Wie wir Agenten mit Freigaben bauen, steht auf unserer Seite zu KI-Agenten.
