Inhalt
Das Wichtigste in Kürze
- Human in the Loop bedeutet, dass ein Mensch das Ergebnis einer KI prüft und freigibt, bevor es nach außen wirkt oder Daten dauerhaft verändert.
- Ein Freigabeschritt ist immer dann nötig, wenn ein Fehler Kunden erreicht, schwer rückgängig zu machen ist oder Entscheidungen über Menschen betrifft.
- Damit Freigaben im Alltag tatsächlich passieren, müssen sie mit einem Klick erledigt sein, etwa über eine E-Mail mit Zusammenfassung und klaren Schaltflächen.
- Lockern solltest du den Freigabeschritt erst, wenn Kennzahlen über mehrere Wochen zeigen, dass die Ergebnisse stimmen, und nur mit Protokoll, Stichproben und Abschaltmöglichkeit.
Was Human in the Loop bedeutet
Human in the Loop heißt wörtlich „der Mensch in der Schleife“. Gemeint ist eine Automatisierung, in der an einer festgelegten Stelle ein Mensch das Ergebnis der KI ansieht und entscheidet: übernehmen, anpassen oder verwerfen. Erst danach geht es weiter, etwa mit dem Versand einer Antwort oder dem Eintrag im CRM.
Das klingt zunächst nach halber Automatisierung. Wenn am Ende doch ein Mensch draufschaut, wo ist dann der Gewinn? Er liegt in der Vorarbeit. Eine fertige Gesprächsnotiz zu prüfen geht deutlich schneller, als sie selbst zu schreiben. Einen Antwortentwurf anzupassen geht schneller, als ein leeres Fenster zu füllen. Die KI übernimmt das Zeitaufwendige, der Mensch das Verantwortliche.
Der Grund für den Freigabeschritt ist nüchtern: Sprachmodelle machen Fehler. Nicht wie klassische Software, bei der ein Programmierfehler immer gleich auftritt, sondern gelegentlich, unvorhersehbar und gut formuliert. Ein falscher Wert sieht genauso überzeugend aus wie ein richtiger. Gegen diese Art von Fehler hilft am zuverlässigsten ein Mensch, der das Ergebnis sieht, bevor es wirkt.
Wo der Mensch entscheiden muss
Nicht jeder KI-Schritt braucht eine Freigabe. Ob die KI eine Mail intern mit der Kategorie „Reklamation“ markiert, kann jeder im Team mit einem Klick korrigieren. Anders sieht es aus, wenn das Ergebnis nach außen geht oder etwas Dauerhaftes auslöst. Ich stelle bei jedem Schritt drei Fragen: Wen erreicht ein Fehler? Lässt er sich rückgängig machen? Und würde er überhaupt auffallen?
| Schritt | Folge eines Fehlers | Freigabe? |
|---|---|---|
| Mail intern kategorisieren | falscher Ordner, schnell korrigiert | nein, Stichproben reichen |
| Gesprächsnotiz im CRM ablegen | falsche Information am Kunden, fällt spät auf | ja |
| Antwort an Kunden senden | falsche Zusage, Ärger beim Kunden | ja |
| Stammdaten ändern, etwa Adresse oder Bankverbindung | Folgefehler in vielen Abläufen | ja |
| Zahlung auslösen, Vertrag kündigen, Daten löschen | kaum rückgängig zu machen | immer |
| Bewerbungen vorsortieren, Personen bewerten | Entscheidung über Menschen | immer, rechtlich heikel |
Daraus ergibt sich eine einfache Faustregel: Kommunikation nach außen, alles, was Geld bewegt oder Verträge verändert, Änderungen an Stammdaten und jede Entscheidung über Menschen gehören in die Hand eines Menschen. Dazu kommen Fälle, die das System selbst als ungewöhnlich erkennt, etwa weil Daten fehlen oder Prüfregeln anschlagen.
Freigaben, die im Alltag funktionieren
Ein Freigabeschritt, der nervt, wird umgangen. Entweder bleiben die Freigaben liegen, oder jemand klickt alles ungelesen durch. Beides ist schlechter als gar keine Automatisierung. Deshalb lohnt es sich, in die Gestaltung der Freigabe mindestens so viel Sorgfalt zu stecken wie in den KI-Schritt selbst. Diese Punkte machen den Unterschied:
- Die Freigabe kommt dort an, wo die Person ohnehin arbeitet, meist im Postfach oder im CRM, nicht in einem zusätzlichen Tool.
- Die Nachricht enthält alles Nötige: eine kurze Zusammenfassung, die vorgeschlagene Aktion und einen Link zum Original.
- Ein Klick genügt: Übernehmen, Bearbeiten oder Verwerfen. Bearbeiten öffnet ein vorausgefülltes Formular, kein leeres.
- Auffälliges ist markiert. Felder, bei denen eine Prüfung angeschlagen hat, sind hervorgehoben, damit der Blick dorthin geht.
- Die Freigabe kommt zeitnah, solange die Person den Vorgang noch im Kopf hat.
- Liegengebliebenes wird erinnert und nach einer Frist an eine Vertretung weitergegeben oder verworfen.
Ein Beispiel ist die Strecke für automatische Gesprächsnotizen aus Telefonaten. Der Mitarbeiter bekommt kurz nach dem Gespräch eine E-Mail mit Zusammenfassung und nächsten Schritten und übernimmt sie mit einem Klick ins CRM. Weil die Prüfung direkt nach dem Gespräch kommt, kann er sie noch aus dem Gedächtnis beurteilen.
Die Gefahr des Abnickens
Wer jeden Tag viele Vorschläge freigibt, die fast immer stimmen, hört irgendwann auf, genau hinzusehen. Fachleute nennen das Automation Bias: die Neigung, automatischen Vorschlägen zu sehr zu vertrauen. Dagegen hilft, die Menge pro Person überschaubar zu halten, Abweichungen deutlich hervorzuheben und gelegentlich zu prüfen, ob Fehler auch erkannt werden. Es hilft auch, wenn das Team versteht, wie eine KI zu Fehlern kommt. Genau darum geht es bei der Pflicht zur KI-Kompetenz, die ich im Artikel zu Art. 4 der KI-Verordnung beschreibe.
Aus der Praxis: jede Notiz wird freigegeben
In einem aktuellen Projekt bei einem Dienstleister mit beratungsintensivem Telefonvertrieb ist die Strecke so gebaut, dass KI-Gesprächsnotizen erst im CRM landen, wenn der zuständige Mitarbeiter sie freigegeben hat, ohne Ausnahme. Die KI strukturiert das Transkript, feste Regeln ordnen Kunde, Mitarbeiter und Vorgang zu, und die Freigabe kommt per E-Mail und ist mit einem Klick erledigt. Danach werden Aufnahme und Transkript automatisch gelöscht.
Ich halte die vollständige Freigabe für diesen Fall für richtig und nicht für übertriebene Vorsicht. Eine Notiz im CRM bleibt dauerhaft stehen, und wer später mit dem Kunden spricht, verlässt sich auf sie. Ob man so etwas irgendwann lockert, sollte auf Basis der Zahlen aus den Freigaben entschieden werden, nicht aus dem Bauch heraus. Wie so eine Entscheidung aussieht, zeigt der nächste Abschnitt.
Wann du den Freigabeschritt lockern kannst
Ein Freigabeschritt muss nicht für immer bleiben. Wenn eine Strecke über längere Zeit zuverlässig läuft, kann es sinnvoll sein, bestimmte Fälle ohne Freigabe durchlaufen zu lassen. Die Entscheidung sollte aber auf Zahlen beruhen. Die wichtigsten liefert die Freigabe selbst:
- Übernahmequote: Wie viele Vorschläge werden unverändert übernommen?
- Art der Änderungen: Werden nur Formulierungen geglättet, oder werden Fakten korrigiert, etwa Daten, Mengen oder Namen?
- Verwerfungsquote: Wie oft ist ein Vorschlag unbrauchbar?
- Fehler nach der Freigabe: Wie oft fällt später auf, dass trotz Freigabe etwas falsch war?
- Menge und Zeitraum: Beruhen die Zahlen auf genug Fällen und auf mehreren Wochen?
Lockern heißt dann nicht abschaffen, sondern in Stufen vorgehen. Zuerst prüft ein Mensch alles. Danach laufen eindeutige Fälle einer bestimmten Art durch, während Abweichungen und eine Stichprobe weiter geprüft werden. Eine solche Regel könnte lauten: „Antworten zum Lieferstatus an Bestandskunden gehen ohne Freigabe raus, wenn über acht Wochen mindestens 98 Prozent unverändert übernommen wurden und kein Faktenfehler auftrat.“ Diese Zahlen sind ein Beispiel, keine allgemeine Richtgröße. Für deine Strecke legst du die Schwellen gemeinsam mit den Verantwortlichen fest, und zwar bevor die Daten vorliegen. Sonst ist die Versuchung groß, die Schwelle passend zu machen.
Umgekehrt gilt: Wechselt der Anbieter das Modell, änderst du die Anweisungen oder kommen neue Arten von Fällen dazu, gehört die Freigabe für eine Weile wieder auf alles.
Protokoll und Notausschalter
Was protokolliert werden sollte
Wenn später jemand fragt, warum etwas so im CRM steht, solltest du die Antwort finden können. Dafür reicht ein schlankes Protokoll pro Vorgang:
- Zeitpunkt und Auslöser, also welches Gespräch, welche Mail oder welches Dokument
- der Vorschlag der KI, so wie er zur Freigabe vorgelegt wurde
- die Version der Anweisung und des verwendeten Modells
- wer freigegeben, bearbeitet oder verworfen hat und wann
- die Änderungen zwischen Vorschlag und Freigabe
- was daraufhin im Zielsystem passiert ist
Das Protokoll muss selbst datensparsam sein. Vollständige Transkripte oder Mails gehören nicht dauerhaft hinein, wenn eine Referenz und der freigegebene Inhalt reichen. Leg eine Aufbewahrungsfrist fest, wie für jede andere Datensammlung auch.
Abschaltbarkeit
Jede KI-Automatisierung braucht einen Schalter, mit dem sie sich ohne Programmierkenntnisse anhalten lässt, etwa ein Feld in einer Einstellungstabelle oder einen Schalter in der Automatisierungsplattform. Genauso wichtig ist der Plan B: Was macht das Team, solange die Strecke aus ist? Meist ist das der alte, manuelle Ablauf, und der sollte kurz dokumentiert sein. Kläre außerdem, wer abschalten darf und was mit Vorgängen passiert, die gerade in der Warteschlange stehen. Anlässe gibt es mehr, als man denkt: ein Ausfall beim Anbieter, auffällige Fehler nach einem Modellwechsel, eine offene Datenschutzfrage. Wie du solche Probleme früh bemerkst, beschreibe ich im Beitrag zu Monitoring und Fehlerbehandlung bei Schnittstellen.
Nachvollziehbarkeit und Rechtsrahmen
Human in the Loop ist zuerst eine Frage guter Praxis, hat aber auch einen rechtlichen Hintergrund. Die DSGVO gibt Betroffenen in Art. 22 grundsätzlich das Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Es gibt Ausnahmen, aber wer solche Entscheidungen automatisieren will, braucht eine sorgfältige Prüfung.
Die EU-KI-Verordnung (Verordnung (EU) 2024/1689) ist seit dem 1. August 2024 in Kraft und wird stufenweise wirksam. Für sogenannte Hochrisiko-Systeme, zu denen etwa bestimmte KI-Anwendungen bei der Auswahl von Bewerbern gehören, verlangt sie unter anderem eine wirksame menschliche Aufsicht und Protokollierung. Die typischen Büroautomatisierungen, um die es hier geht, fallen meist nicht darunter. Welche Pflichten für welche Systeme gelten und ab wann, solltest du anhand des aktuellen Stands prüfen. Unabhängig davon gilt seit dem 2. Februar 2025 Art. 4: Wer KI beruflich einsetzt, muss Maßnahmen ergreifen, damit die beteiligten Personen über ausreichende KI-Kompetenz verfügen. Dazu gehört, dass die Menschen in der Schleife wissen, worauf sie achten müssen.
Ein Freigabeschritt mit Protokoll ist deshalb auch eine gute Vorbereitung auf Rückfragen: Du kannst zeigen, wer was wann entschieden hat. Dieser Abschnitt gibt nur einen allgemeinen Überblick und ersetzt keine Rechtsberatung.
Fazit
Human in the Loop ist kein Zeichen von Misstrauen gegenüber KI, sondern die Voraussetzung, sie verantwortbar in Betriebsprozesse einzubauen. Die KI übernimmt die Vorarbeit, der Mensch entscheidet dort, wo Fehler Kunden erreichen, Geld kosten oder Menschen betreffen. Mein Rat für den ersten Schritt: Geh deine geplante oder bestehende Automatisierung Schritt für Schritt durch und beantworte bei jedem die drei Fragen: Wen erreicht ein Fehler, lässt er sich rückgängig machen, und würde er auffallen? Wo eine Antwort unangenehm ausfällt, gehört eine Freigabe hin, und zwar eine, die mit einem Klick erledigt ist. Wenn du dabei Unterstützung möchtest, findest du hier meine Leistungen zur KI-Integration in Betriebsprozesse.
Häufige Fragen
Wo braucht deine KI-Automatisierung einen Freigabeschritt?
Ich gehe mit dir durch, welche Schritte eurer Automatisierung ein Mensch freigeben sollte, und baue Freigaben, die mit einem Klick erledigt sind. Dazu gehören ein schlankes Protokoll, Kennzahlen für spätere Lockerungen und ein dokumentierter Weg zum Abschalten.