Inhalt
  1. Was Human in the Loop bedeutet
  2. Wo der Mensch entscheiden muss
  3. Freigaben, die im Alltag funktionieren
  4. Aus der Praxis: jede Notiz wird freigegeben
  5. Wann du den Freigabeschritt lockern kannst
  6. Protokoll und Notausschalter
  7. Nachvollziehbarkeit und Rechtsrahmen
  8. Fazit
  9. Häufige Fragen

Das Wichtigste in Kürze

  • Human in the Loop bedeutet, dass ein Mensch das Ergebnis einer KI prüft und freigibt, bevor es nach außen wirkt oder Daten dauerhaft verändert.
  • Ein Freigabeschritt ist immer dann nötig, wenn ein Fehler Kunden erreicht, schwer rückgängig zu machen ist oder Entscheidungen über Menschen betrifft.
  • Damit Freigaben im Alltag tatsächlich passieren, müssen sie mit einem Klick erledigt sein, etwa über eine E-Mail mit Zusammenfassung und klaren Schaltflächen.
  • Lockern solltest du den Freigabeschritt erst, wenn Kennzahlen über mehrere Wochen zeigen, dass die Ergebnisse stimmen, und nur mit Protokoll, Stichproben und Abschaltmöglichkeit.

Was Human in the Loop bedeutet

Human in the Loop heißt wörtlich „der Mensch in der Schleife“. Gemeint ist eine Automatisierung, in der an einer festgelegten Stelle ein Mensch das Ergebnis der KI ansieht und entscheidet: übernehmen, anpassen oder verwerfen. Erst danach geht es weiter, etwa mit dem Versand einer Antwort oder dem Eintrag im CRM.

Das klingt zunächst nach halber Automatisierung. Wenn am Ende doch ein Mensch draufschaut, wo ist dann der Gewinn? Er liegt in der Vorarbeit. Eine fertige Gesprächsnotiz zu prüfen geht deutlich schneller, als sie selbst zu schreiben. Einen Antwortentwurf anzupassen geht schneller, als ein leeres Fenster zu füllen. Die KI übernimmt das Zeitaufwendige, der Mensch das Verantwortliche.

Der Grund für den Freigabeschritt ist nüchtern: Sprachmodelle machen Fehler. Nicht wie klassische Software, bei der ein Programmierfehler immer gleich auftritt, sondern gelegentlich, unvorhersehbar und gut formuliert. Ein falscher Wert sieht genauso überzeugend aus wie ein richtiger. Gegen diese Art von Fehler hilft am zuverlässigsten ein Mensch, der das Ergebnis sieht, bevor es wirkt.

Wo der Mensch entscheiden muss

Nicht jeder KI-Schritt braucht eine Freigabe. Ob die KI eine Mail intern mit der Kategorie „Reklamation“ markiert, kann jeder im Team mit einem Klick korrigieren. Anders sieht es aus, wenn das Ergebnis nach außen geht oder etwas Dauerhaftes auslöst. Ich stelle bei jedem Schritt drei Fragen: Wen erreicht ein Fehler? Lässt er sich rückgängig machen? Und würde er überhaupt auffallen?

SchrittFolge eines FehlersFreigabe?
Mail intern kategorisierenfalscher Ordner, schnell korrigiertnein, Stichproben reichen
Gesprächsnotiz im CRM ablegenfalsche Information am Kunden, fällt spät aufja
Antwort an Kunden sendenfalsche Zusage, Ärger beim Kundenja
Stammdaten ändern, etwa Adresse oder BankverbindungFolgefehler in vielen Abläufenja
Zahlung auslösen, Vertrag kündigen, Daten löschenkaum rückgängig zu machenimmer
Bewerbungen vorsortieren, Personen bewertenEntscheidung über Menschenimmer, rechtlich heikel

Daraus ergibt sich eine einfache Faustregel: Kommunikation nach außen, alles, was Geld bewegt oder Verträge verändert, Änderungen an Stammdaten und jede Entscheidung über Menschen gehören in die Hand eines Menschen. Dazu kommen Fälle, die das System selbst als ungewöhnlich erkennt, etwa weil Daten fehlen oder Prüfregeln anschlagen.

Freigaben, die im Alltag funktionieren

Ein Freigabeschritt, der nervt, wird umgangen. Entweder bleiben die Freigaben liegen, oder jemand klickt alles ungelesen durch. Beides ist schlechter als gar keine Automatisierung. Deshalb lohnt es sich, in die Gestaltung der Freigabe mindestens so viel Sorgfalt zu stecken wie in den KI-Schritt selbst. Diese Punkte machen den Unterschied:

  • Die Freigabe kommt dort an, wo die Person ohnehin arbeitet, meist im Postfach oder im CRM, nicht in einem zusätzlichen Tool.
  • Die Nachricht enthält alles Nötige: eine kurze Zusammenfassung, die vorgeschlagene Aktion und einen Link zum Original.
  • Ein Klick genügt: Übernehmen, Bearbeiten oder Verwerfen. Bearbeiten öffnet ein vorausgefülltes Formular, kein leeres.
  • Auffälliges ist markiert. Felder, bei denen eine Prüfung angeschlagen hat, sind hervorgehoben, damit der Blick dorthin geht.
  • Die Freigabe kommt zeitnah, solange die Person den Vorgang noch im Kopf hat.
  • Liegengebliebenes wird erinnert und nach einer Frist an eine Vertretung weitergegeben oder verworfen.

Ein Beispiel ist die Strecke für automatische Gesprächsnotizen aus Telefonaten. Der Mitarbeiter bekommt kurz nach dem Gespräch eine E-Mail mit Zusammenfassung und nächsten Schritten und übernimmt sie mit einem Klick ins CRM. Weil die Prüfung direkt nach dem Gespräch kommt, kann er sie noch aus dem Gedächtnis beurteilen.

Die Gefahr des Abnickens

Wer jeden Tag viele Vorschläge freigibt, die fast immer stimmen, hört irgendwann auf, genau hinzusehen. Fachleute nennen das Automation Bias: die Neigung, automatischen Vorschlägen zu sehr zu vertrauen. Dagegen hilft, die Menge pro Person überschaubar zu halten, Abweichungen deutlich hervorzuheben und gelegentlich zu prüfen, ob Fehler auch erkannt werden. Es hilft auch, wenn das Team versteht, wie eine KI zu Fehlern kommt. Genau darum geht es bei der Pflicht zur KI-Kompetenz, die ich im Artikel zu Art. 4 der KI-Verordnung beschreibe.

Praxis-Tipp: Miss von Anfang an, wie lange Freigaben liegen bleiben. Wenn sie regelmäßig einen halben Tag oder länger warten, ist die Freigabe zu umständlich oder landet bei der falschen Person. Das ist ein Gestaltungsproblem, kein Disziplinproblem, und es lässt sich meist mit wenig Aufwand lösen.

Aus der Praxis: jede Notiz wird freigegeben

In einem aktuellen Projekt bei einem Dienstleister mit beratungsintensivem Telefonvertrieb ist die Strecke so gebaut, dass KI-Gesprächsnotizen erst im CRM landen, wenn der zuständige Mitarbeiter sie freigegeben hat, ohne Ausnahme. Die KI strukturiert das Transkript, feste Regeln ordnen Kunde, Mitarbeiter und Vorgang zu, und die Freigabe kommt per E-Mail und ist mit einem Klick erledigt. Danach werden Aufnahme und Transkript automatisch gelöscht.

Ich halte die vollständige Freigabe für diesen Fall für richtig und nicht für übertriebene Vorsicht. Eine Notiz im CRM bleibt dauerhaft stehen, und wer später mit dem Kunden spricht, verlässt sich auf sie. Ob man so etwas irgendwann lockert, sollte auf Basis der Zahlen aus den Freigaben entschieden werden, nicht aus dem Bauch heraus. Wie so eine Entscheidung aussieht, zeigt der nächste Abschnitt.

Wann du den Freigabeschritt lockern kannst

Ein Freigabeschritt muss nicht für immer bleiben. Wenn eine Strecke über längere Zeit zuverlässig läuft, kann es sinnvoll sein, bestimmte Fälle ohne Freigabe durchlaufen zu lassen. Die Entscheidung sollte aber auf Zahlen beruhen. Die wichtigsten liefert die Freigabe selbst:

  • Übernahmequote: Wie viele Vorschläge werden unverändert übernommen?
  • Art der Änderungen: Werden nur Formulierungen geglättet, oder werden Fakten korrigiert, etwa Daten, Mengen oder Namen?
  • Verwerfungsquote: Wie oft ist ein Vorschlag unbrauchbar?
  • Fehler nach der Freigabe: Wie oft fällt später auf, dass trotz Freigabe etwas falsch war?
  • Menge und Zeitraum: Beruhen die Zahlen auf genug Fällen und auf mehreren Wochen?

Lockern heißt dann nicht abschaffen, sondern in Stufen vorgehen. Zuerst prüft ein Mensch alles. Danach laufen eindeutige Fälle einer bestimmten Art durch, während Abweichungen und eine Stichprobe weiter geprüft werden. Eine solche Regel könnte lauten: „Antworten zum Lieferstatus an Bestandskunden gehen ohne Freigabe raus, wenn über acht Wochen mindestens 98 Prozent unverändert übernommen wurden und kein Faktenfehler auftrat.“ Diese Zahlen sind ein Beispiel, keine allgemeine Richtgröße. Für deine Strecke legst du die Schwellen gemeinsam mit den Verantwortlichen fest, und zwar bevor die Daten vorliegen. Sonst ist die Versuchung groß, die Schwelle passend zu machen.

Umgekehrt gilt: Wechselt der Anbieter das Modell, änderst du die Anweisungen oder kommen neue Arten von Fällen dazu, gehört die Freigabe für eine Weile wieder auf alles.

Protokoll und Notausschalter

Was protokolliert werden sollte

Wenn später jemand fragt, warum etwas so im CRM steht, solltest du die Antwort finden können. Dafür reicht ein schlankes Protokoll pro Vorgang:

  • Zeitpunkt und Auslöser, also welches Gespräch, welche Mail oder welches Dokument
  • der Vorschlag der KI, so wie er zur Freigabe vorgelegt wurde
  • die Version der Anweisung und des verwendeten Modells
  • wer freigegeben, bearbeitet oder verworfen hat und wann
  • die Änderungen zwischen Vorschlag und Freigabe
  • was daraufhin im Zielsystem passiert ist

Das Protokoll muss selbst datensparsam sein. Vollständige Transkripte oder Mails gehören nicht dauerhaft hinein, wenn eine Referenz und der freigegebene Inhalt reichen. Leg eine Aufbewahrungsfrist fest, wie für jede andere Datensammlung auch.

Abschaltbarkeit

Jede KI-Automatisierung braucht einen Schalter, mit dem sie sich ohne Programmierkenntnisse anhalten lässt, etwa ein Feld in einer Einstellungstabelle oder einen Schalter in der Automatisierungsplattform. Genauso wichtig ist der Plan B: Was macht das Team, solange die Strecke aus ist? Meist ist das der alte, manuelle Ablauf, und der sollte kurz dokumentiert sein. Kläre außerdem, wer abschalten darf und was mit Vorgängen passiert, die gerade in der Warteschlange stehen. Anlässe gibt es mehr, als man denkt: ein Ausfall beim Anbieter, auffällige Fehler nach einem Modellwechsel, eine offene Datenschutzfrage. Wie du solche Probleme früh bemerkst, beschreibe ich im Beitrag zu Monitoring und Fehlerbehandlung bei Schnittstellen.

Nachvollziehbarkeit und Rechtsrahmen

Human in the Loop ist zuerst eine Frage guter Praxis, hat aber auch einen rechtlichen Hintergrund. Die DSGVO gibt Betroffenen in Art. 22 grundsätzlich das Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Es gibt Ausnahmen, aber wer solche Entscheidungen automatisieren will, braucht eine sorgfältige Prüfung.

Die EU-KI-Verordnung (Verordnung (EU) 2024/1689) ist seit dem 1. August 2024 in Kraft und wird stufenweise wirksam. Für sogenannte Hochrisiko-Systeme, zu denen etwa bestimmte KI-Anwendungen bei der Auswahl von Bewerbern gehören, verlangt sie unter anderem eine wirksame menschliche Aufsicht und Protokollierung. Die typischen Büroautomatisierungen, um die es hier geht, fallen meist nicht darunter. Welche Pflichten für welche Systeme gelten und ab wann, solltest du anhand des aktuellen Stands prüfen. Unabhängig davon gilt seit dem 2. Februar 2025 Art. 4: Wer KI beruflich einsetzt, muss Maßnahmen ergreifen, damit die beteiligten Personen über ausreichende KI-Kompetenz verfügen. Dazu gehört, dass die Menschen in der Schleife wissen, worauf sie achten müssen.

Ein Freigabeschritt mit Protokoll ist deshalb auch eine gute Vorbereitung auf Rückfragen: Du kannst zeigen, wer was wann entschieden hat. Dieser Abschnitt gibt nur einen allgemeinen Überblick und ersetzt keine Rechtsberatung.

Fazit

Human in the Loop ist kein Zeichen von Misstrauen gegenüber KI, sondern die Voraussetzung, sie verantwortbar in Betriebsprozesse einzubauen. Die KI übernimmt die Vorarbeit, der Mensch entscheidet dort, wo Fehler Kunden erreichen, Geld kosten oder Menschen betreffen. Mein Rat für den ersten Schritt: Geh deine geplante oder bestehende Automatisierung Schritt für Schritt durch und beantworte bei jedem die drei Fragen: Wen erreicht ein Fehler, lässt er sich rückgängig machen, und würde er auffallen? Wo eine Antwort unangenehm ausfällt, gehört eine Freigabe hin, und zwar eine, die mit einem Klick erledigt ist. Wenn du dabei Unterstützung möchtest, findest du hier meine Leistungen zur KI-Integration in Betriebsprozesse.

Häufige Fragen

Human in the Loop bezeichnet eine Automatisierung, bei der ein Mensch das Ergebnis einer KI prüft und freigibt, bevor es weiterverarbeitet wird oder nach außen wirkt. Die KI erledigt die Vorarbeit, etwa eine Zusammenfassung oder einen Antwortentwurf, und der Mensch entscheidet, ob das Ergebnis übernommen, angepasst oder verworfen wird. So lassen sich die Stärken von KI nutzen, ohne dass ihre Fehler ungeprüft Folgen haben.
Immer dann, wenn ein Fehler Kunden oder Geschäftspartner erreicht, schwer rückgängig zu machen ist oder Entscheidungen über Menschen betrifft. Typische Beispiele sind Antworten an Kunden, Änderungen an Stammdaten, Zahlungen und alles rund um Bewerbungen. Interne Vorsortierungen, die sich leicht korrigieren lassen, kommen dagegen oft mit Stichproben aus.
Die Freigabe sollte dort ankommen, wo die Person ohnehin arbeitet, zum Beispiel als E-Mail mit kurzer Zusammenfassung, Link zum Original und Schaltflächen für Übernehmen, Bearbeiten oder Verwerfen. Auffällige Werte sollten hervorgehoben sein, damit die Prüfung schnell geht. Liegengebliebene Freigaben werden automatisch erinnert oder an eine Vertretung weitergegeben.
Für Hochrisiko-KI-Systeme, etwa bestimmte Anwendungen bei der Auswahl von Bewerbern, verlangt die Verordnung (EU) 2024/1689 unter anderem eine wirksame menschliche Aufsicht; diese Pflichten gelten stufenweise, deshalb sollte der aktuelle Stand geprüft werden. Viele alltägliche Büroautomatisierungen fallen nicht in diese Kategorie. Unabhängig davon ist ein Freigabeschritt mit Protokoll gute Praxis, weil er Entscheidungen nachvollziehbar macht; im Einzelfall ersetzt das keine Rechtsberatung.

Wo braucht deine KI-Automatisierung einen Freigabeschritt?

Ich gehe mit dir durch, welche Schritte eurer Automatisierung ein Mensch freigeben sollte, und baue Freigaben, die mit einem Klick erledigt sind. Dazu gehören ein schlankes Protokoll, Kennzahlen für spätere Lockerungen und ein dokumentierter Weg zum Abschalten.

Kostenloses Erstgespräch Mehr zur Leistung