Human-in-the-Loop ist ein Überwachungsmodell für KI-Systeme, bei dem der Mensch jede Entscheidung des Systems aktiv genehmigt. Fachliche Taxonomien zur KI unterscheiden mehrere solcher Überwachungsmodelle.
Hintergrund
Das zweite Modell heißt Human-on-the-Loop. Hier überwacht der Mensch das System und besitzt eine Interventions- und Abbruchbefugnis.
Der Grad der Automatisierung bestimmt, wie viel menschliche Kontrolle nötig ist. Je höher dieser Grad, desto weniger Überwachung und Kontrolle durch den Menschen ist nötig. Assistenzsysteme kann der Mensch aktivieren und übersteuern. Autonome Systeme arbeiten dagegen ohne menschliche Steuerung und detaillierte Programmierung.
Auch die Regulierung greift das Thema auf. Nach dem europäischen AI Act sollen KI-Systeme in der EU sicher, transparent, ethisch, unparteiisch und unter menschlicher Kontrolle sein. Artikel 14 trägt die Überschrift „Human Oversight“ (menschliche Aufsicht). Er gehört zu den Anforderungen an Hochrisiko-KI-Systeme.
Menschliches Feedback beim Lernen
Menschen wirken auch beim Training von KI-Modellen mit. Beim Verfahren RLHF bewerten Menschen die Ausgaben eines Modells. Aus diesen Bewertungen entsteht Feedback für einen Algorithmus. Der Algorithmus passt das generative Modell so an, dass die Ausgaben näher an den menschlichen Präferenzen liegen. Ebenso dient das Labeling (die Etikettierung von Daten) dem Optimieren entlang menschlicher Präferenzen und Rückmeldungen.
Menschliche Beteiligung hat Grenzen. Menschliche Präferenzen zu sammeln ist teuer und aufwendig. Zudem urteilen Menschen untereinander nicht einheitlich. Eine Untersuchung zu Sprachmodellen als Bewerter zeigt: Die Übereinstimmung zwischen Menschen liegt bei über 80 Prozent. Ein Sprachmodell als Bewerter erreicht dasselbe Niveau. Verzerrungen (Bias) lassen sich nicht vollständig vermeiden, aber erkennen und reduzieren.
Bezug zu Candis
Der Beitrag von 2025 stellt die Lösung Candis vor, die Belege per KI klassifiziert. Laut Beitrag können Anwender Fehlzuweisungen korrigieren, und Candis lernt aus jeder Korrektur. Bei unklarer Erkennung nimmt Candis laut Beitrag standardmäßig „Rechnung“ an. Der Beitrag fasst das als „Automatisierung, aber immer mit einer zuverlässigen Rückfallebene und der Möglichkeit zur menschlichen Kontrolle“ zusammen.
Welches Überwachungsmodell vorliegt, hängt von der Ausgestaltung ab. Genehmigt der Mensch jede Zuordnung aktiv, entspricht das Human-in-the-Loop. Überwacht er nur und greift bei Bedarf ein, entspricht das Human-on-the-Loop. Ein ähnliches Prinzip zeigt die Rechnungsfreigabe. Laut Beitrag durchlaufen Rechnungen in Candis einen Freigabeprozess, bevor Candis sie an SAP Business One übergibt. In SAP Business One selbst genehmigen Benutzer Belege im Genehmigungsprozess, bevor diese hinzugefügt werden.
Abgrenzung
Human-in-the-Loop verlangt die aktive Genehmigung jeder Entscheidung. Human-on-the-Loop beschränkt den Menschen auf Überwachung mit Interventions- und Abbruchbefugnis. Autonome Systeme arbeiten ohne menschliche Steuerung. Verwandte Einträge: Rechnungsfreigabe, Genehmigungsverfahren (SAP B1).
KI-Assistent trifft SAP Business One: Zwei Wege aus dem Versino KI-Shop
Sprint und Swirl: Wie ein KI-Agent Arbeit aufteilt und aus Probeläufen lernt
LATS: Mehrere Wege gleichzeitig durchdenkt mit KI — und die Verfügbarkeitsprüfung in SAP B1
ReAct und RLEF: Wie Künstliche Intelligenz aus echten Fehlern lernt — und was der automatische Bankabgleich in SAP Business One damit zu tun hat
SAP B1 10.0 FP2608: Service Layer KI als transaktionalen Schicht
