Human-in-the-Loop (HITL) ist das ältere und besser bekannte Modell. Die KI gibt eine Empfehlung oder Ausgabe ab, und ein Mensch prüft und genehmigt sie, bevor irgendeine Aktion erfolgt. Der Mensch ist ein Tor. Ohne dessen Öffnung geschieht nichts.
Human-on-the-Loop (HOTL) entsteht, wenn diese Bedingungen nicht mehr gelten. Die KI handelt autonom über einen fortlaufenden Strom von Entscheidungen hinweg, und der Mensch überwacht aus einer Aufsichtsposition. Der Mensch ist kein Tor, sondern ein Beobachter mit Übersteuerungsbefugnis. Der Unterschied ist theoretisch subtil, praktisch aber gewaltig.
Prüft ein Mensch jede KI-Entscheidung, ist er eingebunden. Jede Aktion verlangt Aufmerksamkeit, wenn auch nur kurz. Überwacht ein Mensch einen Strom von KI-Entscheidungen aus einer Aufsichtsposition, muss er seine Aufmerksamkeit auf ein System richten, das überwiegend korrekt arbeitet. Das ist eine Wachsamkeitsaufgabe, und Menschen sind bekanntermaßen schlecht darin.
Die Angemessenheit von HOTL hängt von zwei Variablen ab: den Kosten einer falschen Entscheidung und ihrer Reversibilität.
F: Wie unterscheidet sich Human-on-the-Loop von vollständig autonomer KI?
A: In einem vollständig autonomen System gibt es keine menschliche Aufsicht. Die KI entscheidet und handelt ohne menschliche Eingriffsmöglichkeit. HOTL bewahrt menschliche Aufsicht, verlagert sie aber von vor die Handlung auf während oder nach der Handlung. Der Mensch bleibt verantwortlich. Der Unterschied liegt im Zeitpunkt des Eingriffs, nicht in seiner Existenz.