L'human-in-the-loop (HITL) è il modello più vecchio e più noto. L'AI formula una raccomandazione o produce un output e una persona lo riesamina e approva prima che venga intrapresa qualsiasi azione. L'umano è un cancello: non accade nulla senza che si apra.
L'human-on-the-loop (HOTL) è il modello che emerge quando queste condizioni vengono meno. L'AI agisce autonomamente su un flusso continuo di decisioni e la persona monitora da una posizione di supervisione. L'umano non è un cancello, ma un osservatore con autorità di override. La distinzione è sottile in teoria ed enorme nella pratica.
Quando una persona riesamina ogni decisione dell'AI, è coinvolta. Ogni azione richiede attenzione, per quanto breve. Quando invece monitora un flusso di decisioni AI da una posizione di supervisione, deve mantenere l'attenzione su un sistema che per lo più funziona correttamente. È un compito di vigilanza e gli esseri umani sono notoriamente scarsi nei compiti di vigilanza.
L'adeguatezza di HOTL dipende da due variabili: il costo di una decisione errata e la reversibilità di quella decisione.
D: In cosa l'human-on-the-loop differisce dall'AI completamente autonoma?
R: In un sistema completamente autonomo non esiste supervisione umana. L'AI prende decisioni ed esegue azioni senza alcun meccanismo di intervento umano. HOTL conserva la supervisione umana ma la sposta da prima dell'azione a durante o dopo. La persona resta responsabile. La differenza riguarda il momento dell'intervento, non la sua esistenza.