Le human-in-the-loop (HITL) est le modèle plus ancien et le mieux compris. L’IA formule une recommandation ou produit une sortie, puis un humain l’examine et l’approuve avant qu’une action ne soit entreprise. L’humain est une porte. Rien ne se produit sans son ouverture.
Le human-on-the-loop (HOTL) est le modèle qui apparaît lorsque ces conditions cessent d’être réunies. L’IA agit de manière autonome sur un flux continu de décisions et l’humain surveille depuis une position de supervision. L’humain n’est pas une porte. Il est un observateur doté du pouvoir de passer outre. La distinction est subtile en théorie et immense en pratique.
Lorsqu’un humain examine chaque décision de l’IA, il reste impliqué. Chaque action exige de l’attention, ne serait-ce que brièvement. Lorsqu’un humain surveille un flux de décisions IA depuis une position de supervision, il doit maintenir son attention sur un système qui fonctionne généralement correctement. C’est une tâche de vigilance, et les humains sont notoirement mauvais dans les tâches de vigilance.
La pertinence du HOTL dépend de deux variables : le coût d’une mauvaise décision et le caractère réversible de cette décision.
Q : En quoi le human-on-the-loop diffère-t-il d’une IA entièrement autonome ?
R : Dans un système entièrement autonome, il n’existe aucune supervision humaine. L’IA prend des décisions et exécute des actions sans mécanisme d’intervention humaine. Le HOTL préserve la supervision humaine mais la déplace d’avant l’action vers son déroulement ou son après-coup. L’humain reste responsable. La différence porte sur le moment de l’intervention, pas sur son existence.