ヒューマン・イン・ザ・ループ（HITL）は、より古く広く理解されているモデルです。AIが推奨を出すか出力を作り、人がそれを確認・承認してから行動が起きます。人はゲートです。ゲートが開かなければ何も起きません。
ヒューマン・オン・ザ・ループ（HOTL）は、これらの条件が崩れたときに生まれるモデルです。AIは連続する意思決定の流れに対して自律的に行動し、人は監督の位置から見守ります。人はゲートではありません。上書き権限を持つ観察者です。理論上の違いは微妙ですが、実務上は非常に大きいものです。
人がすべてのAI判断を確認するとき、人は関与しています。短時間でも各行動に注意が必要です。人が監督位置からAI判断の流れを監視するとき、人は大半が正しく動くシステムへ注意を持続しなければなりません。これは警戒を要するタスクであり、人は警戒タスクが著しく苦手です。
HOTLの適切さは二つの変数に依存します。誤った判断のコストと、その判断の可逆性です。
Q: ヒューマン・オン・ザ・ループは完全自律AIとどう違いますか？
R: 完全自律システムには人の監督がありません。AIが判断し、人の介入機構なしに行動を実行します。HOTLは人の監督を保ちますが、それを行動前から行動中または行動後へ移します。人は責任を持ち続けます。違いは介入の存在ではなく、介入のタイミングです。
参考資料