人在环内（HITL）是更早出现、也更广为人知的模式。AI 提出建议或生成结果，在任何行动发生前由人审查和批准。人是一道闸门；闸门不开，事情就不会发生。
当这些条件不再成立时，人在环外（HOTL）便成为相应模式。AI 在连续不断的决策流中自主行动，人从监督位置进行监控。人不再是闸门，而是拥有覆盖权限的观察者。理论上的差别很细微，实践中的差别却极大。
当人审查每一项 AI 决策时，人是投入其中的；每项行动都要求注意力，哪怕只是片刻。当人以监督者身份监控持续涌现的 AI 决策时，必须把注意力维持在一个大多数时候运行正确的系统上。这是一项警觉性任务，而人类出了名地不擅长此类任务。
HOTL 是否合适取决于两个变量：错误决定的代价，以及该决定是否可逆。
问：人在环外与完全自主 AI 有何不同？
答：完全自主系统没有人类监督。AI 作出决定并执行行动，没有供人介入的机制。HOTL 保留人类监督，但把它从行动之前移到行动期间或之后。人仍然承担责任；不同的是介入时机，而非监督是否存在。
参考来源