Human-in-the-loop(HITL)는 더 오래되고 널리 이해되는 모델입니다. AI가 권고나 출력을 만들면 행동 전에 사람이 검토하고 승인합니다. 사람은 관문이며 열어 주지 않으면 아무 일도 일어나지 않습니다.
Human-on-the-loop(HOTL)는 이 조건이 깨질 때 나타납니다. AI가 연속적인 결정을 자율적으로 실행하고 사람은 감독 위치에서 감시합니다. 사람은 관문이 아니라 중단 권한을 가진 관찰자입니다. 이론에서는 미묘하지만 실제 차이는 매우 큽니다.
사람이 모든 AI 결정을 검토하면 짧게라도 행동마다 주의를 기울입니다. 감독 위치에서 AI 결정의 흐름을 감시하면 대부분 올바르게 작동하는 시스템에 지속적으로 집중해야 합니다. 이는 경계 과제이며 사람은 경계 과제에 매우 약합니다.
HOTL의 적합성은 잘못된 결정의 비용과 그 결정의 되돌림 가능성이라는 두 변수에 달려 있습니다.
질문: Human-on-the-loop과 완전 자율 AI는 어떻게 다른가요?
답변: 완전 자율 시스템에는 사람의 감독도 개입 장치도 없습니다. HOTL은 인간 감독을 유지하지만 행동 전에서 행동 중이나 후로 옮깁니다. 사람은 여전히 책임을 지며 차이는 개입의 존재가 아니라 시점입니다.
출처