如果把“人在环外：AI 监督与自主性的新模式”放回真实的决策场景，而非把它当成又一个 AI 流行语，这个概念会更容易理解。本篇 AI Tools Radar 指南聚焦其实际含义、关键取舍，以及在采用工具或工作流前值得提出的问题。
数十年来，人在环内 AI 一直是默认的安全范式：每一项 AI 决策都需要人来批准。这个模式正在失效。2026 年，智能体 AI 系统能够自主完成多步骤任务，人的角色正从操作员转向监督者；这一转变已有名称，也有越来越多研究作为支撑。
2026 年 2 月，Anthropic 因四个字“任何合法用途”放弃了一份价值 2 亿美元的五角大楼合同。这是国防采购中的标准条款，意味着签约机构可以把这项技术用于法律允许的任何目的，无须针对每个用例与供应商重新协商。Anthropic 拒绝签署。该公司的立场是：AI 不应被部署在无法由人审查、批准并为每一项重大行动承担责任的场景中。
三个月后，同一家公司推出 Claude for Small Business。该产品可在 QuickBooks、PayPal 和 HubSpot 之间自动追讨发票、分拣销售线索，并生成企业健康报告，无须人在每一步复核。公司还发布了 Claude Code——一款智能体编程工具，能在多文件项目中编写、测试并部署代码，只需极少人工干预。同一家公司也为数百万人使用的工具提供 AI 功能，而这些用户并不了解模型如何得出结论。
这并非虚伪，而是 2026 年 AI 治理的核心张力：技术已经超出人在环内模式的承载范围，却还没有人就替代方案达成一致。正在浮现的答案有一个名字：人在环外。
• 人在环内（HITL）要求人在每次 AI 行动之前批准；人在环外（HOTL）允许 AI 自主行动，而人负责监控，并只在必要时介入 • 从 HITL 转向 HOTL 由三股力量推动：AI 智能体已足够胜任独立行动；部署规模使逐项人工审查不再可能；自动化的经济压力正压倒 2023—2025 年“安全优先”的姿态 • Anthropic 拒绝五角大楼合同展示了争论的极端一端：在一些公司看来，HOTL 可以用于追讨发票，却不适用于机密军事应用 • 对每个部署 AI 的组织而言，实际问题不是“是否要让人参与其中”，而是“风险、成本和后果到达何种阈值时，人必须介入”
人在环内与人在环外：一个清晰的区别。
人在环内（HITL）是更早出现、也更广为人知的模式。AI 提出建议或生成结果，在任何行动发生前由人审查和批准。人是一道闸门；闸门不开，事情就不会发生。
当 AI 行动是离散的、不频繁的，且每一项都具有独立后果时，这个模式有效。例如放射科医生复核 AI 在扫描中标出的异常，信贷专员批准或拒绝 AI 生成的信用决定，飞行员接受或推翻自动驾驶建议。每一种情形里，AI 都在辅助，却不直接行动；人仍然是决策者。
当这些条件不再成立时，人在环外（HOTL）便成为相应模式。AI 在连续不断的决策流中自主行动，人从监督位置进行监控。人不再是闸门，而是拥有覆盖权限的观察者。理论上的差别很细微，实践中的差别却极大。
德勤对企业 AI 部署的分析准确描述了这一转变：“转向人在环外，是一种需要强大 AI 智能体治理与监督的自动化形式。多智能体系统可以持续训练以改进，但若缺乏恰当的透明度与监控，也可能失控。”关键在于“失控”。HITL 通过要求人工批准来阻止错误行动发生；HOTL 则在错误发生后加以发现，并依赖人足够快地干预以限制损害。这不是哲学差异，而是防止犯错与事后发现错误之间的差异。
这一差别恰好对应 2023 年的 AI 工具与 2026 年的 AI 智能体之别。2023 年的 ChatGPT 属于 HITL：每次回应都需要人发出提示，人再决定是否采用结果。2026 年的 Google Gemini Intelligence 属于 HOTL：它可跨多个应用预订餐厅、填写表单、确认预订并报告结果。人给出初始指令并收到确认，中间步骤不再设有人为闸门。
*有三项结构性力量正把 AI 系统从 HITL 推向 HOTL，而且没有一项正在减弱。
第一项力量来自技术。2023 年，AI 模型能生成文字和图像，却还不能可靠完成需要导航界面、填写表单并跨应用作出判断的多步骤任务。到 2026 年，它们可以做到。Claude Code 能在完整项目中自主编写、测试和部署代码；Gemini Intelligence 可在用户不触碰屏幕的情况下通过 Chrome 完成预订；OpenAI Codex 能操作桌面应用。
当 AI 的能力只限于生成建议时，HITL 是自然选择：AI 提议，人来决定。当 AI 能执行整个工作流时，人就成了瓶颈。让人审查 Claude 追讨的每一张发票、分拣的每一条线索、提交的每一处代码改动，并不会增加安全性，反而会带来延迟，抵消使用 AI 的意义。能力已经越过一个阈值：HOTL 不仅可以接受，更是让 AI 充分发挥价值的唯一模式。
第二项力量是部署规模。GitHub Copilot 已成为四百万次提交的共同作者；Google Gemini Intelligence 正向 300 亿台 Android 设备推出；企业软件中的 AI 智能体每天处理数百万笔交易。在这样的规模下，逐项人工审查在数学上不可能实现。你无法雇到足够多的人，去批准每一行 AI 生成的代码、每一封 AI 建议的回复或每一张 AI 分拣的支持工单。
从 HITL 转向 HOTL，部分是技术选择，部分是数学必然。当一个 AI 系统一小时处理的决策比一个团队一年能审查的还多，问题已不再是要不要使用 HOTL，而是如何设计能够安全失效的 HOTL 系统。
第三项力量来自经济。仅在 2026 年第一季度，AI 行业就获得了 3,000 亿美元风险投资。那些以自主 AI 智能体承诺融资的公司，如今正承受推出自主智能体的压力。2023—2025 年“我们很谨慎、正在测试、安全第一”的姿态，正与 2026 年收入目标、客户预期和竞争压力的现实相撞。
应当在这一背景下理解 Anthropic 对五角大楼合同的拒绝。这不仅是安全决定，也是在划定界线。Anthropic 的意思是：HOTL 可以用于追讨发票，却不适用于军事场景；在那里，自主行动与人工干预之间的“环路”可能以秒计，后果又不可逆转。公司划出了一条线，整个行业都在观察其他人会把线划在哪里。
监督难题：当人不再是闸门时会发生什么。
HOTL 的决定性挑战不在技术，而在认知。
当人审查每一项 AI 决策时，人是投入其中的；每项行动都要求注意力，哪怕只是片刻。当人以监督者身份监控持续涌现的 AI 决策时，必须把注意力维持在一个大多数时候运行正确的系统上。这是一项警觉性任务，而人类出了名地不擅长此类任务。
关于自动化自满的研究已有数十年历史，结论明确：自动化系统一旦在超过 90% 的时间里表现可靠，人类操作员就会开始松懈。面对异常的反应时间会变长，发现细微错误的能力会下降；随着系统不断演变而操作员将注意力放在别处，他们对系统行为的心智模型会越来越过时。20 世纪 90 年代的航空自动驾驶研究已充分记录这一点，如今它正被 2026 年的 AI 智能体部署重新发现。
实际含义是，HOTL 系统需要与 HITL 不同的监督基础设施。HITL 需要审批工作流；HOTL 需要异常检测、告警阈值、介入预案，以及让操作员练习应对罕见故障模式的模拟环境。2026 年部署 AI 智能体的大多数组织都有审批工作流，几乎没有组织具备其余部分。
德勤的智能体可观测性框架指出 HOTL 监督有三层：透明性（人能否实时看见智能体正在做什么？）、可追溯性（事后能否重建智能体为何作出某项决定？）和可控性（人能否在恰当粒度上介入——暂停、重定向、覆盖或回滚？）。2026 年多数已部署的 AI 智能体在可控性上表现较好——你能关闭它们——但在透明性和可追溯性上较差——你无法实时看清决策过程的内部。
HOTL 是否合适取决于两个变量：错误决定的代价，以及该决定是否可逆。
追讨发票是理想的 HOTL 用例。错误邮件的代价很低——可能只是惹恼供应商；行动也可逆——可以发出更正。人可以在例外层面监控，例如“任何异常都标记出来，我来审查”，而无须盯住每一项行动。
自主武器则是极端反例。错误决定的代价以生命计，行动不可逆，决定与后果之间的时间也可能短到来不及人工覆盖。这正是 Anthropic 拒绝支持的用例；对研究自动化自满文献的人而言，它也使 HOTL 成为一个真正令人恐惧的概念。
这两个极端之间，是经济中的大部分场景。医疗诊断 AI：代价高、部分可逆——误诊虽可纠正，伤害却可能已经发生。金融交易 AI：代价高，并在市场速度下不可逆。法律文件审查：代价中等、可逆。客户服务 AI：代价低、可逆。每个领域都应设置人何时介入的自身阈值，而且阈值应由该领域对错误的容忍度决定，而不是由 AI 供应商的默认配置决定。
问：人在环外是否比人在环内更不安全？
答：这取决于领域和监督基础设施。在高吞吐、低后果的领域，逐项人工审查会引入无法接受的延迟；在此情形下，HOTL 可能比把人变成橡皮图章的糟糕 HITL 系统更安全。在高后果、不可逆的领域，HITL 仍是适当模式。危险不在 HOTL 本身，而在没有使其安全的监控、告警和介入基础设施时部署 HOTL。
问：人在环外与完全自主 AI 有何不同？
答：完全自主系统没有人类监督。AI 作出决定并执行行动，没有供人介入的机制。HOTL 保留人类监督，但把它从行动之前移到行动期间或之后。人仍然承担责任；不同的是介入时机，而非监督是否存在。
问：哪些行业正最快转向 HOTL？
答：软件开发（AI 编程智能体）、客户服务（处理完整解决路径的 AI 聊天机器人）和财务运营（自动发票处理、欺诈检测）是领先采用者。这些行业有两个共同特征：交易量很高，使 HITL 不切实际；错误成本通常是财务性的，而非人身性的。
答：HOTL 改变的是岗位角色，而不是将其消除。过去批准单笔交易的操作员，会成为监控全局系统表现并处理例外情况的监督者。技能要求从执行速度转向诊断能力。这与制造业自动化和航空自动驾驶中出现的模式相同：直接操作系统的人数减少，但留下来的人员需要更高技能。
问：监管会要求某些 AI 应用必须采用人在环内吗？
答：《欧盟人工智能法案》已要求高风险 AI 系统接受人类监督，但没有规定具体机制。2026 年的争论是，“人类监督”能否由 HOTL 满足，还是必须采用 HITL。答案很可能因行业而异：医疗设备可能要求 HITL，金融欺诈检测可能接受 HOTL，而自主武器可能被全面禁止。监管框架仍在制定中，2026—2027 年作出的决定将塑造未来十年的 AI 行业。
SEO 元数据。 标题：人在环外：AI 监督与自主性的新模式 元描述：人在环外将 AI 监督从逐项批准转为持续监控。了解它与人在环内的区别、转变原因，以及它对工作的影响。 主要关键词：人在环内 AI 精选摘要目标：什么是人在环外 相关关键词：人在环外、人在环内与人在环外、AI 智能体监督、人工监督 AI 难度等级：中级 阅读时间：11 分钟 字数：约 2500
使用的外部参考。 1. “转向人在环外，是一种需要强大 AI 智能体治理与监督的自动化形式。”——德勤《AI 智能体可观测性》，https://www.deloitte.com/us/en/services/consulting/articles/ai-agent-observability-human-in-the-loop.html
建议的网址路径。 /blog/human-on-the-loop-ai-oversight-autonomy
实际检验标准是：这种方法能否改进一项可重复的工作，同时不掩盖其来源、成本或失效模式。从一项有代表性的任务开始；在错误影响重大的环节保留人工检查点；并随着模型和产品变化重新评估结果。
我们会结合一手资料、产品文档与实际使用场景，帮助你更清楚地判断工具是否适合你的工作流。