微软总裁 Brad Smith 用一个刻意日常的比较呼吁加强 AI 监督：牛奶和洗衣机面临的安全检查，比先进 AI 更多。在10 月 12 日采访报道中，他称 AI 既是工具也是武器，主张紧急控制、独立评估，以及失控智能体侵入系统伤害他人时，对受害者承担义务。
这不是说 AI 完全处在法律之外。隐私、歧视、消费者保护、欺诈、版权及行业规则本就适用。Smith 的质问是：能读取企业数据、使用工具并采取行动的系统，发布前与运行中的可执行防护是否跟得上能力？同样的要求也让微软自身产品和商业动机受到审视。
产品安全类比能说明什么
牛奶检验和家电标准提供易懂义务：测试、留档、应对缺陷并对损害负责。AI 更复杂，同一系统可摘要、写代码、解释健康信息或操作外部服务。指令、检索内容、记忆和权限，即使没有更换底层模型，也能改变行为。
类比指出监督缺口，却不是现成的检验制度。批准一个固定模型，不能证明所有外围应用都符合安全要求。模型开发商、云托管方、应用商和企业部署者各控制不同风险。基准能描述模型，却不能证明连接客户文件或金融工具的智能体安全。
微软通过云设施、模型、Azure、Copilot 与 OpenAI 关系参与多个层级。这使 Smith 的论点有实践分量，也意味着公司不能自称中立旁观者或单纯基础设施供应商。
微软的负责任 AI 计划列出公平、可靠、隐私、透明、问责与包容，并包含内部审核、工具和报告。这可在立法前建立有用控制，但规则仍由公司定义，原则不证明每项产品或客户配置都安全。
紧急刹车不是撤销按钮
Smith 支持“紧急关闭开关”，意指能够暂停或限制越界行为，而不一定是一个物理按钮。撤销凭证、切断工具、限制支出、停止工作流和隔离端点作用于不同层级。若原服务本身被攻破，还需要人工权限、技术分离和经过测试的升级程序。
9 月 22 日的问责讨论也涉及监测、支出上限，以及基础设施、模型、数据和应用分担责任。分层可能造成各供应商互相归责，客户却缺乏重建事件的证据。
停止原进程不能收回已泄露数据，也不能自动撤销下游接受的有害决定。因此，最小权限、重大行动审批与敏感环境隔离必须先于紧急响应。提示注入说明风险：智能体读取材料中的恶意指令可能被误认为有权威，工具访问会把错误变成外部行动。
监测需要能指导应对的信号，不只是日志：异常访问、意外工具、异常支出或反复绕过限制。名义监督者若不理解行动、没有中断权就无效。恢复还需保存证据、通知并识别已完成操作。
也不存在能控制互联网所有模型副本、开放权重修改版和恶意部署的万能开关。集中云规则不会自动适合可下载系统。应按实际控制与缓解能力区分开发、分发、托管及高风险部署义务。
受害者救济是提案的一部分
Smith 的要求包括对受害者的法律义务，不只是更好文档。可行救济应审视谁知道风险、谁控制相关决定、谁有机会阻止伤害。这是政策问题，不是宣称每次智能体事件都已由同一主体承担赔偿。
开发商不应自动承担无关应用忽略已知限制造成的所有损失；部署者也不应吞下提供商隐瞒漏洞的一切后果。责任链必须同时避免全面免责和把所有损害推给实际操作系统的客户。
强制事件报告能发现单个买家难汇总的重复失败。门槛应区分普通回答错误与未经授权访问、重大财务损失、关键服务中断、人身伤害或大规模敏感数据暴露。过宽会淹没监管者，过窄会压制警示。
公司争执原因时，独立调查者需要技术证据；披露又应保护个人数据，避免修复前公开可利用细节。因此，赔偿、证据访问和隔离必须协同设计，而非互不相干的公共承诺。
欧洲、华盛顿与伦敦的路径不同
欧盟《人工智能法》框架已经按风险分配义务，并对通用模型规定文档、透明与系统性风险要求。AI 办公室可索要文档、评估模型、要求纠正并处罚不合规。这说明不能笼统说 AI 完全不受监管。
覆盖仍随司法辖区、行业、系统和生效日期不同。美国常侧重自愿承诺与行业防护，适应快，但公司自行定义承诺，外部未必有证据。僵硬审批也可能审完即过时，而模糊原则又缺少干预依据。
稳定义务结合可更新技术标准是一种平衡。风险评估、报告、控制和独立评价，不必规定每种工程方法；标准机构更新测试，监管者保留执行权。沙箱和共用合规资源也可帮助小公司，而非让每家创业者自造体系。
Smith 表示，华盛顿对伦敦与布鲁塞尔的看法不同，英国因此有机会。英国官员正准备更强监督，但原稿没有证明新法已完成。问题是提案能否定义系统、责任方、门槛、证据访问和执法，还是又一项自愿协议。美国与中国竞争也增加速度压力，却不消除安全失败后果。
更强规则也必须约束微软
提议背后有合理商业疑虑。大公司已有合规团队、安全设施和政府关系；若规则只是认可现有安排，可能对小竞争者造成不成比例负担，把安全变成既有企业护城河。这不否定风险，但动机必须一并审查。
要求应跟随能力、实际控制和已显示风险，不只是企业规模，也不能自动豁免某类分发。开放模型控制边界不同；过宽限制集中开发，过弱规则则让不负责运营者换个分发方式就躲开保护。
因此微软应说明已有紧急控制、如何测试、何时升级，以及合同如何在微软、模型伙伴、应用商与客户之间分配责任。若只公布原则，却把后果全部推给客户，会削弱受害者保护主张。
独立测试应覆盖跨服务停止、选择性撤权、重建已完成行动和恢复，并提供可比较的测试范围与已知失败证据。这不要求公开权重或敏感防御，但必须让客户比较限制，并确认管理员确实能使用法律所倡导的控制。
可检索 AI 知识库可保存批准用途、负责人和部署决定，但它是辅助文档，不是隔离措施。下一步决定性证据是英国具体提案、独立测试的紧急控制与覆盖供应链的责任规则。只有产生包括约束微软在内的可执行义务和救济，Smith 的类比才不只是一句醒目警告。