在拟于10月5日举行的听证会前,纽约市议会取得 OpenAI、Anthropic、Google、Meta 派代表宣誓接受 AI 风险询问的承诺。重点不只是另一份自愿安全宣言:议员正考虑外部验证、举报激励、事件公开和法律救济,要求安全主张能够对应具体证据。
会议安排在市政厅上午11时,以全体委员会形式交由51名议员,而非一个常设委员会审议。议程有一项监督事项和九项立法提案。整套方案仍是草案,不是最终投票或已生效法律;会前报道没有完成的证词、会议记录和立法结果。
出席问题变成问责争议
Meta 在强制程序威胁前同意派高级代表。OpenAI 和 Google 在传票警告后同意,Anthropic 最初拒绝,临近期限才确认。市议会将拟议会议描述为四家公司首次就 AI 危险和立法回应公开宣誓作证。这是议会的说法,不证明证人最终承认了什么。
Bloomberg 报道预计由政策与安全官员而非 CEO 代表实验室。他们回答技术问题的权限,与公司名字同样重要。公开回答问题,不等于让外部获得核实答案所需的证据。
议长 Julie Menin 还向未回应初次邀请的 SpaceXAI 发出传票。议会称,若不遵从,可向纽约州最高法院申请强制执行。后续地方报道称该公司预计参加,预期不能被改写成已经完成的证词。
前 Anthropic 研究员 Jacob Coxon 也被报道为预期证人,同列者有前 Google DeepMind 研究员 Alex Turner,以及领导 AI Futures Project 的前 OpenAI 研究员 Daniel Kokotajlo。报道称 Coxon 曾在 OpenAI 和 Anthropic 研究预训练,9月离职。预训练是后续精修前的大规模学习阶段,这与其所称内部视角有关。
报道将一项警告归于 Coxon:构建先进 AI 的人相信它可能在本十年结束前毁灭人类。这是极端的个人风险主张,不是已确立预测。Reuters 说无法独立核实 Bloomberg 关于他拟出席的报道;市议会另行引用他的辞职来解释听证原因。这些证据层次与核查企业保证同样重要。
提供模型前先验证的提案
议程 T2026-2602 拟禁止未经第三方验证就在纽约营销、销售或部署适用 AI 模型,并要求人类操作者具备技术停机能力。任务表现、差别影响、隐私、安全,以及停机机制是否有效,都属于评估方向。
验证者须披露与模型相关的利益,并报告是否通过或适合部署。Cyber Command 将制定实施规则及资格。提案对验证者与开发者均设责任:民事罚款可达25,000美元,未经必要验证提供或部署每例固定25,000美元,伪造验证也可面临同额。
外部评估能挑战内部常态、比较供应商并核验安全表述,也可能因访问、技能或时间不足而失败。开发者付费的验证者可能面临批准客户的压力,披露关系有益却不能消除经济依赖。合规文件不等于风险已降低。
停机要求也需要边界。托管方能关掉服务访问,却未必收回复制输出、导出产物、客户集成或已触发的下游行动。停用模型服务与遏制事件并非同一结果。规则需要明确停什么、谁控制、哪些部署适用。
举报、投诉与两个报告时钟
一项提案允许向消费者与劳动者保护局投诉适用 AI 违规。该局通常调查,但排除轻率、虚假和重复投诉。如果城市依据举报事实追案,投诉人可获得回收款项25%;若获指定送达违规通知或提起民事行动,可增至50%。
激励针对员工和承包商可能掌握、外部看不到的评估设计、内部警告和部署决策。另一草案澄清市雇员及适用承包商的举报保护,针对合理相信 AI 开发或使用构成重大、具体公共安全风险的报告。不能把它说成所有私人企业员工的全面保护。
奖励还需要资格、保密、敏感证据处理,以及争议事实最早来源的程序。薄弱或策略性投诉会耗费能力。保护可信披露,要与企业反驳不实指控的正当程序并存,公开也不能泄露个人信息、可利用缺陷或受保护技术资料。
对适用市政合同,机构和承包商须在发现应报 AI 安全事件后24小时内通知 Cyber Command,后者再于另一个24小时内公开报告事件。这是先后两个时钟,不是每个聊天错误的普遍义务,也不表示所有事件发生24小时内都必须公开。
责任与营销不只涉及模型公司
T2026-2600 拟给予私人诉权:商业可用模型因第三方恶意或不当使用造成危害时,可对企业起诉。主张需要可预见危害,以及与滥用相关的防护不足,并不把每个坏输出都变成开发者自动责任。
可预见性是争议边界。开发者不能阻止一切恶意指令或修改,但可预测滥用也不会因为最终请求由他人提交就变得不可预见。评估、滥用预测、警告和发布决定将成为证据,而非只留在内部政策争论里。
其他提案涉及聊天机器人隐私、安全、透明度和用户访问权。提供者不得暗示建议等同持牌专业人士。模型广告须披露第三方验证状态,重大虚假或误导安全主张可罚至25,000美元。应急规划也是方案一部分,与严重失效和停机问题相连。
责任会触及验证者、分发者、部署者、市承包商、机构、广告方与买家,不只四家实验室。底层开发者提供能力,应用定义工作流,客户授予数据与工具权限。接入邮件、数据库、支付或代码仓库的聊天模型,与孤立对话界面的风险不同。
招聘审计先例范围更窄
Local Law 144 已限制雇主和就业机构在没有近期偏见审计及必要通知时,使用适用自动化招聘决策工具。执法自2023年7月开始。它建立地方外部审计先例,不证明更广模型验证会容易实施。
招聘工具有定义明确的任务、用户和决定,通用模型却能做编程、法律起草、研究、客服和智能体行动,风险随集成变化。新提案中的营销、销售、部署,带来模型与应用、更新与新发布、供应链责任之间的定义问题。
模型在外地训练、另一州托管,经中间商供纽约居民使用,会产生地方管辖难题。城市有消费者、采购和经营权限,纽约市场也能影响域外供应商,但影响力不自动等于可执行性,更不控制国家研究、芯片出口或全部外部部署。
弱标准可能给误导保证盖章,模糊且广泛的标准也可能阻碍有益服务,偏向能承担成本的大企业。因此,议会“支持创新也支持安全”的定位,依赖定义、复核规则和技术可行义务,而不是口号。
质疑与保证都需要可测试证据
前员工的灾难预测应与特定系统、能力和决策的已记录发现分开。企业的安全文化表述也不能证明对抗测试有意义,或员工能在商业压力下阻止发布。警告和保证应接受同样证据标准。
有用问题包括谁能推迟部署、谁可推翻决定、分歧后留下何种记录、外部评估者获得什么访问、更新后如何重新验证。企业模式也不同:OpenAI 和 Anthropic 重前沿与安全研究,Google 跨搜索、云、生产力和消费服务,Meta 将模型、平台与广告结合。共同义务仍需按背景实施。
投诉与披露机制需要调查者、技术能力、保密和资源。Cyber Command 与消费者保护官员不能仅靠企业保证执行广泛任务。发现未验证部署、区分小变更与新系统,都是实际工作,不会因法律字面自动完成。
买方有用的资料包括模型版本、测试案例、评估日志、访问控制、事件决策和防护更改。可搜索知识库能保存背景,却不能替代独立评估、权限或响应。缺记录时,问责就变成对记忆的争论。
听证会如何才会有实质意义
会前计划提出三项检验:具体宣誓证据、有意义的草案修改、可信执行路径。评估方法、升级规则与发布阈值,比泛称负责更有用;内部人士提供机制,也比只有灾难预测更有用。
适用模型、部署、验证续期、人类停机、合理防护和举报资格的定义,决定义务是否可行;机构人手、访问、规则和调查,决定能否执行。出席承诺本身不能证明任何结果。
议会行动让真实问责问题显现:证据在哪、谁能检查、警告被忽视会怎样?应据此评价会前提案,而不是将它们报道成生效义务,或当作企业已经回答问题的证据。
来源与相关阅读
市议会听证会议程 · Coxon 出席报道与核验限制 · 市议会立法提案 · 既有招聘审计规则 · 知识库治理 · 企业作证安排 · 原始 Bloomberg 报道
