Anthropic 起草“关停法案”：损失超 10 亿美元或 50 人伤亡才可叫停前沿模型

据 PYMNTS 10 月 21 日报道，Anthropic 正在向立法者推销一份自己起草的法案，规定联邦政府在什么条件下可以叫停一个前沿 AI 模型。草案把门槛设得很高：只有当模型构成可预见的、迫在眉睫的、超过 10 亿美元损失的风险，或可能造成 50 人以上死亡或重伤时，政府才能出手。

触发条件被限定为三类危害来源：生物武器、网络攻击，或者模型脱离开发者的控制。程序上由美国商务部牵头，但真正下令暂停的必须是哥伦比亚特区联邦地区法院的法官，商务部要说服法院相信灾难性风险确实紧迫；草案明确禁止其他任何联邦部门或官员通过这一机制叫停模型的开发、部署或内部使用。

草案还设计了外部评估环节。独立评估机构可以向商务部注册，开发者可以付费聘请，但报酬不得与其评估结论挂钩；评估机构需要按周期检查每家前沿开发者的安全实践和模型能力，一旦发现上述三类紧迫风险，须在评估结束后 72 小时内上报商务部，再由商务部决定是否诉诸法院。

争议集中在数字上。草案没有设置更低一档的门槛：如果风险只涉及 10 个人、或 2 亿美元损失，联邦政府不会启动任何行动。报道同时指出，草案没有说明评估方、商务部和法官要如何在一个攻击发生之前，为它标出一个 10 亿美元的价格——需要估算模型能攻陷多少系统、宕机多久、停机成本多高。

现实数据让这条线显得更宽。IBM 2026 年的报告显示，AI 参与的入侵平均每次造成约 600 万美元损失，四分之一的恶意入侵与 AI 有关；FBI 在 2025 年记录了 22364 起涉及 AI 的投诉，报告损失 8.93 亿美元。单次事件很难越过 10 亿美元，但这些损失会累积。

AI 安全组织 Encode 的创始人 Sneha Revanur 对 50 人这条线提出质疑：为什么政府必须证明模型可能伤害 50 人才能行动，而不是 49 人或更少。这一质疑由《华盛顿邮报》报道。

这份草案的意义在于，它把“什么情况下可以关掉一个前沿模型”从原则争论变成了可执行的联邦程序：谁评估、谁上报、谁起诉、谁裁决，都落到了具体机构。它同时暴露出监管最难的部分——对危害的货币化预测，以及如何把跨企业、跨时间的累积损失计入单一事件。

接下来要看的是：这份草案是否会被正式提交国会、议员会不会改写门槛、以及其他前沿实验室是否提出自己的版本。在各州立法与联邦监管权之争同时进行的背景下，Anthropic 这份文本更像是一个谈判起点，而不是终点。