Anthropic 推销 AI 安全法案：损失超10亿美元或50人死亡才叫停模型

据 Pasquale Pillitteri 报道，Anthropic 正在向立法者推销一份 AI 安全法案，核心是一条极高的干预门槛：只有当 AI 造成超过10亿美元损失，或导致50人死亡时，政府才可以阻止相关模型继续运行。

把这两项数字写进法律，意味着监管的触发条件从“模型具备什么能力”转向“模型已经造成多大后果”。门槛之下，即便模型表现出令人不安的行为，监管机构也缺少直接叫停的法律依据。

这一立场之所以引人注意，是因为 Anthropic 长期把安全与可控性作为公司叙事的核心。如今由它自己提出一份偏重事后追责的法案，等于承认前沿 AI 的监管更适合在损害发生之后启动，而不是在部署之前预防。

对美国立法进程而言，这份提案把一个抽象争论变成了可以逐条讨论的条款。围绕前沿 AI 的联邦立法长期停滞，分歧往往卡在谁来判定风险、多高的风险才算风险；一个损失金额加一个死亡人数，至少给出了可讨论的锚点。

门槛设计也有明显争议。支持者会说，只有灾难性后果才值得动用最强的行政权力，这样可以避免合规成本压垮中小开发者；批评者则会指出，10亿美元和50条生命本身就是极高的代价，等到触发时，损害已经不可逆。

更难的问题在技术层面：损失如何计算，死亡如何归因，模型在因果链条中承担多少责任，多个模型协作造成的后果又该由谁承担。这些问题不解决，门槛写得再具体也难以执行。

接下来要看的是，这份提案是否会被议员采纳为正式法案文本，以及其他前沿实验室是否跟进表态。Anthropic 已经把价码摆上桌面，围绕 AI 监管的博弈由此进入具体条款阶段。