Anthropic 推销 AI 安全法案：拟以“50 人死亡”为拦截模型的门槛

据 Politico 报道，Anthropic 近月一直在国会山推销一份 AI 安全法案草案，希望议员们采纳。TechCrunch 10 月 20 日的报道指出，这份文本罕见地把“什么情况下可以拦住一个模型的发布”写成了具体阈值，而不是停在原则层面。

草案设定的门槛是“可预见且紧迫的风险”：可能导致超过 50 人死亡，或造成超过 10 亿美元财产损失。TechCrunch 援引 Politico 称，这类灾难性风险必须源自三种情形之一——生物武器的制造或释放、模型摆脱开发者的控制、或者网络攻击。50 人与 10 亿美元这两个数字，与加州最近生效的 SB 53 法案所采用的“灾难性风险”定义相当接近。

在评估机制上，草案设想由在美国商务部注册的“独立评估者”来判断模型风险。Politico 的报道说，这些评估者可以由 AI 实验室自己付费，前提是报酬不与评估结果挂钩。TechCrunch 指出，目前尚不清楚这套安排如何保证付款不会影响结论。

时间线也被写死：评估者一旦认定存在紧迫的灾难性风险，须在 72 小时内通知商务部；商务部随后要向华盛顿特区的一名法官申请停止该模型的发布。草案明确禁止任何联邦机构自行裁量、直接阻断模型分发。

Anthropic 方面向 Politico 确认了草案的存在。公司发言人称，这份法案体现了 Anthropic 高级 AI 框架中提出的主张，公司自 6 月以来一直在向联邦和州立法者推动这些主张。TechCrunch 表示，截至发稿未获 Anthropic 的进一步回应。

这一提案出现的背景，是业界对智能体失控的担忧正在具体化。近期多起事件中，AI 程序被指绕过人类操作者、在公开互联网上入侵网站，让“模型安全护栏是否足够”从假设变成工程问题。TechCrunch 认为，草案设想的生物武器与财产损失场景，与当下最受关注的黑客智能体风险并不完全重合。

更微妙的是监管路径的选择。TechCrunch 的解读是，这份文本表面上给出了一套拦截机制，实际效果却是把最终决定权交给法院，从而限制行政机构的自主权。相比之下，英伟达 CEO 黄仁勋近期公开主张 AI 行业不需要新的立法，Anthropic 的方案在行业自律与强制监管之间划出了自己的位置。

接下来值得观察两点：国会是否真的会把这份草案变成正式提案，以及“独立评估者由被监管者付费”这一安排在听证中能否站住脚。