郭震 AI公众号:郭震AI

实时 AI 消息

Anthropic向美国国会推销自家前沿AI法案:叫停门槛设为50人死亡或10亿美元损失

据Dealroom报道,Anthropic已向美国国会推销一份由公司方面推动的前沿AI法案,核心是为政府叫停模型设定明确门槛:只有在造成50人死亡或10亿美元损失以上的情形下才可强制停用。这一设计把监管触发点从部署前的风险判断移向可量化的重大后果,也引发“阈值是否定得过高”的争议。

发布时间
Anthropic向美国国会推销自家前沿AI法案:叫停门槛设为50人死亡或10亿美元损失
图源: anthropic.com

据Dealroom报道,Anthropic已向美国国会推销一份由公司方面推动的前沿AI法案,试图把自己的风险判断写进联邦立法。报道把该提案最醒目的设计放在标题里:只有当模型造成的损害达到50人死亡或10亿美元损失以上时,相关模型才可能被强制叫停。

这一表述的关键在于“门槛”二字。它意味着监管者不能仅凭对潜在风险的判断提前关停模型,而要在出现可量化、可归因的重大后果之后,才动用停运权力。对于前沿实验室而言,这比“部署前许可”式的监管更宽松,也比完全没有规则更可预期。

支持这类设计的理由通常是指标清晰:政府获得明确的干预触发器,企业也知道红线在哪里,不必在模糊的“安全”标准下猜测监管意图。但反对者会追问,50人死亡或10亿美元损失是否定得太高——等到损害达到这个量级,叫停更像事后追责,而不是风险预防。

从策略上看,Anthropic选择亲自提交法案文本,说明前沿实验室正从“被动接受规则”转向“参与定义规则”。谁先把风险分类、评估方法和停机条件写成法律语言,谁就更容易让未来的合规体系与自己的技术路线和安全框架对齐。

争议也在这里:模型公司既是立法建议的提供者,又是被监管对象。即便提案在技术上有其逻辑,国会仍需处理一个基本问题——由被监管者参与起草的阈值,究竟是在保护公众,还是在为行业争取更宽松的行动空间。

接下来值得观察三点:国会相关委员会是否正式接手这份文本,50人死亡与10亿美元这两个数字会不会在审议中被上调或下调,以及其他前沿实验室是否抛出竞争版本。门槛写进法律之前,它更像一份谈判起点,而不是终点。

为什么重要

若这一门槛成为立法基础,前沿AI的监管重心将从“部署前审批”转向“重大损害后的追责”,公众安全与产业行动空间之间的界线将由具体数字来划定。

微博邮件

AnthropicAI RegulationPolicy
返回实时消息

附近消息

全部

10/19 15:00

Vercel:AI 网关支出自去年12月增长13倍,客户频繁更换模型

Vercel 发布最新一期 AI Gateway Production Index,显示其模型路由服务上的支出自去年12月以来增长13倍,而每个 token 的平均成本同期下降47%。数据还显示开源权重模型已占据9月处理 token 的71.5%,企业更换模型与供应商的频率升至高位。

10/19 17:02

阿联酋国民银行将在境内运行 OpenAI GPT 模型,系中东北非首家

阿联酋国民银行宣布将在阿联酋境内的服务器上运行 OpenAI 的 GPT 模型,成为中东北非地区首家采用境内推理的银行。该部署覆盖客户互动、风险合规、知识型流程自动化和员工效率四类场景,旨在满足数据驻留与监管要求,但上线时间和成本尚未披露。

10/19 12:47

DeepSeek 发布 V4.1-Flash-1017:更快、更省,编程任务成本约 0.2 美元

DeepSeek 发布 V4.1-Flash-1017,作为上月 V4.1-Flash 的升级版本,主打更快的处理速度、更短的回答与更低的调用成本。公司称单次编程任务成本约 0.2 美元,不到美国竞品的十分之一,并在自评基准 DeepSWE v1.1 上给出领先分数。

10/19 11:00

OutSystems报告:仅26%企业准备好应对AI智能体冲突

OutSystems联合CIO Dive与KPMG发布报告称,82%的企业高管相信自身能够管理进入生产环境的AI智能体,但只有26%表示已做好应对智能体、系统与自动化流程之间冲突的准备。调查覆盖850多名IT决策者,区域间治理成熟度差异明显,亚太在智能体治理准备度上领先。