实时 AI 消息
Anthropic研究员辞职并公开警告:公司正“直奔自我改进超级智能”,对齐负责人联署
一名 Anthropic 研究员本周辞职,并在 X 上公开警告称,公司“正在直奔自我改进的超级智能,拿我们的生命冒险”。Anthropic 自身的对齐负责人在这则信息上联署而非出面淡化,加之有报道称公司正在筹备 IPO,使这条来自内部的警告的时机格外引人关注。

本周,一名 Anthropic 研究员宣布辞职,并在 X 上发帖警告称,公司正在“直奔自我改进的超级智能”,等于“拿我们的生命冒险”。这条来自实验室内部的公开警告很快在业内传播,成为围绕前沿 AI 公司安全文化的最新争论焦点。
更值得注意的是,Anthropic 自身的对齐负责人在同一则信息上联署,而不是出面淡化或撤回这一说法。安全团队负责人公开为一名离职员工的末日式警告背书,在企业内部相当罕见,这也让事件从个人情绪表达变成带有组织信号的公开表态。
TechCrunch 的 AI 播客节目在本周节目中讨论了这件事。节目指出,这类“末日论”警告在 AI 行业并非第一次出现,过去几年里,前沿实验室的员工和研究者多次以类似措辞提醒外界注意风险,而这一次的不同之处在于发声者的身份以及公司内部的反应方式。
TechCrunch 强调,时机让这件事的意味变得不同:有报道称 Anthropic 正在筹备 IPO。对一家被报道正走向公开市场的公司来说,内部安全人员的公开异议很难被投资者忽视,安全议题也因此从技术讨论延伸到公司治理层面。
放到更大的背景下看,前沿模型公司正处在算力、人才与商业化多重竞赛之中。竞争越激烈,安全团队与产品团队之间关于节奏的张力就越容易被摆上台面,而离职员工的公开发声往往成为外界观察这种张力的窗口。
从目前披露的信息看,这位研究员的身份与后续去向尚不清楚,公司是否会就此公开回应也有待观察。因此,这条警告眼下更像是一个关于内部文化的信号,而不是一次完整的事实交代。
接下来值得关注的有两点:一是 Anthropic 如何回应这条来自内部的警告,尤其是在据报筹备上市的敏感阶段;二是这一事件是否会改变外界对前沿实验室安全承诺可信度的判断。
为什么重要
对一家据报正筹备上市的前沿 AI 公司来说,来自安全团队内部的公开异议会放大外界对“速度优先于安全”的担忧。公司是否以及如何回应,将决定这一话题是迅速平息还是持续发酵。
附近消息
全部09/12 02:02
网商银行外滩大会首次披露AI银行进展:百灵2.0面向4200万小微商家开放
在2026外滩大会上,网商银行首次披露其AI银行落地进展:全球首个小微普惠金融Agent「百灵2.0」已面向4200万小微商家开放。后台的八大AI工作台已覆盖风控、人审、营销与产研等核心生产环节,AI Coding占比提升一倍,15%的业务修改需求由AI完成。
09/12 03:35
Kimi 开发商月之暗面瞄准 20 亿美元年收入目标
TechCrunch 报道,Kimi 的开发商月之暗面(Moonshot AI)将年收入目标定在 20 亿美元。报道同时提到,OpenRouter 数据显示 K3 系列模型每天生成最高约 3000 亿 token,但近几个月其使用量略有下滑。
09/12 00:46
Nscale 在潜在 IPO 前引入前 OpenAI 高管 Fidji Simo 进入董事会
据 TechCrunch 9月11日报道,Nscale 在筹备潜在 IPO 之际,将前 OpenAI 高管 Fidji Simo 纳入其董事会。Simo 曾是 OpenAI 的二号人物,并带领 Instacart 完成了 2023 年的上市。
09/12 04:57
25位菲尔兹奖得主联名公开信:AI实验室正在威胁数学家的学术工作
25位菲尔兹奖得主联名发表公开信,指出AI实验室为抢先攻克著名数学难题,正在威胁数学家的学术工作与署名权益。同周,纽约大学教授Tristan Buckmaster指控OpenAI施压他不要为一名在Anthropic任职的合作者署名,OpenAI则在周四撤回了对加州理工一场数学活动的赞助。