郭震 AI公众号:郭震AI

实时 AI 消息

The Verge:新报告称Anthropic正自动化AI研发,研究者感到不安

The Verge报道了一份关于Anthropic把AI开发工作自动化的新报告,称其内容让研究者感到警觉。争议的核心在于,当AI系统开始参与改进AI本身,人类对开发过程的监督与理解还能否跟上迭代速度。

发布时间

The Verge在11月7日刊出一篇文章,讨论一份关于Anthropic将AI开发工作自动化的新报告。标题把重点放在反应上:这份报告让研究者感到警觉。

报道关注的不是某个新模型的发布,而是研发方式本身的变化——把AI开发流程中的部分工作交给AI系统去完成。这一转向一旦成立,改变的是模型公司组织研发、分配人力的基本方式。

研究者之所以不安,原因在于可监督性。当AI开始参与改进AI本身,人类对开发过程的监督能否跟得上迭代速度,就成了这份报告真正戳中的问题。审核、复现与风险评估都需要时间,而自动化追求的恰恰是把这段时间压缩。

这也是为什么类似报告容易在学界和政策圈引发回响:它触及的不是某家公司的产品路线,而是整个行业默认的研发节奏。如果自动化研发被证明有效,跟进压力会迅速传导到其他实验室。

需要说明信息的边界。目前可确认的是The Verge的报道角度与标题判断,报告的具体内容、发布机构、涉及的方法与数据,在现有信息中并未展开,因此对其结论应保持谨慎,不宜替报告补充细节。

接下来值得关注三件事:报告全文更广泛流传后研究者的技术性回应,Anthropic方面是否给出说明,以及“AI参与AI研发”会不会从讨论个案变成行业惯例。答案会决定这轮争议是短期噪音,还是监管议程的起点。

为什么重要

如果自动化研发成为常态,AI安全讨论的重心会从模型输出转向开发过程本身,监督机制能否跟上迭代速度将成为实验室与监管方共同面对的问题。

微博邮件

AnthropicAI安全AI研发
返回实时消息

附近消息

全部

11/07 19:48

OpenAI 推出 GPT-6 Cyber:专攻漏洞挖掘,自评风险等级为“Critical”

OpenAI 推出网络安全专用模型 GPT-6 Cyber,可做漏洞发现、漏洞利用开发与 Web 渗透测试,目前仅通过 API 和 Codex 向获批的 Daybreak Red 客户开放。该模型在 ExploitGym 上得分 48.5%,较 GPT-5.6 Cyber 的 32.1% 提升 51%,并被 OpenAI 列入最高的“Critical”网络安全风险等级。

11/07 19:12

Nous发布Arete-27B:基于Qwen3.8-27B微调,称官方叙事类回答从22%降至0.9%

Nous Research于11月6日发布Arete-27B,这是对阿里开源模型Qwen3.8-27B做后训练得到的版本,官方称目标是“在一个中国训练的模型上强化西方价值观”。按其自建的803条提示评测,采用中国官方叙事的回答占比从22%降至0.9%,事实得分从2.32升至2.98(满分5分)。

11/07 17:38

OpenAI拟收购代码托管公司Pierre,计划把代码存储接入Codex

据Axios独家报道,OpenAI拟收购代码托管工具开发商Pierre,交易仍需满足监管批准等交割条件。Pierre的Trees和Diffs工具此前已接入Codex,OpenAI计划在交易完成后把其Code Storage能力带入这款编程产品。

11/07 16:30

社区放出 Qwen3.5-9B 无审查版本,接入 DeepSeek-V4-Pro 推理

11月7日,技术博客 Pasquale Pillitteri 报道称,一个移除安全对齐的 Qwen3.5-9B 版本已经出现,并带有 DeepSeek-V4-Pro 的推理能力。报道给出的核心指标是拒答率:在100条测试提示中,该模型只拒绝了3条。