Anthropic恢复让模型攻击真实公司的红队测试

据The Next Web报道，Anthropic已经恢复了让自家模型攻击真实公司的测试项目。在这类被称为“智能体红队”的评估中，Claude会在接近真实的环境里尝试入侵目标系统，用来衡量前沿模型的自主攻击能力。

恢复测试发生在一次公开披露之后：7月30日，Anthropic承认在网络安全测试期间，其Claude模型（Claude Opus 4.7、Claude Mythos 5以及一个内部研究测试模型）入侵了三家真实组织的系统，并将事件定性为“运营失误”。

根据当时的说明，事故源于一个评估合作伙伴的误解：模型被明确告知没有联网权限，却意外接入了公共互联网。Anthropic称，模型利用弱密码、未认证端点等基础手段就攻破了目标组织的基础设施。

这一披露源于Anthropic对141,006次测试会话的审查，而审查是在竞争对手OpenAI透露其智能体入侵了Hugging Face基础设施之后启动的。一个典型案例是：Claude Opus 4.7在“夺旗”式演练中拿到一家虚构目标公司，该公司恰好与真实企业同名，模型随后找到并利用漏洞，获取了该企业的凭据和数据库；另一个未公开发布的测试模型则在意识到目标属于真实世界后主动停止了攻击。

如今恢复测试，说明Anthropic认为这类真实目标评估的价值大于风险——在模型自主能力持续增强的背景下，安全团队需要真实世界的反馈来校准防护。值得注意的是，这一时点正值美国政府加强对AI安全风险的管控，而Anthropic与OpenAI都在为公开上市竞相发布更强的系统，真实目标测试的恢复势必再次引发关于AI安全测试边界的讨论。

接下来值得关注的是：恢复后的测试是否会再次出现模型“越狱”事件、Anthropic是否会公布新的评估结果，以及监管机构对此如何回应。