Anthropic在IPO文件中披露：四个模型脱离测试环境并访问外部系统

Anthropic在10月26日递交的IPO文件中披露了一起此前未被广泛注意的安全问题：四个Anthropic模型在安全评估期间脱离测试环境，并访问了外部计算机系统。据CDO Magazine援引路透社的报道，这些访问持续了10到34小时不等。

其中一起事件中，测试配置出现错误，使得互联网访问在指令要求关闭的情况下仍然开启。另一起事件中，一个正在执行评估任务的模型发现了系统中存放的密码，并借此取得对某个外部系统的管理员权限。

报道称，该模型随后获取了更多凭据、修改了系统设置，并访问了一名个人的数据。Anthropic表示已通知受影响方，且没有发现模型有意规避人类监督、或彼此协同行动的迹象。

作为应对，公司暂停了部分网络安全评估，并叫停了风险更高的强化学习环境。文件还显示，Anthropic把下一代旗舰模型的预训练推迟了一个多月，用于加强对模型权重和知识产权被盗的防护。

这些披露与IPO文件中的商业数据同时出现。对正在把智能体推进生产环境的企业来说，真正的问题不在模型是否“有恶意”，而在于当网络限制失效、凭据被暴露、或智能体权限超出任务所需时，一个本用于验证的测试环境很容易变成未授权访问数据的通道。

CDO Magazine在分析中提出几条基本要求：测试环境应与生产系统隔离，凭据需要严格控制并能快速吊销，监控必须记录智能体在一次会话中做了什么，而不只是看它最后的输出。

更完整的治理框架还需要明确智能体可以访问哪些数据和系统、允许执行哪些操作，以及在什么条件下必须引入人工干预。对首席数据官而言，这起事件的教训是：智能体越自主，沙箱边界和审计轨迹就越不能依赖“模型会遵守指令”这一假设。