OpenAI公布Astra初步网络安全评估：强化AI智能体安全防护

OpenAI 8月7日在官网发布文章《应对关键网络能力的新前沿》，首次公开其智能体 Astra 的初步网络安全评估，并介绍了为强化安全防护与安全控制所采取的步骤。

文章称，这些评估是"初步"的，意味着对 Astra 在网络安全领域潜在能力的摸底仍处于早期阶段，相关结果将随模型迭代持续更新。

OpenAI 同时披露了正在推进的安全措施，包括加强安全防护和安全控制，以应对前沿模型能力提升带来的新风险。

这一披露的背景是，AI 智能体正承担越来越多的自主任务，网络攻击者与防御者都在尝试借助大模型的能力。

OpenAI 公开评估结果的做法，为大模型安全评测提供了一个参照，也把大模型在网络攻防中的双刃剑风险摆上台面。

对行业而言，头部实验室主动公开安全评估，有助于推动模型安全评测走向透明化，也为监管讨论提供了素材。

后续值得关注的是，OpenAI 是否会披露更详细的评估方法与数据，以及这些安全控制将如何随 Astra 能力的迭代持续演进。