Perplexity 将开源用于对抗失控 AI 智能体行为的安全软件

据 MarketScreener 10 月 15 日报道，Perplexity 计划开源其用于对抗失控 AI 智能体行为的软件。报道标题以将要开源的方式表述，指向一项正在推进的安排，而不是已经完成的代码释出。

目前公开信息只到这一层：将要开源的工具用于识别和应对智能体的异常行为。至于代码仓库地址、开源许可证、覆盖范围与时间表，报道标题与摘要都没有给出，还需要等 Perplexity 的正式公告确认。

之所以值得关注，在于智能体系统的风险面与传统软件不同。当模型可以自主调用工具、读写文件、发起支付或访问内部系统时，一次错误不再只是一次失败的请求，而可能是被连续放大执行的动作序列；提示注入、权限漂移与凭证滥用，都会把单点误判变成真实副作用。

应对这类风险通常需要运行时监控与审计层：记录每一次工具调用，判断动作是否越出既定权限，在出现异常时中断或回滚。这类能力过去多由企业安全团队自建或向商业平台采购，若以开源形式释出，更多自建智能体的团队可以低成本接入。

另一个影响是工具本身会被社区检验。开源意味着外部研究者可以审视检测规则的覆盖范围与误报率，也可能提出绕过方式的反馈；对一家同时提供搜索与智能体产品的公司来说，把内部防护手段交出去，既是安全姿态上的公开表态，也可能加快这类工具成为事实标准。

接下来的看点很具体：开源的是完整平台还是仅运行时组件，采用何种许可证，是否提供与常见智能体框架和 SDK 的集成示例，以及是否搭配托管服务或企业版。若落地，它将成为以开源方式做智能体治理的一个样本，也会给同类厂商带来跟进压力。