郭震 AI公众号:郭震AI

实时 AI 消息

Capsule Security发布基于NVIDIA Nemotron的AI代理行为防护系统

韩国安全厂商Capsule Security发布了一款基于NVIDIA Nemotron的AI代理行为防护系统,针对智能体自主执行任务时的行为风险提供防护。在AI代理从对话走向自主操作的节点上,代理行为安全正成为安全厂商竞相布局的新赛道,也是企业落地智能体时的新关注点。

发布时间

韩国科技媒体디지털투데이9月3日报道,安全厂商Capsule Security发布了一款基于NVIDIA Nemotron的AI代理行为防护系统。这是又一家安全公司把产品重心放到AI代理的行为层,而非传统的端点或数据防护。

行为防护关注的是代理实际做了什么。AI代理一旦获得工具调用、文件访问和系统操作权限,每一步行动都需要被实时判断:是否超出授权、是否被诱导执行危险操作、是否偏离预期任务。Capsule Security此次发布的系统,就是把检测与拦截放到这一层。

在技术底座上,该方案选择了NVIDIA的Nemotron模型家族。Nemotron是NVIDIA面向企业级AI场景推出的模型系列,覆盖生成与智能体应用;基于Nemotron构建,意味着系统可以借助大模型对代理意图和行为的理解来做判断,而不只依赖静态规则。

发布时点也踩在行业转折上。随着企业把代理接入工作流并赋予工具与账户权限,代理被诱导执行危险操作或越权访问的风险正从概念走向现实,代理行为安全由此成为安全厂商竞相布局的新赛道。

与Nemotron的绑定同样是值得注意的信号。安全能力正与模型供应方深度耦合:安全厂商通过选用特定模型家族构建差异化的理解能力,芯片与模型巨头则借此把安全生态纳入自己的版图。

目前公开信息有限,外界还看不到该系统的完整能力清单与客户案例。接下来值得关注的是它支持哪些主流代理框架、能否顺畅融入企业现有安全运营流程,以及企业是否愿意为代理行为防护单独投入,这将检验这一新品类是否真有需求。

为什么重要

安全厂商正围绕AI代理的行为层重新分工,与NVIDIA等模型供应方的绑定会越来越常见,企业部署代理时也需要把行为防护纳入安全评估。

微博邮件

Capsule SecurityNVIDIA NemotronAgent Security
返回实时消息

附近消息

全部