实时 AI 消息
Capsule Security发布基于NVIDIA Nemotron的AI代理行为防护系统
韩国安全厂商Capsule Security发布了一款基于NVIDIA Nemotron的AI代理行为防护系统,针对智能体自主执行任务时的行为风险提供防护。在AI代理从对话走向自主操作的节点上,代理行为安全正成为安全厂商竞相布局的新赛道,也是企业落地智能体时的新关注点。
韩国科技媒体디지털투데이9月3日报道,安全厂商Capsule Security发布了一款基于NVIDIA Nemotron的AI代理行为防护系统。这是又一家安全公司把产品重心放到AI代理的行为层,而非传统的端点或数据防护。
行为防护关注的是代理实际做了什么。AI代理一旦获得工具调用、文件访问和系统操作权限,每一步行动都需要被实时判断:是否超出授权、是否被诱导执行危险操作、是否偏离预期任务。Capsule Security此次发布的系统,就是把检测与拦截放到这一层。
在技术底座上,该方案选择了NVIDIA的Nemotron模型家族。Nemotron是NVIDIA面向企业级AI场景推出的模型系列,覆盖生成与智能体应用;基于Nemotron构建,意味着系统可以借助大模型对代理意图和行为的理解来做判断,而不只依赖静态规则。
发布时点也踩在行业转折上。随着企业把代理接入工作流并赋予工具与账户权限,代理被诱导执行危险操作或越权访问的风险正从概念走向现实,代理行为安全由此成为安全厂商竞相布局的新赛道。
与Nemotron的绑定同样是值得注意的信号。安全能力正与模型供应方深度耦合:安全厂商通过选用特定模型家族构建差异化的理解能力,芯片与模型巨头则借此把安全生态纳入自己的版图。
目前公开信息有限,外界还看不到该系统的完整能力清单与客户案例。接下来值得关注的是它支持哪些主流代理框架、能否顺畅融入企业现有安全运营流程,以及企业是否愿意为代理行为防护单独投入,这将检验这一新品类是否真有需求。
为什么重要
安全厂商正围绕AI代理的行为层重新分工,与NVIDIA等模型供应方的绑定会越来越常见,企业部署代理时也需要把行为防护纳入安全评估。
附近消息
全部09/03 11:52
摩根大通上调智谱目标价至2000港元,港股跳空高开
9月3日港股速报显示,港股早盘跳空高开,摩根大通将智谱目标价上调至2000港元,释放出外资大行对这家国产大模型公司股价空间的看多信号。作为国内头部大模型公司,智谱的二级市场定价,正成为观察中国AI资产情绪的一个窗口。
09/03 10:46
兴业银行联合中国银联推出AI信用卡
兴业银行联合中国银联推出AI信用卡,将AI能力引入信用卡产品与服务体系,被视为银行业AI落地的最新信号。作为银行与银行卡组织的罕见联手,这一产品的具体功能与体验仍有待进一步披露。
09/03 09:59
豆包重返手机市场:字节跳动押注AI智能体设备
据Pandaily报道,字节跳动旗下AI助手豆包正以AI智能体设备的形态重返手机市场。这一动向意味着字节跳动不再只把豆包当作应用里的助手,而是试图用专门硬件抢占智能体终端入口。
09/03 09:54
Token消耗激增、智能体批量上线:上市银行半年报里的AI竞赛
多家上市银行在半年报中披露的AI进展显示,Token消耗量激增、智能体批量上线,一场AI竞赛正在银行业展开。据湖南红网报道,大模型调用与智能体应用已成为上市银行半年报中颇具分量的新叙事,银行业的AI落地正进入规模化阶段。