实时 AI 消息
Straiker 为 Workday Agent Passport 引入独立 AI 代理红队测试
根据公开的公告,Straiker 将其独立的 AI 代理红队测试能力引入 Workday 的 Agent Passport 产品。企业级代理平台由此多了一层第三方安全验证,而随着代理开始接触真实数据与操作权限,独立测试正成为代理治理链条中的新环节。
根据发布的公告,Straiker 将为 Workday 的 Agent Passport 引入独立的 AI 代理红队测试能力,让企业在代理平台上运行的 AI 代理获得第三方安全评估。
所谓红队测试,指的是由独立于产品方之外的团队,主动用攻击性手段找出系统的弱点。放到 AI 代理身上,测试对象不再只是模型会不会说错话,而是代理在被赋予工具调用与操作权限之后,会不会被诱导做出不该做的事。
Workday 的 Agent Passport 面向企业内部的代理管理与治理需求。代理一旦接入企业系统,往往会接触到敏感数据,甚至具备发起操作的权限,这使第三方安全验证成为治理链条中的关键一环。
独立测试的价值在于利益错位:厂商自测天然倾向于证明自己安全,而外部团队的目标是找到问题。随着代理从演示阶段走向生产环境,由第三方出具结论的做法,正在被更多企业纳入采购与上线前的检查清单。
目前公告披露的信息集中在能力引入这一动作本身,具体的测试范围、测试方法与报告形式,仍需以双方的官方说明为准。
值得关注的是这类合作能否成为常态。如果平台级与企业自建的代理都需要独立验证,围绕代理安全评估的工具与服务市场会随之成形,也会反向推动代理平台把可审计性做成标配。
为什么重要
把独立红队测试接入企业代理平台,意味着代理安全从厂商自证转向第三方验证。当代理真正握住数据与操作权限,这类评估很可能成为企业上线代理前的标准动作。
附近消息
全部10/16 20:54
GeoPT一作吴海旭创业:物原科技切入物理世界模型,估值已达数亿美元
量子位获悉,2022年清华特等奖学金得主、GeoPT一作吴海旭已创立物原科技,切入搭载物理建模能力的世界模型方向。该公司迄今已完成多轮融资,估值达到数亿美元,投资方包括蚂蚁、美团、达晨财智与星连。
10/16 21:41
Vitalik Buterin 构建隐私导向 AI Agent,减少身份与数据泄露
据 CoinGape 报道,以太坊联合创始人 Vitalik Buterin 构建了一个以隐私为核心的 AI Agent,目标是限制身份信息与数据的泄露。该项目的关注点在于,让 Agent 在执行任务的同时尽量少地暴露用户的身份与个人数据。
10/16 22:38
面壁智能发布大监督智能体,把审计监督能力装进AI原生底座
10月16日,面壁智能在北京中关村温泉科技园举行发布会,正式发布大监督智能体,把风险、内控、合规、审计、纪检整合成五位一体的监督能力。该产品由面壁智能与行业伙伴星火明智联合共创,基于MiniCPM系列基座模型,是7月WAIC期间面壁+行业伙伴计划的重要落地成果。
10/16 22:41
字节跳动组建AI安全团队,并启动全球招聘
据多家媒体报道,字节跳动已组建专门的AI安全团队,并启动面向全球的招聘,招聘范围不再局限于中国。这是中国大型AI公司在模型能力快速推进之后,开始在安全治理上投入固定人力、并为监管审视做准备的一个明确动作。