郭震 AI公众号:郭震AI

实时 AI 消息

腾讯首发AI智能体红队测试框架,首次审计MCP供应链安全

腾讯发布了针对AI智能体的红队测试框架,首次将审计范围扩展到MCP(模型上下文协议)供应链安全领域。该框架旨在检测和防范通过MCP协议引入的供应链攻击向量,为智能体生态的安全部署提供系统化评估工具。

发布时间
腾讯首发AI智能体红队测试框架,首次审计MCP供应链安全
图源: tencent.com

据Tech Times报道,腾讯发布了一款针对AI智能体的红队测试框架,首次对MCP(Model Context Protocol,模型上下文协议)供应链进行安全审计。这是业界首次将红队测试的专业方法论系统化应用于MCP生态的安全评估。

MCP协议作为AI智能体与外部工具、数据源和服务交互的核心协议,正在被越来越多的智能体平台采用。然而,随着MCP生态的快速扩张,其供应链安全风险也日益凸显——恶意工具插件、受污染的数据源以及不安全的协议实现都可能成为攻击者的突破口。腾讯此次推出的红队测试框架正是针对这一新兴威胁场景。

该框架的工作机制涉及对MCP协议实现的全链路安全评估,包括工具注册与调用验证、数据流完整性检查、权限隔离测试以及对抗性提示注入检测等维度。通过模拟真实的攻击手法,红队测试可以发现智能体在通过MCP调用外部服务时可能存在的安全盲区。

腾讯此次发布的框架聚焦于供应链安全,意味着它重点关注智能体所依赖的第三方工具和数据源可能引入的漏洞。这是智能体安全领域的一个关键方向——随着智能体越来越多地自主调用外部工具,供应链中的任何一个薄弱环节都可能导致整个智能体系统被攻陷。

此前,业界对智能体的安全测试主要关注模型自身的安全边界,如越狱攻击和提示注入。腾讯的框架将审计范围扩展到MCP供应链,标志着AI安全测试正从单点模型防护向全链路生态安全演进。

该框架的发布正值AI智能体快速普及的关键时期。从编码助手到自主操作智能体,MCP正成为连接模型与真实世界的基础设施。腾讯此次率先建立MCP供应链审计能力,可能推动整个行业建立更严格的安全评估标准。

目前,腾讯尚未公布该框架的具体开源计划或与第三方平台的合作细节。但在智能体安全日益受到关注的背景下,这一方向性的工作值得行业密切关注。

为什么重要

腾讯首次将红队测试应用于MCP供应链安全审计,填补了智能体安全评估中的一个关键空白,可能推动行业建立更全面的AI智能体安全评估标准。

微博邮件

TencentAI SecurityMCPRed TeamingAgent Security
返回实时消息

附近消息

全部

07/07 10:48

支付宝AI开放平台正式上线邀测:一次接入,多端分发,打通手机车机AI眼镜

支付宝于7月7日正式上线AI开放平台,面向商家、机构和服务商开放AI接入能力。商家接入AI助手"阿宝"后,可实现"一次接入,多端分发,统一管理",服务可分发至手机、车机、AI眼镜、IoT等多种智能终端。

07/07 10:36

沃尔沃EX60向Gemini开放摄像头权限,AI获得车载视觉能力

沃尔沃宣布其全新纯电SUV EX60将向Google Gemini开放车载摄像头权限,使AI助手首次获得实时车载视觉感知能力。这意味着Gemini能够理解驾驶场景、识别周围物体,并基于实际视觉信息提供更精准的交互服务。

07/07 10:59

家居行业首个AI执行中枢发布:三维家AI工作台正式上线

三维家正式发布了家居行业首个AI执行中枢"三维家AI工作台",标志着AI技术在家居设计领域从辅助工具向自主执行中枢的跨越。该平台整合多项AI能力,旨在为家居企业提供从设计到生产的全流程智能化支持。

07/07 09:38

Anthropic发现Claude内部「J-Space」类脑表征空间:删除后推理能力急剧下降

Anthropic在Claude模型内部发现了一个名为J-Space的隐藏表征空间,该区域呈现出类似人类认知地图的结构化特征。研究人员发现,当删除或破坏J-Space区域后,Claude的推理能力大幅下降,表现出直观的「变傻」现象,这一发现为理解大语言模型的内部运作机制提供了前所未有的视角。