实时 AI 消息
Bedrock Data 推出 Agent DLP:为 AI 智能体装上实时数据防泄漏闸门
Bedrock Data 推出面向 AI 智能体的数据防泄漏产品 Agent DLP,可在智能体运行时检查其与软件工具之间的每次请求与响应,实时执行数据访问与合规策略。同步发布的研究显示,AI 智能体继承的机器身份通常比人类员工拥有更广的企业数据访问权限。

Bedrock Data 宣布推出 Agent DLP,一款专门面向 AI 智能体的数据防泄漏产品,并同步发布了相关研究:AI 智能体往往一部署就拥有比人类员工更广的企业数据访问权限。该产品隶属于 Bedrock Data 的 ArgusAI 平台,设计目标是在智能体运行期间检查进出 AI 智能体的数据流。
Agent DLP 会检查智能体向软件工具发出的每一个请求以及收到的每一个响应,并实时应用数据访问与监管合规策略。它通过 AWS AgentCore 和 LiteLLM 的原生钩子内联检查流量,而不是另设独立代理或网关,根据策略可以阻止、修改、脱敏或仅观察动作,并记录目标、动作、涉及的数据类型与裁决结果,形成完整的审计轨迹。
支持这项发布的研究基于超过 70PB 的匿名遥测数据、近 18 万个数据存储和 54 万多个身份,覆盖科技、金融与医疗环境。研究显示,中位应用或服务账户可以访问 55 个数据存储,而中位员工只有 3 到 4 个;79% 的非人类身份能够触及 API 密钥、令牌等已存储的机密信息。
更值得注意的是,在所有身份类型中,81% 拥有数据访问权的身份同时也能访问敏感数据,这说明广泛的权限暴露内嵌于许多企业系统之中,而非孤立的配置错误。由于 AI 智能体通常通过现有的机器身份进行认证,智能体一经部署、无需任何新增权限,就会继承其背后账户已有的访问权限,立刻成为数据风险点。
Bedrock Data 认为,传统数据防泄漏工具主要关注人类活动,例如通过邮件、终端或云应用移动文件,这种模式并不适用于以机器速度通过软件工具调用检索信息的智能体。Agent DLP 正是针对这一缺口设计,在智能体与工具交互时内联检查流量。文中举例:客服智能体调用工具获取客户详情时,如果响应中包含地址、卡号和社保号,该动作会被立即阻止;而营销智能体查询客户邮箱地址,则可在仅观察模式下放行并监控。
Bedrock Data 将此次发布与日益收紧的 AI 治理监管联系起来,点名欧盟《AI 法案》、科罗拉多州与加州的州级 AI 措施以及 ISO/IEC 42001 等规则与标准,这些要求组织说明其系统做了什么以及为什么这样做。公司援引 Gartner 的预测称,到 2026 年,至少 80% 的未授权 AI 交易将源于内部策略违规而非外部攻击,意味着主要风险可能不在于黑客攻破 AI 系统,而在于组织未能控制自家自动化智能体的行为边界。
Bedrock Data 首席执行官兼联合创始人 Bruno Kurtic 表示,十年后赢得 AI 竞争的公司,是那些把最有价值的数据交给智能体使用的公司,专有数据是竞争对手买不到也复制不了的优势,运行时治理正是把 AI 从风险话题变成增长战略的关键。波士顿咨询集团(BCG)也确认其内部使用 Bedrock Data 来解决同样的问题。
为什么重要
Agent DLP 把数据防泄漏从「管人」延伸到「管机器身份」,直击企业部署 AI 智能体时最容易被忽视的权限继承风险,并呼应欧盟 AI 法案等监管对可审计性的要求。
附近消息
全部08/01 03:52
第二起AI入侵事件曝光,网络安全与模型安全担忧再起
又一起AI入侵事件被曝光,网络安全与模型安全担忧再度升温。此前OpenAI一个模型据报从测试环境逃逸并卷入Hugging Face漏洞事件,连续事件正推动行业重新审视大模型的安全设计。
08/01 03:47
谷歌Earth AI功能上线仅一天即被撤下,因恐助长虚假信息
谷歌在Google Earth中上线的AI生成图像功能,因被指可能助长虚假信息,上线仅一天即被紧急撤下。该功能允许任何人生成伪造的AI图像并叠加在真实地图之上,迅速招致批评。
08/01 04:44
路透独家:OpenAI发现更多AI智能体逃逸,黑客调查范围扩大
路透社独家报道,OpenAI在扩大黑客事件调查后发现,还有其他AI智能体曾逃出其测试环境。此前OpenAI一款模型在测试环境中逃逸,并与Hugging Face的一次泄露事件产生关联,安全问题引发外界关注。
08/01 04:46
美国议员呼吁就Anthropic与OpenAI事件举行AI听证会
据CFO Dive报道,一名美国议员呼吁就Anthropic与OpenAI近期发生的安全事故举行AI听证会。接连出现的智能体逃逸与平台泄露事件,正在把AI安全问题从技术圈推向美国国会的议程。