实时 AI 消息
安全研究揭示公开GitHub Issue可诱骗AI泄露私有数据,仅需一词即可绕过防护
安全研究人员发现,公开的 GitHub Issue 可以被恶意构造来诱导 AI 模型泄露私有数据。攻击者仅需使用一个特定关键词即可绕过现有的安全防护机制,引发了对 AI 数据安全的新一轮关注。

一项新的安全研究揭示了一种针对 AI 模型的新型攻击向量:攻击者可以利用公开的 GitHub Issue 来诱导 AI 泄露私有数据。更令人担忧的是,绕过现有防护机制仅需一个关键词。
该项研究指出,GitHub Issue 作为公开可访问的协作功能,其内容可以被恶意构造,从而在 AI 模型读取这些 Issue 时触发数据泄露。这意味着使用 GitHub Issue 作为数据源的 AI 工具可能面临隐蔽的安全风险。
传统上,企业依赖权限控制和数据隔离来保护私有信息。但这类攻击利用了 AI 模型在处理混合数据时的行为特点,使得原本看似安全的公开数据变成了攻击通道。
研究显示,攻击者仅需在 Issue 中嵌入一个经过精心选择的词语,就可以诱使模型越过权限边界,输出本不应暴露的私有数据。这种攻击方式隐蔽性强,且不需要高深的技术门槛。
这一发现对依赖公开代码仓库和 Issue 数据来训练或增强 AI 模型的企业和开发者具有重要警示意义。安全专家建议团队重新评估 AI 系统对公开数据的处理策略。
目前,相关的安全社区和受影响平台尚未公布具体的修复方案。但在 AI 安全领域,此类"间接提示注入"攻击正在成为越来越受关注的研究方向。
为什么重要
此类间接提示注入攻击的发现提醒业界,AI 系统处理公开数据时需要重新评估安全边界,企业应加强对 AI 管道中数据源的审查。
附近消息
全部07/09 11:00
美国对顶级AI企业的打压正推动开源AI爆发——Barron's
根据Barron's最新报道,美国政府对顶级AI公司的监管打压正在产生一个意想不到的效果:开源AI迎来爆发式增长。这一趋势表明,政策限制反而加速了AI技术的民主化进程。
07/09 11:39
蚂蚁灵波开源LingBot-World 2.0:世界模型首次实现小时级实时生成,Agent机制加持多人交互
蚂蚁灵波科技今日开源了新一代实时交互世界模型LingBot-World 2.0,首次将世界模型生成推进到小时级实时生成阶段,并支持720p/60fps高清输出。新模型引入双Agent机制,支持多位用户同时进入同一持续运行的世界进行互动探索。
07/09 09:54
GPT-Live 展示实时同声传译能力,老太太现场"抬杠"视频引爆网络
GPT-Live 展示了其强大的实时同声传译功能,能够在对话间隙几乎无延迟地完成语音翻译。一段老太太现场与AI即兴"抬杠"的测试视频在社交网络上广泛传播,令不少观众惊叹。
07/09 09:45
阶跃星辰官宣新一代智能体终端,消息称包含AI智能体系统及手机
阶跃星辰(StepStar)正式官宣新一代智能体终端产品,据消息人士透露该项目包含AI智能体系统及定制手机硬件。这是继多家中国科技公司布局AI Agent硬件之后,又一家大模型厂商进入智能体终端赛道。