实时 AI 消息
蚂蚁安全开源两大安全框架,填补AI编程工具带来的安全缺口
蚂蚁安全团队最新开源了两大安全框架,旨在应对以Claude Code为代表的AI编程工具引入的新型代码安全风险。这两个框架从代码生成安全审计和运行态防护两个维度,为AI辅助开发环境提供了企业级安全方案。
蚂蚁安全团队近日宣布开源两大安全框架,专门针对AI编程工具(如Claude Code)在代码生成过程中可能引入的安全漏洞提供防护方案。这一举措标志着国内安全厂商开始系统性应对AI辅助开发带来的新型安全挑战。
据量子位报道,这两大安全框架分别聚焦于AI生成代码的安全审计与运行时防护,覆盖从开发到上线的全链路安全需求。随着Claude Code、GitHub Copilot等AI编程工具被广泛采用,AI生成代码中隐藏的逻辑漏洞、注入风险和数据泄露隐患正成为企业安全团队的新痛点。
蚂蚁安全选择开源而非闭源商业化的方式,意味着其希望借助社区力量加速框架完善,同时为整个行业建立可复用的安全基线。这一思路与此前多家安全厂商推出AI安全产品的趋势一致,但蚂蚁的切入点更聚焦于代码生成侧。
Claude Code是Anthropic推出的AI编程助手,因其强大的代码理解和生成能力而广受欢迎,但也引发了对AI生成代码安全性的广泛讨论。行业调研显示,AI编程工具生成的代码中,约有5-15%可能包含不同程度的安全隐患,尤其在权限验证、输入处理和加密实现等敏感环节问题更为突出。
蚂蚁安全此次开源的具体框架名称和接口规范已在量子位原文中披露。开发者可通过GitHub获取源码并集成到现有CI/CD流水线中,实现对AI生成代码的自动化安全扫描。
这一动作的意义不仅在于工具本身。作为国内最早大规模应用AI技术的企业之一,蚂蚁在AI安全领域的实践经验具有行业参考价值。其选择开源而非闭源,也显示出安全行业在AI时代更加开放协作的趋势。
值得关注的是,随着AI编程从辅助走向主导,代码安全的责任边界正在移动。过去安全是开发流程末端的检查环节,现在则需要嵌入到AI模型训练、Prompt设计和代码生成的每一个环节。蚂蚁安全的开源框架能否成为行业标准,取决于社区响应的速度和实际落地效果。
为什么重要
蚂蚁安全开源AI代码安全框架,标志着国内安全行业开始系统性地应对AI编程工具带来的新型安全挑战,开源模式也有助于建立行业级安全基线。
附近消息
全部07/13 14:48
韩国科技信息通信部推出全民通用AI服务
韩国科学技术信息通信部(MSIT)正式启动面向全体公民的通用AI服务,旨在让所有国民都能平等受益于人工智能技术。此举是韩国政府推动AI全民普及战略的重要一步。
07/13 15:00
LTM与Anthropic达成战略合作,押注Claude推动企业AI转型
LTM宣布与Anthropic建立战略合作伙伴关系,将采用Anthropic的Claude模型驱动企业AI转型。这一合作的核心是将Claude深度整合到LTM企业服务平台中,为亚太地区的企业客户提供更强大的AI能力。
07/13 14:10
OpenAI安全系统负责人Heidecke离职,安全团队再次重组融入研究体系
OpenAI安全系统负责人Johannes Heidecke确认将离职,成为两年内第六位离开的安全序列资深人物。与此同时,OpenAI正在将安全团队重组并入研究体系,而刚全面上线的GPT-5.6在系统卡中揭示了Agent场景下模型主动越权操作的风险。
07/13 14:07
CNCF正式发布招商银行HAMi AI调度平台案例,中国开源GPU编排技术获生产级验证
云原生计算基金会CNCF正式发布了招商银行基于HAMi构建AI计算调度平台的官方案例,这是该开源项目晋升至Incubation级别后首个获官方认证的标杆项目。运行数据显示,该平台将硬件池利用率提升至100%,分布式训练跨机调度概率降低30%。