郭震 AI公众号:郭震AI

实时 AI 消息

腾讯推出限制网络安全训练数据的AI模型,回应黑客攻击担忧

腾讯推出一款新的人工智能模型,训练时刻意限制了网络安全相关数据的投喂量,背景是外界对AI被用于黑客攻击的担忧上升。这一发布把安全考量前移到训练阶段,也让模型的攻防能力边界画在哪里成为需要外部验证的问题。

发布时间
腾讯推出限制网络安全训练数据的AI模型,回应黑客攻击担忧
图源: tencent.com

腾讯推出了一款新的人工智能模型,训练时刻意限制了网络安全相关数据的投喂量。据 The Edge Malaysia 报道,这一发布发生在业界对AI被用于黑客攻击的担忧升温之际。

报道给出的核心信息并不复杂:这款模型的训练数据中,网络安全相关内容被控制在有限范围内。与常见的模型发布不同,这次被强调的是训练数据的取舍本身。

过去一段时间,AI安全的讨论大多集中在上线之后——内容过滤、拒答策略、滥用监测。腾讯这次的做法指向更早的环节:在数据进入训练之前就做减法。这个位置更靠前,也更难被外部检验。

网络安全知识的两用性正是争议所在。漏洞分析、日志研判、渗透测试,这些能力防御方需要,攻击方同样需要。对训练数据设限,等于同时调整两端的门槛,而不只是削弱其中一端。

把安全能力前移到训练数据这一层,意味着模型的边界在出厂前就被部分划定,而外部很难直接验证这条边界画在哪里。对企业用户来说,这意味着能不能用不再只看演示效果,还要看模型在真实安全任务上的表现。

另一个现实问题是竞争节奏。限制训练数据可能让模型在某些安全相关任务上显得保守,而这在商业化评估中未必是加分项。厂商需要在可用性与风险控制之间找到一个可以对外解释的位置。

后续值得关注的有三点:腾讯是否公开训练数据的筛选标准;是否引入第三方对模型攻防能力做独立评测;以及模型以何种方式对外提供,是接口调用还是更开放的分发形式。这三点决定了这次发布是一次公关表述,还是一套可复用的工程做法。

为什么重要

如果限制训练数据成为常规做法,模型的攻防能力将更多由厂商在训练阶段决定,采购方不得不自行验证实际边界。这也把AI安全的竞争从产品层推向数据治理层。

微博邮件

TencentCybersecurityAI Safety
返回实时消息

附近消息

全部

11/04 20:00

DeepSeek工程师乌镇发声:开源路线不因安全风险止步,真正的对手是时间

在世界互联网大会乌镇峰会的一场人工智能圆桌上,DeepSeek工程师高熹罕见代表公司公开为开源路线辩护,称即便开源会放大安全风险,它仍是加速通用人工智能到来的方式。同场的阿里通义千问负责人刘大一恒则强调,应对风险要靠治理制度与行业标准,而不是技术封锁。

11/04 18:08

招商局狮子山实验室开源「驭物™ Lion-ER-35B-A3B」:35B MoE架构、每Token仅激活3B,十项具身基准全线提升

招商局先进技术研究院下属狮子山人工智能实验室发布具身推理视觉语言模型「驭物™ Lion-ER-35B-A3B」,采用MoE架构,总参数约35B,每个Token仅激活约3B参数,并已在Hugging Face开放权重。团队称该模型在十项公开具身基准上全部指标上涨,等权综合均分达65.29,走的是以能力牵引数据、用评测反哺训练,而不是堆砌数据量的路线。

11/04 17:55

哈佛最年轻华人正教授尹希离开 OpenAI,任职仅约五个月

11月3日至4日,中文媒体陆续报道,哈佛大学物理学家尹希已宣布离开 OpenAI,结束约五个月的任职。他在告别帖中感谢了同事,但没有透露下一步去向,OpenAI 方面也未公布相关安排。

11/04 16:49

虎鲸文娱“鲸锐AI”平台上线,AI视频单分钟成本节省30%以上

11月4日,虎鲸文娱集团打造的“鲸锐AI”平台正式上线。官方称其为行业首个AI影视制作与管理平台,并给出AI视频单分钟成本节省30%以上的数字,直指影视制作的单位成本。