实时 AI 消息
Nous 发布微调版 Qwen,称已去除原模型的国家意识形态价值观
美国开源人工智能公司 Nous 发布了一款基于 Qwen 的微调模型,并称该版本去除了原模型携带的国家意识形态价值观。这是一次具体的模型发布而非研究论文,也让“开源权重能否被下游改写价值取向”的争论第一次有了可下载的样本。
美国开源人工智能公司 Nous 发布了一款基于 Qwen 的微调模型,并称该版本去除了原模型携带的国家意识形态价值观。这条消息由禁闻网在 11 月 8 日转述,核心事实是一次具体的模型发布,而不是一份研究论文。
Qwen 是阿里开源的通义千问系列,在开源社区被广泛用作二次开发的基础模型。Nous 的做法属于典型的监督微调路线:保留基座的架构与能力,用自有数据重新塑造模型的回答倾向与价值判断。
这件事之所以敏感,在于它触到了一个正在升温的争论:开源权重是不是意味着价值观也可以被替换。当基座模型带着一整套对齐偏好发布,下游开发者用几千条样本就能改写它的立场,所谓“模型中立”就变成了一个需要具体定义的说法。
从技术上说,去除某种价值取向并不等于让模型变得客观。微调只会把模型推向另一组偏好,而这一组偏好由新的数据、标注者和发布者的判断决定。谁来定义“去意识形态”之后剩下的是什么,往往比“去除”这个动作本身更值得追问。
对开源生态而言,这类发布说明基础模型的竞争已经延伸到对齐层。厂商在基座上做的价值对齐,可以被下游以相对低廉的成本覆盖,这会削弱“对齐即护城河”的假设,也让许可证条款和模型卡的责任边界变得更实际。
风险也随之而来。一个被重新调校过价值取向的模型,如果沿用原有的名称或品牌认知流通,用户很难判断自己拿到的到底是哪个版本。模型的来源、微调数据集和评测结果,正在成为比参数量更重要的信息。
接下来值得关注的是权重与许可证如何发布、是否会附带微调数据说明,以及社区在实际任务上的评测表现。如果这类“改价值观”的微调成为常规操作,模型治理的重心会从训练阶段前移到分发与再分发环节。
可以说,这条新闻的分量不在模型性能,而在它把一个抽象问题具体化了:当任何人都能改写开源模型的价值取向,AI 的意识形态讨论就不再停留在论文里,而是每次下载都会遇到的选择。
为什么重要
下游微调可以低成本覆盖基座模型的价值对齐,这会削弱“对齐即护城河”的假设,并把治理重心推向分发与再分发环节。
附近消息
全部11/08 14:54
Vals 测试:DeepSeek 模型逼近 OpenAI 网络安全模型,单次成本约 3 美元
评估机构 Vals AI 的网络攻击基准显示,DeepSeek 的开放权重模型在自主渗透测试中已接近 OpenAI 的网络安全模型,单次运行成本仅约 3 美元。这一结果让受限前沿模型与可自由获取模型之间的攻防能力差距明显收窄。
11/08 14:13
OpenAI无预警大规模封号,低价区与拼车账号成重灾区
11月8日,大量ChatGPT账号在没有任何邮件通知的情况下被直接删除,菲律宾、土耳其等低价区订阅、低价Team拼车号和免费API账号成为重灾区,每月200美元的Pro订阅也未能幸免。这轮清理紧接11月2日的支付卡与设备限额新规,并与11月20日生效的第三方API网关授权要求、12月起ChatGPT与Codex共用Token额度构成一套收紧付费生态的组合拳。
11/08 10:50
Airbnb将上线AI智能体,帮用户规划旅行行程
据YugaTech报道,Airbnb将在其产品中加入AI智能体,用于协助用户制定和安排旅行计划。这意味着短租平台正把行程规划这一环节直接纳入自家应用,而不只是停留在房源搜索与预订。
11/08 08:22
阿里 Qoder 把神秘编程模型 Qoduck 免费开放
据 Startup Fortune 报道,阿里巴巴旗下编程工具 Qoder 将一款名为 Qoduck 的编程模型免费开放使用。报道以“神秘”形容这款模型,说明其来源与技术细节尚未充分公开,但免费开放本身已经把模型能力直接推到编码场景的前台。