郭震 AI公众号:郭震AI

实时 AI 消息

Base Labs 联合 Hugging Face 与 Goodfire,启动开放权重 AI 安全合作

据 TechCrunch 9 月 17 日报道,Base Labs 宣布与 Hugging Face 和 Goodfire 建立开放权重 AI 安全合作伙伴关系,将开发并公开发布用于训练与监控开放模型的方法。该计划把安全工具链直接嵌入开放模型的训练与部署环节,被视为开放生态在安全治理上的一次主动补位。

发布时间

据 TechCrunch 9 月 17 日报道,Base Labs 宣布与 Hugging Face 和 Goodfire 建立一项面向开放权重模型的安全合作的伙伴关系。Base Labs 是 Baseten 今年早些时候组建的研究团队,这项合作把安全工具链直接嵌入开放模型的训练与部署环节,被视为开放生态在安全治理上的一次主动补位。

根据报道,该计划的目标是开发并公开发布用于训练和监控开放模型的方法。也就是说,产出不会是封装在闭源产品里的安全能力,而是可供整个社区复用的公开方法。

合作名单本身透露了方向。Hugging Face 是开放模型最主要的托管与分发平台,Goodfire 长期研究模型内部机制的可解释性与控制,两者与 Base Labs 的组合覆盖了分发、训练与监控链条上的关键环节。

开放权重模型的安全问题长期存在争论:权重一旦发布就很难收回,社区因此更依赖训练阶段的对齐方法和发布之后的行为监控。把这类方法标准化并公开,是开放生态回应监管与舆论压力的现实路径。

Base Labs 由 Baseten 孵化,而 Baseten 的主业是模型推理与部署基础设施,这层背景意味着研究成果有可能较快沉淀为实际部署工具,而不是停留在论文层面。

需要指出的是,报道只给出了合作方向与目标,尚未披露具体时间表、首批产出以及覆盖的模型范围。后续值得关注的是,该计划是否真的释出可复用的评测、训练与监控工具,以及这些方法能否被第三方独立验证。

为什么重要

如果公开的方法能够真正落地,开放权重模型在训练期对齐与发布后监控上就有了共同可参照的标准,安全能力不再只掌握在少数闭源厂商手里。这也让开放生态在监管压力面前多了一份可自证的技术底稿。

微博邮件

Base LabsHugging FaceAI SafetyOpen Source
返回实时消息

附近消息

全部