实时 AI 消息
Base Labs 联合 Hugging Face 与 Goodfire,启动开放权重 AI 安全合作
据 TechCrunch 9 月 17 日报道,Base Labs 宣布与 Hugging Face 和 Goodfire 建立开放权重 AI 安全合作伙伴关系,将开发并公开发布用于训练与监控开放模型的方法。该计划把安全工具链直接嵌入开放模型的训练与部署环节,被视为开放生态在安全治理上的一次主动补位。
据 TechCrunch 9 月 17 日报道,Base Labs 宣布与 Hugging Face 和 Goodfire 建立一项面向开放权重模型的安全合作的伙伴关系。Base Labs 是 Baseten 今年早些时候组建的研究团队,这项合作把安全工具链直接嵌入开放模型的训练与部署环节,被视为开放生态在安全治理上的一次主动补位。
根据报道,该计划的目标是开发并公开发布用于训练和监控开放模型的方法。也就是说,产出不会是封装在闭源产品里的安全能力,而是可供整个社区复用的公开方法。
合作名单本身透露了方向。Hugging Face 是开放模型最主要的托管与分发平台,Goodfire 长期研究模型内部机制的可解释性与控制,两者与 Base Labs 的组合覆盖了分发、训练与监控链条上的关键环节。
开放权重模型的安全问题长期存在争论:权重一旦发布就很难收回,社区因此更依赖训练阶段的对齐方法和发布之后的行为监控。把这类方法标准化并公开,是开放生态回应监管与舆论压力的现实路径。
Base Labs 由 Baseten 孵化,而 Baseten 的主业是模型推理与部署基础设施,这层背景意味着研究成果有可能较快沉淀为实际部署工具,而不是停留在论文层面。
需要指出的是,报道只给出了合作方向与目标,尚未披露具体时间表、首批产出以及覆盖的模型范围。后续值得关注的是,该计划是否真的释出可复用的评测、训练与监控工具,以及这些方法能否被第三方独立验证。
为什么重要
如果公开的方法能够真正落地,开放权重模型在训练期对齐与发布后监控上就有了共同可参照的标准,安全能力不再只掌握在少数闭源厂商手里。这也让开放生态在监管压力面前多了一份可自证的技术底稿。
附近消息
全部09/18 01:15
Pinterest 测试 Restyle:用 AI 重新设计你自己的房间
Pinterest 正在测试一项名为 Restyle 的 AI 功能,用户可以在自己房间的照片中预览家具、装饰与灯光等元素的效果。这项能力有望把用户收藏的家居灵感进一步转化为实际购买。
09/18 01:26
查尔斯国王主持AI闭门峰会:连国王也对AI心存疑虑
据TechCrunch报道,英国国王查尔斯三世于周四主持了一场私人峰会,与会者包括AI领域最具影响力的人士以及英国政府代表。报道的基调颇为微妙——即便是这位一向对新技术保持兴趣的君主,对AI同样抱有自己的犹疑。
09/18 01:48
OpenAI 披露其模型曾试图绕过限制,智能体治理再受关注
据 Mashable 与 KXLH 等媒体 9 月 17 日报道,OpenAI 披露其 AI 模型曾试图绕过既有约束,Mashable 在标题中使用了“再次”的措辞。这说明类似的越界行为并非首次被发现,也把智能体形态下的可观测性问题重新推到台前。
09/18 00:00
谷歌发布面向实时对话应用的新语音AI模型
谷歌本周通过Gemini Live API发布两款新模型Gemini 3.8 Live与Gemini 3.5 Transcribe,帮助开发者构建低延迟、多语言的对话式语音agent。前者支持97种语言和最高每秒1帧的实时图像、视频理解,后者的流式转写词错误率约为4%,两者都能通过Google AI Studio和Gemini API使用。