实时 AI 消息
Hugging Face 把推理路由交给 OpenRouter:开源权重模型开箱即用
Hugging Face 宣布其 Inference Providers 从自研路由器切换到 OpenRouter,语言模型请求由后者按实时价格、速度和可靠性自动选择供应商,失败时在调用内部自动重试,开发者代码无需改动。双方称这只是合作的起点,目标是让开源权重模型像调用闭源 API 一样简单。

11月16日,Hugging Face 发布博客宣布,其 Inference Providers 服务不再使用自研路由器,语言模型请求改由 OpenRouter 的路由系统分发。官方称这是两家公司合作的第一步,开发者无需改动任何代码。
在新的机制下,每一次调用都会交给 OpenRouter 判断:哪家供应商当下的价格、速度和可靠性组合最好,请求就发往哪里;如果首选供应商失败,同一个请求会在调用内部重试到次优供应商。路由器同时兼容 OpenAI 的 Chat Completions、Responses 接口和 Anthropic 的 Messages 接口,不论模型实际跑在哪家供应商上;官方还给出了 Claude Code、Codex、OpenCode 等客户端的接入步骤。
Hugging Face 引用 OpenRouter 的数据说明这一步的分量:开源权重模型占平台所服务 token 的比例,从 2025 年 10 月的 26.8% 升到 2026 年 9 月底的 71.7%,7 月一度达到 77.5% 的峰值;同期开源权重的周调用量增长超过 60 倍,闭源模型约为 10 倍。
价格是这股趋势的重要推力。博客给出的均值是:开源权重模型每百万输入 token 0.28 美元、每百万输出 token 1.62 美元,闭源模型则是 1.27 美元和 6.36 美元,前者约为后者的四分之一。Hugging Face 也没有回避短板——最强的开源权重模型在最难的基准上仍落后于最好的闭源模型。
OpenRouter 提供的是规模。官方数字是每月服务超过 800 万亿 token、1000 万以上用户、来自 80 多家供应商的 600 多个模型。它近期重建了供应商路由,不再只看标价最低,而是综合价格、速度和可靠性;按其测算,新路由把容量类错误减少了 46%,首 token 时间改善 16.9%,吞吐提升 16.3%。
开发者仍保留选择权:在模型 ID 后加后缀,可以指定最快、最便宜或某一家供应商;路由还会感知缓存,让同一段对话留在持有其 prompt 缓存的供应商上,用固定的会话 ID 请求头即可显式声明。价格不变,用户按供应商价格在自己的 Hugging Face 账单上付费,平台不加价,PRO 用户每月仍有 2 美元额度。
唯一的破坏性变更是自带密钥:语言模型请求现在通过 Hugging Face 账户计费,因此这些模型不再支持用户自备供应商 API key,图像与视频供应商的自定义密钥则继续有效,图像、视频、音频生成也仍然直接走 Hugging Face 自己的通道。官方称这只是双方合作的第一步,后续还有更多安排。
为什么重要
对开发者而言,开源权重模型的调用门槛从「自己挑供应商、自己处理故障」变成一次普通 API 调用,成本与可靠性由路由层兜底。对模型供应商来说,接入即进入一个按实时表现排名的流量池,价格、速度和稳定性的竞争会更直接。
附近消息
全部11/16 08:00
The King's Trust 与 OpenAI 启动 100 万英镑合作,目标覆盖 2.5 万英国青年
The King's Trust 与 OpenAI 公布一项总额 100 万英镑的合作,计划帮助最多 2.5 万名英国年轻人培养可用于工作的实用 AI 技能。这项合作把 AI 技能培训直接对准青年就业场景,公告同时给出了资金规模与覆盖人数两个明确数字。
11/16 08:00
AI Day Seoul 收官:2000余人齐聚首尔,物理AI与智能体成主线
英伟达博客发布的活动回顾显示,为期两天、在首尔COEX举行的AI Day Seoul吸引了2000多名参会者,汇聚韩国产业领袖、初创公司与开发者社区。活动主线集中在物理AI与AI智能体,英伟达机器人与边缘AI副总裁Deepu Talla在会上称韩国在这一领域是“实力超出其体量”。
11/16 07:30
印度芯片初创 Bharat Semi 完成 2400 万美元种子轮,瞄准全球 AI 传感器市场
印度芯片初创公司 Bharat Semi 完成 2400 万美元种子轮融资,目标是全球 AI 传感器市场。公司称其 AI 传感器技术已获得包括 General Atomics 在内的客户设计导入。
11/16 09:27
Anthropic“创纪录IPO”登场前,France 24列出待解难题
据France 24报道,Anthropic正推进一场被称为创纪录的IPO,但这场上市在正式登场前仍面临若干重大问题。报道没有把它写成单纯的胜利,而是把焦点放在公开市场将如何检验这家AI公司的估值与业务之上。