郭震 AI公众号:郭震AI

实时 AI 消息

Baseten成为Hugging Face推理提供商,支持Kimi K3、DeepSeek V4 Flash等开源模型

Hugging Face宣布Baseten正式成为其Hub上的推理提供商(Inference Provider),为模型页面提供更丰富的无服务器推理能力。初始集成支持对话和文本生成任务,可调用Kimi K3、DeepSeek V4 Flash、GLM-5.2等热门开源权重模型。

发布时间
Baseten成为Hugging Face推理提供商,支持Kimi K3、DeepSeek V4 Flash等开源模型
图源: huggingface.co

Hugging Face官方博客8月6日宣布,AI基础设施平台Baseten正式成为Hugging Face Hub上受支持的推理提供商(Inference Provider),扩展了Hub模型页面上的无服务器推理能力。

Baseten是一家覆盖无服务器AI推理、训练等能力的AI基础设施平台,拥有大量前沿模型目录。此次集成初期,Baseten在Hugging Face上支持对话和文本生成任务,开放了Kimi K3、最新版DeepSeek V4 Flash、GLM-5.2等热门开源权重模型,更多任务类型将陆续上线。

推理提供商已无缝集成到Hugging Face的客户端SDK中——Python的huggingface_hub(>= 1.26.1)和JavaScript的@huggingface/inference——开发者可直接通过HF令牌调用Baseten托管的模型。

调用方式分为两种:使用自定义密钥时请求直接发往推理提供商并按其账户计费;由HF路由时无需提供商令牌,费用直接计入HF账户,且不加任何加价,只按标准提供商API费率转嫁成本。

Hugging Face指出,推理提供商已集成到Pi、OpenCode、Hermes Agents、OpenClaw等多数智能体框架中,意味着Baseten托管的模型可以无需额外胶水代码直接接入开发者常用的工具链。

HF PRO用户每月可获得2美元的推理额度,可在各提供商之间使用。

对开发者而言,Baseten入列意味着在模型页面和SDK中又多了一个可选的服务器推理后端,也让Kimi、DeepSeek、GLM等开源模型的调用变得更便捷。

为什么重要

Baseten加入Hugging Face推理提供商生态,扩大了开源模型的无服务器调用渠道,进一步降低了开发者接入前沿开源权重的门槛。

微博邮件

Hugging FaceBasetenInference
返回实时消息

附近消息

全部