实时 AI 消息
AnyLanguageModel 1.0 发布:一套 Swift API 同时接入苹果端侧模型与云端服务
Hugging Face 发布 AnyLanguageModel 1.0,连同 swift-huggingface 与 swift-xet 的 1.0 版本一起上线。这个 Swift 库把苹果 Foundation Models 框架变成可替换层,开发者在本地模型与 OpenAI、Anthropic、Gemini 等托管服务之间切换时,不必改动会话代码。

10 月 20 日,Hugging Face 在官方博客上宣布 AnyLanguageModel 1.0 正式发布,同时发布的还有 swift-huggingface 1.0 和 swift-xet 1.0。这个 Swift 库去年 11 月首次亮相,定位是苹果 Foundation Models 框架的直接替换件,让开发者在保留同一套 API 的前提下自行选择模型和推理服务商。
升级动作被压缩到一行 import:把 import FoundationModels 换成 import AnyLanguageModel,原有的会话代码就能继续运行。同一段会话代码现在既可以指向设备上的系统模型,也可以指向通过 llama.cpp、MLX 或 Core ML 运行的开放权重模型,还能接上托管服务商。本地与云端因此不再是二选一。
过去一年补齐的能力集中在三处。工具调用在每一个服务商上都可用;引导生成(guided generation)同样覆盖全部服务商,并支持嵌套的 @Generable 类型及其数组;图像输入沿用 Foundation Models 27 的语法,在 iOS、macOS 和 visionOS 27 上使用系统模型时同样有效。在 OS 27 上,任何遵循 LanguageModel 协议的模型都能接入,包括 Core AI 模型。
托管侧的支持清单也明显变长:OpenAI 的 Chat Completions 与 Responses API、Open Responses、Anthropic 的 Messages API(含 adaptive thinking 与 effort 选项)、Google 的 Gemini API、Ollama、OS 27 上的 Private Cloud Compute,以及通过自定义 base URL 接入的 Hugging Face Inference Providers 与 OpenRouter 等 OpenAI 兼容端点。
作者 Mattt 强调,托管模型与本地模型享有同等功能:引导生成、带流式输出的工具调用、以及响应中的 token 用量统计。推理内容被纳入 transcript,切换服务商时若对方无法回放这些推理块,库会自动省略。API Key 改为通过闭包获取,方便应用从自有服务器领取短时令牌。AnyLanguageModel 同时可以在 Linux 上运行,同一份代码也能用于服务端。
开放权重模型的进步是另一半故事。博客列出的热门模型包括 Google 的 Gemma 4 E2B(GGUF,Q4_0 量化下约 3.4 GB)与 Liquid AI 的 LFM2.5 2.6B(Q4_K_M 下约 1.7 GB),两者都能装进 iPhone;阿里的 Qwen3.8 27B 以 MLX 4 比特形式约 16 GB,需要 32 GB 内存以上的 Mac;Z.ai 的 GLM-5.3 在 BF16 下约 1.5 TB,得靠四台顶配 Mac Studio,多数人只能通过 Inference Providers 调用。
升级方式是在 Swift Package 中把依赖指向 1.0.0 并启用 MLX trait,已有项目可参考三个仓库的发布说明。博客结尾把下一步写成会做决定的模型和会听的模型,暗示同一套 Swift API 将覆盖语言之外的能力。
对苹果平台开发者来说,这次发布的价值不在于某个新功能,而在于把换模型从一次重构变成一个参数:同一个会话对象背后可以是端侧小模型,也可以是参数量远超设备上限的托管模型。
为什么重要
对苹果生态的开发者而言,模型选择从架构决策降级为配置项,本地推理与云端推理可以按任务混用;Hugging Face 的模型分发能力也因此直接进入 iOS 与 macOS 应用。
附近消息
全部10/20 07:56
【今日主题前瞻】大厂密集发布Agent产品,智能体赛道竞争白热化 市场测评 市场 中金在线
据 news.google.com 消息,【今日主题前瞻】大厂密集发布Agent产品,智能体赛道竞争白热化 市场测评 市场 中金在线。【今日主题前瞻】大厂密集发布Agent产品,智能体赛道竞争白热化 市场测评 市场 中金在线
10/20 07:39
Anthropic与Nscale据报再谈450亿美元算力协议
据彭博社消息,Anthropic与算力供应商Nscale正接近宣布又一份规模达450亿美元的算力协议,双方谈判仍在进行,细节可能发生变化。这距离两家公司上一份同等规模的合作仅过去一个多月,也延续了Anthropic一年来连续签署巨额算力合同的势头。
10/20 07:04
AI智能体将Centalion贸易融资修订处理时间缩短80%
据PYMNTS报道,Centalion在贸易融资修订环节引入AI智能体后,该流程的处理时间缩短了80%。这一案例显示,智能体正在从试验性工具走向单证密集型金融后台的实际生产流程。
10/20 09:04
DeepSeek 新模型登顶开源模型榜首;国内 55% 算力用于视频和短剧?豆包发言人辟谣;微信发起公众号小说改编微短剧激励|极客早知道 极客公园
据 news.google.com 消息,DeepSeek 新模型登顶开源模型榜首;国内 55% 算力用于视频和短剧?豆包发言人辟谣;微信发起公众号小说改编微短剧激励|极客早知道 极客公园。DeepSeek 新模型登顶开源模型榜首;国内 55% 算力用于视频和短剧?豆包发言人辟谣;微信发起公众号小说改编微短剧激励|极客早知道 极客公园