实时 AI 消息
OpenAI 详解存储系统 Habitat:如何撑起 10 亿 ChatGPT 用户与每秒 2200 万次请求
9月11日,OpenAI 发布工程博客,讲述在线存储系统 Habitat 如何从 Python 库演进为全球分布式存储平台,用来支撑 ChatGPT 的运行。文中给出的关键数据是:Habitat 目前服务超过 10 亿 ChatGPT 用户,并承载每秒 2200 万次请求。
9月11日,OpenAI 在官方博客发布了一篇题为《Rapidly scaling online storage to serve over 1 billion ChatGPT users》的工程文章,讲述其在线存储系统 Habitat 的演进过程。文章没有讨论模型能力,而是把镜头对准了支撑 ChatGPT 运行的底层存储。
文章给出的规模数据最为直观:Habitat 如今服务超过 10 亿 ChatGPT 用户,并承载每秒 2200 万次请求。对任何一个在线系统来说,这都是极端量级的读写压力。
按照 OpenAI 的描述,Habitat 的起点只是一个 Python 库。随着 ChatGPT 用户规模的扩张,它被逐步改造成全球化部署的分布式存储平台,承担起在线数据的存取任务。
对普通用户来说,存储层几乎不可见,但它直接决定了响应速度、稳定性与成本。当请求量达到每秒千万级时,任何一次抖动都可能被放大成大规模体验问题。
OpenAI 选择把这类工程细节公开,本身也是一个信号:在大模型服务的竞争里,基础设施能力已经和模型能力同样重要。谁能把存储和扩容这些不显眼的环节做扎实,谁才撑得住真实的用户规模。
这篇博客的标题标注为 part one,也就是第一部分,意味着 OpenAI 之后还会继续披露更多与存储相关的架构与扩容细节。对于关注大模型工程实践的人来说,这提供了一个少见的官方视角。
值得继续观察的是,OpenAI 后续会不会在系列文章中给出更多关于 Habitat 设计取舍的说明,以及这些工程经验是否会随着 ChatGPT 规模的继续增长而再次被改写。
为什么重要
这次披露说明,支撑 ChatGPT 的竞争不只在模型层,存储等基础设施同样是关键门槛;OpenAI 给出的 10 亿用户与每秒 2200 万次请求,为外界评估其真实运行规模提供了官方口径。
附近消息
全部09/11 18:08
智谱 GLM-OCR 模型页更新:0.9B 参数在 OmniDocBench V1.5 登顶
智谱旗下开源组织 zai-org 在 Hugging Face 上的 GLM-OCR 模型页于9月11日更新,这款面向复杂文档理解的多模态 OCR 模型以 0.9B 参数在 OmniDocBench V1.5 上取得 94.62 分、位列第一。模型基于 GLM-V 编码器—解码器并叠加 PP-DocLayout-V3 版面分析流水线,官方给出 vLLM、SGLang、Ollama 等部署路径,页面下载量已接近 189 万次。
09/11 16:59
高德扫街榜全面AI化,背后是全球首个3D原生城市世界模型ABot-Earth 0.7
高德9月10日宣布,上线一年的扫街榜全面AI化,2026版用AI算法理解不同导航到店行为的评分权重,更精准体现用户的真实选择。支撑这次升级的是高德空间智能的核心引擎ABot-Earth 0.7,团队称其为全球首个3D原生城市世界模型,仅需一张卫星图或一段文字,就能在消费级GPU上用约10分钟生成带真实街景的3D城市。
09/11 22:05
Anthropic 开出最高约 320 万元年薪招销售,只为服务 Meta 一家客户
Anthropic 近日在招聘页面挂出名为「Mega Account Executive, Meta」的岗位,面向的客户只有 Meta 一家,年收入区间为 38 万至 45 万美元(按 OTE 机制计算),最高约合人民币 320 万元。该岗位 9 月 3 日上线、9 月 9 日即停止接受申请,而 Meta 工程师已在大量使用 Claude Code,据《纽约时报》消息其在 Anthropic 上的潜在年支出可能达到 100 亿美元。
09/11 13:53
Anthropic称已阻止AI被用于网络攻击和生物武器用途
据Euronews报道,Anthropic表示已经阻止了自家AI被用于网络攻击以及生物武器相关的滥用行为。这一披露再次把前沿模型的滥用监测与拦截能力推到台前。