笔记本跑 7000 亿参数 GLM：SSD 当显存，开源项目 Colibrì 火爆 GitHub

一个名为 Colibrì 的开源项目正在 GitHub 上快速升温。量子位报道称，它让“笔记本跑 7000 亿参数 GLM”这件事第一次有了可以上手的现实路径——而且不依赖 GPU。

做法本身相当直接：744B 规模的模型权重并不需要全部塞进内存，内存里只保留约 9.9GB，其余部分放在 SSD 上，让固态硬盘充当“显存”。

这实际上是把存储层级重新纳入推理路径。传统做法里，模型必须装进显存或内存；当权重体量远超可用内存时，推理根本跑不起来。把 SSD 变成权重存放层，等于用带宽换容量，先把“能不能跑”的门槛降下来。

代价也很清楚。SSD 的带宽与延迟和显存不在一个量级，来源强调的是“快速上手”和可行性，并没有给出吞吐速度指标。最终体验如何，很大程度取决于本地硬盘的性能与访问模式，实际可用性仍要等社区实测。

对生态而言，这类项目的意义在于本地推理的边界被推进了：更低的硬件门槛、更好的数据私密性，以及不依赖云端算力的试验空间。当超大模型只能在数据中心运行时，个人和小团队很难参与验证，而把权重放到本地存储层，至少让“先跑起来”成为可能。

接下来值得观察的是社区实测——包括不同硬件上的实际速度、是否扩展到更多开源模型，以及缓存与预取策略能否把 SSD 方案进一步拉近可用线。对开源项目来说，首发热度之后能否持续维护，往往比一夜爆红更能说明问题。