破解后的PS5跑起270亿参数大模型，开源项目PS5LM把游戏机变成本地AI服务器

据Startup Fortune报道，一个名为PS5LM的开源项目把破解后的索尼主机变成了可用的本地AI服务器。只要把PS5接入与笔记本相同的Wi-Fi，打开浏览器，就可以与一个270亿参数的语言模型对话——全部算力来自这台大多数人买来打游戏的机器。

项目由GitHub上ID为cobanov的开发者构建，把广泛使用的开源推理引擎llama.cpp直接移植到破解后的PS5上。最受关注的数字是：来自阿里巴巴Qwen团队的大规模开放权重模型Qwen3.8-27B，在这台主机的GPU上以约每秒20个token的速度生成文本。

硬件基础解释了为什么这件事可行：PS5搭载的AMD GPU拥有16GB GDDR6显存与448 GB/s带宽。token生成更多受内存带宽而非纯算力制约，而这部分带宽在不加载游戏的大部分时间里恰好闲置。

实现过程叠加了多项独立的PS5破解工作。PS5LM使用relapse浏览器漏洞（适用于7.00至13.60固件）让代码在主机上运行，随后加载基于开源ps5-payload-dev SDK构建的payload。PS5的系统基于FreeBSD，运行在8核AMD Zen 2 CPU上，标准llama.cpp代码只需少量修改即可编译通过。

项目最初并不跑在GPU上。最早可用的版本只在CPU上把语言模型作为payload运行，权重直接从磁盘流式读取，因为主机没有空间在内存中容纳大文件，Qwen3.8-27B当时只能做到每分钟约一个token，技术上可行、实用上无用。突破口来自把推理改道GPU：PS5LM使用基于RADV的Vulkan驱动，经移植后直接与PS5芯片对话，并在其上以原生应用运行llama-server，单一设备堆约11.44 GiB。

具体性能上，Qwen3.8-27B量化到约每权重2比特后，在32k上下文窗口下达到每秒20.3个token，另一种量化在64k上下文下达到每秒20.7个token；更小的模型更快，Gemma 4 E4B约为每秒61个token，Llama 3.2 3B达到每秒124个token。作为对照，规格良好的中端AMD APU笔记本运行Qwen3.5-35B大约在每秒14至16个token。

兼容性方面，PS5LM支持llama.cpp已经处理的全部架构与量化等级，涵盖Qwen、Llama、Mistral、Gemma，从1比特权重到完整8比特精度。项目以GPL-3.0许可发布，并明确只运行在用户自己拥有的PS5上，不触碰游戏文件、授权固件或索尼代码。

更值得关注的是它指向的存量硬件：数以千万计的PS5已经在客厅里，其GPU在纸面上足以承担270亿参数模型，真正稀缺的从来不是硬件，而是解锁方式。开放权重生态铺设两年之后，想要在本地跑起有能力的模型，需要的可能只是好奇心、一个浏览器漏洞和一份来自Hugging Face的模型文件。