英伟达 Nemotron 微调方案夺下 IOI 与 IMO 两项金牌级成绩

英伟达研究团队10月7日在 Hugging Face 博客发文，宣布以 Nemotron 3 为基础模型，运用监督微调（SFT）、强化学习（RL）与反馈驱动的推理环节，构建出在国际数学奥林匹克（IMO 2026）和国际信息学奥林匹克（IOI 2026）双双达到金牌水平的系统。

具体成绩是：IOI 2026 上，Nemotron-3-Ultra-CC 配合 SFT 与自研的 GenCorrect 迭代策略拿到 535.4/600 分，高于 361.12 的金牌线，也超过人类选手最高分 498.27；IMO 2026 上，由 Nemotron 3 Ultra 的通用、SFT 与 RL 检查点组成的生成—验证—精修系统拿到 30/42 分，超过官方 29 分的金牌门槛。

需要说明的是，IOI 那次是一次实时、前瞻性的测试，遵循与人类选手相同的时间、联网与提交限制，属于非官方、无人监督的基准，未计入官方排名；而 IMO 系统提交的证明由官方 IMO 评分员批改。

团队把方法总结为一条四步专业化配方：从强大的 Nemotron 基座出发；整理领域专属题目与高质量推理轨迹；应用 SFT，必要时叠加 RL；再让专用模型配合一个生成—评估—改进的推理循环。

以竞赛编程为例，团队整理了 2.2 万道题目并生成合成推理轨迹，训练出两个专用模型：总参数 300 亿、激活 30 亿的 Nemotron-3-Nano-CC 同时接受 SFT 与 RL；总参数 5500 亿、激活 550 亿的 Nemotron-3-Ultra-CC 只做 SFT。在 IOI 2025 的对比中，Nano 从后训练前的 130 分提升到 SFT 后 280 分、RL 后 291 分，再经 GenCorrect 达到 468 分，越过 438.3 的金牌线。

数学方向的 SFT 语料包含 15,818 道证明题的 41.489 万条质量筛选样本，覆盖证明生成、精修、验证与元验证；RL 模型则在 9,597 道贴近能力前沿的证明题上训练。最终系统全程使用自然语言，不依赖形式化证明器、外部工具或联网，在六题中有四题拿到满分。

团队强调，奖牌并非单纯来自微调，也非单纯来自暴力采样，而是来自模型、数据与推理循环的协同设计：更好的专业化让推理系统拥有更好的候选答案、更强的评审与更准的精修。

相关资产已在 Hugging Face 开放：Nemotron Labs IMO 2026 集合收录 SFT 与 RL 检查点、两份训练数据及含 200 道奥赛题的 Nemotron-IMO-Bench 基准；IMO 论文与 NeMo-Skills 仓库提供推理流程、提示词、提交的证明与可复现的快速开始。竞赛编程侧的 Nemotron-3-Ultra-CC 模型、IOI 论文与 GenCorrect 方法同样公开。

这项工作的意义在于，它把易微调从检查点能训推进到用一套清晰、可复用的配方把强基座适配到高难度领域。对于开源社区而言，模型、数据与流程一并放出，意味着这套金牌级方案可以被复现和迁移到其他专业场景。