Mistral 发布 Large 4：1T 参数 MoE 开放权重模型，主攻编码与网络安全

Mistral 于 10 月 29 日在 Hugging Face 发布 Mistral Large 4，代号 Le Chonk。模型同时接受文本与图像输入，总参数约 1T、激活参数 49B，上下文窗口达到 100 万 Token，官方提供 FP8 与 NVFP4 两种权重版本。

许可证值得注意。模型采用 Mistral Ecosystem Open-Weight License，这是 MIT 许可证的衍生版本，对“模型即服务”类用途设置了限制。换句话说，权重是公开的，但商业再托管并非无条件开放。

架构上，Mistral Large 4 把稀疏专家与稀疏注意力叠在一起。文本解码器有 72 层、隐藏维度 6,144、64 个注意力头；注意力块结合多头潜在注意力（MLA）与 DeepSeek 稀疏注意力索引器，每个查询最多选择 2,048 个键位置，每四层中有三层使用 RoPE、第四层使用 NoPE，并在层间共享 KV 状态。

前馈网络部分，第一层是稠密结构，其余 71 层为 MoE：softmax 路由器为每个 Token 从 128 个专家中选出 4 个，再加一个始终运行的共享专家，即每个 Token 共 5 个激活专家。视觉侧使用 1.6B 参数的 Pixtral 编码器，30 层、隐藏维度 2,048、16 个注意力头，采用 14×14 图像块与空间合并规模为 2 的 patch-merge 投影器。

网络安全是最突出的能力。博客称模型在 Artificial Analysis Cyber Index 的“复现漏洞再修补”任务上得分 82%，为该指数中报告的最高分；在 Cybench 的 40 道安全竞赛题中解出 93%，在 Lakera B3 基准上取得 93.3% 的攻击抵抗力。Mistral 表示内部测试中它还能用于恶意软件分析、漏洞优先级排序和检测规则编写，这些并非显式训练目标。

开放权重在这里有具体含义。漏洞研究与应急响应在输入上常常“看起来像攻击”，闭源模型的过滤规则可能拦截，依赖 API 的团队也可能在事件处理中途失去访问。Mistral 强调模型仍然会拒绝有害请求：在 JailbreakBench、StrongREJECT 与 AgentHarm 的恶意提示上，其平均拒绝率高于任何其他开放权重模型。

性能方面，截至 10 月 29 日，Mistral Large 4 在 Artificial Analysis 智能指数上位列开放权重模型第五。编码上，DeepSWE v1.1 为 61.7%、SWE-Atlas-QnA 为 59.4%、Terminal-Bench 4 为 28.3%，综合 Coding Agent Index 为 49.8%，排在 DeepSeek V4 Pro 0813 与 Qwen3.8 Max 之前；AutomationBench 为 59.9%，AA-Briefcase 为 1,393 Elo。

部署门槛被压得较低。模型在发布当天即获得 transformers、vLLM 与 llama.cpp 支持，Unsloth 和 llama.cpp 团队提供 GGUF 量化，Hugging Face 侧还有 Inference Endpoints、Inference Providers，以及用 TRL 做微调、在 Dell Enterprise Hub 上部署的路径。对需要在自有环境里处理敏感代码或样本的团队来说，这套组合比单纯的榜单分数更有意义。