读懂 Mistral Large 4：两种稀疏机制与部署取舍

专家与注意力不要混为一谈

Hugging Face 的介绍说明 Mistral Large 4 支持文本和图像输入、文本输出。其 MoE 为每个 token 选择部分专家，而注意力索引器选择要关注的先前位置，两者分别作用于不同的计算环节。

文章给出约一万亿总参数、490 亿激活参数和一百万 token 上下文窗口。这些是来源公布的规格，本站未执行相应硬件跑分。

量化版本改变的不止大小

来源介绍 FP8、NVFP4 与社区 GGUF 发布物。选择格式要同时看推理框架支持、量化误差、显存预算和吞吐需求，不能只比较模型文件的下载体积。

长上下文会带来额外缓存与预填充成本。把最大上下文窗口当作每次请求的默认长度，往往会让低延迟目标更难实现。

先看许可，再做工作负载评估

原文说明模型使用 Mistral Ecosystem Open-Weight License，并对模型服务场景有相应限制。开放权重的商业使用条件需要以许可原文为准。

本站建议从自己的文档问答、图像理解或代码任务取样，记录正确率、失败类型、首 token 延迟和总成本。来源中的排行榜不能替代你的部署评估。

实践检查表

• 总参数、激活参数、缓存成本分别估算。
• 确认目标运行时支持所选量化格式。
• 保留许可与模型卡版本，执行自己的小样本评测。