Mistral-Small-4-119B-2603
mistralai/Mistral-Small-4-119B-2603
官方 · FP8 · safetensors
已验证运行环境: Transformers vLLM SGLang
| 精度 / 量化 | 格式 | 位数 | 发布者可信度 | 部署状态 |
|---|---|---|---|---|
| FP8 | safetensors | 8 | 官方 | 已验证运行环境 |
总参数119.0B
激活参数6.0B
上下文窗口1,048,576 tokens
版本状态当前 · 当前
架构Mistral3ForConditionalGeneration
模态文本
许可证Apache 2.0 许可证
部署状态具备认证配置，可部署
商业状态允许商业使用
发布日期2026-01-23
架构、优势与用途
Mistral Small 4 119B A6B 是 Mistral AI 在 Mistral 通用小型分支中的官方可自托管版本，采用 Mistral3ForConditionalGeneration、119B / 6B MoE，认证上下文为 1,048,576 Token。
Mistral Small 4 119B A6B 使用 Mistral3ForConditionalGeneration 和 119B / 6B MoE。官方资料发布时记录 36 层、隐藏维度 4096 和 32 个注意力头。
已验证的 Mistral3ForConditionalGeneration 架构
1,048,576 Token 认证上下文
官方检查点来源
私有 LLM 推理
智能体工作流
长文档处理
已认证检查点与量化
仅显示与此版本关联并经来源认证的精确变体。
Mistral-Small-4-119B-2603-NVFP4
mistralai/Mistral-Small-4-119B-2603-NVFP4
官方 · NVFP4 · safetensors
已验证运行环境: Transformers vLLM SGLang
| 精度 / 量化 | 格式 | 位数 | 发布者可信度 | 部署状态 |
|---|---|---|---|---|
| NVFP4 | safetensors | 4 | 官方 | 已验证运行环境 |
推荐硬件
仅使用与精确检查点精度匹配的认证运行时组合。硬件排序会检查权重、KV 缓存、开销、GPU 架构与拓扑。
估算权重内存114.15 GB
KV 缓存2.25 GB
运行时开销37.8 GB
含安全余量总计191.21 GB
推荐性价比方案
3× NVIDIA H100 SXM 80GB
240 GB 总 VRAM · nvswitch
48.79 GB 余量 · 可用
USD 5,580 / 月最低成本可行方案
2× NVIDIA H200 SXM 141GB
282 GB 总 VRAM · nvswitch
90.79 GB 余量 · 容量有限
USD 4,690 / 月最高性能
2× NVIDIA H200 SXM 141GB
282 GB 总 VRAM · nvswitch
90.79 GB 余量 · 容量有限
USD 4,690 / 月许可证与自托管注意事项
全部 119 B 常驻权重必须装入所选 GPU；上下文与并发会增加 KV 缓存。
Mistral Small 4 119B A6B 采用 Apache 2.0 许可证发布，并保留版本级官方 URL 与验证日期。
允许商业使用. 官方许可允许商业使用，但仍须遵守其全部义务。
发布历程
mistral-ai/mistral/mistral-small-4-119b @ 37909a0153738d7a6b9e5172ae822191318b7a5f040a84c8346965a01c32d5c4
常见问题
Mistral Small 4 119B A6B 需要多少 VRAM？
估算取决于精度、上下文和并发，并使用认证数据。
哪些运行时支持 Mistral Small 4 119B A6B？
transformers, vllm, sglang 已有认证的上游证据。
Mistral Small 4 119B A6B 可用于商业用途吗？
存储分类为允许商业使用；请查阅官方 Apache 2.0 许可证条款。
官方来源
最近验证: 2026-08-26