NVIDIA-Nemotron-3-Ultra-550B-A55B-BF16
nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B-BF16
官方 · BF16 · safetensors
已验证运行环境: Transformers
| 精度 / 量化 | 格式 | 位数 | 发布者可信度 | 部署状态 |
|---|---|---|---|---|
| BF16 | safetensors | 16 | 官方 | 已验证运行环境 |
总参数550.0B
激活参数55.0B
上下文窗口262,144 tokens
版本状态近期 · 近期
架构MoE Transformer
模态文本
许可证other
部署状态具备认证配置，可部署
商业状态未知 / 不建议部署
发布日期2026-06-03
架构、优势与用途
NVIDIA Nemotron 3 Ultra 550B-A55B 是 NVIDIA 在 NVIDIA Nemotron 通用分支中的官方可自托管版本，采用 MoE Transformer、550B / 55B MoE，认证上下文为 262,144 Token。
NVIDIA Nemotron 3 Ultra 550B-A55B 使用 MoE Transformer 和 550B / 55B MoE。官方资料发布时记录 64 层、隐藏维度 8192 和 64 个注意力头。
已验证的 MoE Transformer 架构
262,144 Token 认证上下文
官方检查点来源
私有 LLM 推理
智能体工作流
长文档处理
已认证检查点与量化
仅显示与此版本关联并经来源认证的精确变体。
NVIDIA-Nemotron-3-Ultra-550B-A55B-NVFP4
nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B-NVFP4
官方 · NVFP4 · safetensors
已验证运行环境: Transformers
| 精度 / 量化 | 格式 | 位数 | 发布者可信度 | 部署状态 |
|---|---|---|---|---|
| NVFP4 | safetensors | 4 | 官方 | 已验证运行环境 |
推荐硬件
仅使用与精确检查点精度匹配的认证运行时组合。硬件排序会检查权重、KV 缓存、开销、GPU 架构与拓扑。
未知 / 不建议部署
商业权利尚未核实，因此不建议用于商业部署。
许可证与自托管注意事项
全部 550 B 常驻权重必须装入所选 GPU；上下文与并发会增加 KV 缓存。
NVIDIA Nemotron 3 Ultra 550B-A55B 采用 other 发布，并保留版本级官方 URL 与验证日期。
未知 / 不建议部署. 商业权利尚未核实，因此不建议用于商业部署。
替代方案与同代变体
NVIDIA Nemotron 3 Super 120B-A12B, NVIDIA Nemotron 3.5 Lightning 30B-A3B, NVIDIA-Nemotron-3-Ultra-550B-A55B-NVFP4
发布历程
nvidia/nemotron/nemotron-3-ultra-550b-a55b
常见问题
NVIDIA Nemotron 3 Ultra 550B-A55B 需要多少 VRAM？
估算取决于精度、上下文和并发，并使用认证数据。
哪些运行时支持 NVIDIA Nemotron 3 Ultra 550B-A55B？
transformers 已有认证的上游证据。
NVIDIA Nemotron 3 Ultra 550B-A55B 可用于商业用途吗？
存储分类为未知 / 不建议部署；请查阅官方 other 条款。
官方来源
最近验证: 2026-09-03