Qwen3.8-2.4T-A95B
官方 · BF16 · safetensors
已验证运行环境: Transformers vLLM SGLang
| 精度 / 量化 | 格式 | 位数 | 发布者可信度 | 部署状态 |
|---|---|---|---|---|
| BF16 | safetensors | 16 | 官方 | 已验证运行环境 |
总参数2,400.0B
激活参数95.0B
上下文窗口262,144 tokens
版本状态当前 · 当前
架构Qwen3_5MoeForCausalLM
模态文本
许可证Qwen3.8-Max 许可证
部署状态具备认证配置，可部署
商业状态允许有条件的商业使用
发布日期2026-08-08
架构、优势与用途
Qwen3.8 2.4T-A95B 是 Qwen 在 Qwen 通用分支中的官方可自托管版本，采用 Qwen3_5MoeForCausalLM、2400B / 95B MoE，认证上下文为 262,144 Token。
Qwen3.8 2.4T-A95B 使用 Qwen3_5MoeForCausalLM 和 2400B / 95B MoE。官方资料发布时记录 92 层、隐藏维度 8192 和 64 个注意力头。
已验证的 Qwen3_5MoeForCausalLM 架构
262,144 Token 认证上下文
官方检查点来源
私有 LLM 推理
智能体工作流
长文档处理
已认证检查点与量化
仅显示与此版本关联并经来源认证的精确变体。
Qwen3.8-2.4T-A95B-FP8
官方 · FP8 · safetensors
已验证运行环境: Transformers vLLM SGLang
| 精度 / 量化 | 格式 | 位数 | 发布者可信度 | 部署状态 |
|---|---|---|---|---|
| FP8 | safetensors | 8 | 官方 | 已验证运行环境 |
推荐硬件
仅使用与精确检查点精度匹配的认证运行时组合。硬件排序会检查权重、KV 缓存、开销、GPU 架构与拓扑。
估算权重内存4604.46 GB
KV 缓存2.88 GB
运行时开销885.96 GB
含安全余量总计6811.68 GB
技术兼容参考配置
当前 FusionPointAI 库存没有同时通过此检查点的运行时、架构、拓扑和内存检查。请使用估算器查看全球兼容硬件。
许可证与自托管注意事项
全部 2400 B 常驻权重必须装入所选 GPU；上下文与并发会增加 KV 缓存。
Qwen3.8 2.4T-A95B 采用 Qwen3.8-Max 许可证发布，并保留版本级官方 URL 与验证日期。
允许有条件的商业使用. 商业使用附带条件。部署前请查看所链接的官方条款。
替代方案与同代变体
Qwen3.8 27B, Qwen3 30B-A3B Instruct 2507, Qwen3 235B-A22B
精选比较
发布历程
qwen/qwen/qwen3-8-2-4t-a95b @ 74e316d144b8d12c4c435d77676e436595e7235267d84610e0c3d17b49399151
常见问题
Qwen3.8 2.4T-A95B 需要多少 VRAM？
估算取决于精度、上下文和并发，并使用认证数据。
哪些运行时支持 Qwen3.8 2.4T-A95B？
transformers, vllm, sglang 已有认证的上游证据。
Qwen3.8 2.4T-A95B 可用于商业用途吗？
存储分类为允许有条件的商业使用；请查阅官方 Qwen3.8-Max 许可证条款。
官方来源
最近验证: 2026-08-26