DeepSeek-Coder-V2-Instruct-0724
deepseek-ai/DeepSeek-Coder-V2-Instruct-0724
官方 · BF16 · safetensors
已验证运行环境: Transformers
| 精度 / 量化 | 格式 | 位数 | 发布者可信度 | 部署状态 |
|---|---|---|---|---|
| BF16 | safetensors | 16 | 官方 | 已验证运行环境 |
总参数236.0B
激活参数21.0B
上下文窗口163,840 tokens
版本状态旧版 · 旧版
架构DeepseekV2ForCausalLM
模态文本, 代码
许可证DeepSeek 模型许可证
部署状态具备认证配置，可部署
商业状态允许有条件的商业使用
发布日期2024-09-05
架构、优势与用途
DeepSeek Coder V2 Instruct 0724 是 DeepSeek 在 DeepSeek 代码分支中的官方可自托管版本，采用 DeepseekV2ForCausalLM、236B / 21B MoE，认证上下文为 163,840 词元。
DeepSeek Coder V2 Instruct 0724 使用 DeepseekV2ForCausalLM 和 236B / 21B MoE。官方资料发布时记录 60 层、隐藏维度 5120 和 128 个注意力头。
已验证的 DeepseekV2ForCausalLM 架构
163,840 词元认证上下文
官方检查点来源
私有 LLM 推理
智能体工作流
长文档处理
已认证检查点与量化
仅显示与此版本关联并经来源认证的精确变体。
推荐硬件
仅使用与精确检查点精度匹配的认证运行时组合。硬件排序会检查权重、KV 缓存、开销、GPU 架构与拓扑。
估算权重内存452.77 GB
KV 缓存30 GB
运行时开销120.32 GB
含安全余量总计747.83 GB
技术兼容参考配置
当前 FusionPointAI 库存没有同时通过此检查点的运行时、架构、拓扑和内存检查。请使用估算器查看全球兼容硬件。
许可证与自托管注意事项
全部 236 B 常驻权重必须装入所选 GPU；上下文与并发会增加 KV 缓存。
DeepSeek Coder V2 Instruct 0724 采用 DeepSeek 模型许可证 发布，并保留版本级官方 URL 与验证日期。
允许有条件的商业使用. 商业使用附带条件。部署前请查看所链接的官方条款。
发布历程
deepseek/deepseek/deepseek-coder-v2-instruct-0724 @ 53767894ea47825e98189db7c94f226fb76c1563fc3195e65cec1143f8a13f76
常见问题
DeepSeek Coder V2 Instruct 0724 需要多少 VRAM？
估算取决于精度、上下文和并发，并使用认证数据。
哪些运行时支持 DeepSeek Coder V2 Instruct 0724？
transformers 已有认证的上游证据。
DeepSeek Coder V2 Instruct 0724 可用于商业用途吗？
存储分类为允许有条件的商业使用；请查阅官方 DeepSeek 模型许可证 条款。
官方来源
最近验证: 2026-08-26