AMD · 数据中心 · 加速卡
AMD Instinct MI100 32GB
MI100 的精确参考规格与 AI 部署建议,与 FusionPointAI 商业库存分离。
旧版
仅供参考
已验证技术规格
| 制造商 | AMD |
|---|---|
| 精确 SKU | MI100 |
| 产品家族 | AMD MI100 |
| 架构 | CDNA |
| 代际 | Instinct |
| 实体类型 | 加速卡 |
| 生命周期 | 旧版 |
| 发布日期 | 制造商尚未公布此信息。 |
| VRAM | 32 GB |
| 内存技术 | HBM2 |
| 内存带宽 | 1,200 GB/s |
| 功耗 | 300 W |
| 接口 | PCIe |
| 形态 | PCIe · 加速器 |
| 互连 | Infinity Fabric |
| MIG / 分区 | 不支持 |
| AI 数值格式支持 | FP64, FP32, BF16, FP16, INT8 |
| 软件栈 | rocm, vllm |
AI 工作负载适配性
LLM 推理
适合较小检查点、压缩模型或由推荐引擎估算的分布式配置。
微调与训练
适用于需要持续运行加速器的工作负载;是否适合训练取决于互连方式、数值精度和集群拓扑。
图像、视频与嵌入
FP16 加速可在所列 VRAM 范围内支持常见生成与向量工作负载。
供电与散热
公布功耗 300 W,需要适配该形态的机箱、气流和供电。
多 GPU 使用
Infinity Fabric 是记录的互连路径;仍需在节点级验证拓扑。
软件生态
rocm, vllm