跳到主要内容

NVIDIA · 旧版数据中心 · 模块

NVIDIA Tesla V100 SXM2 16GB

V100 SXM2 16GB 的精确参考规格与 AI 部署建议,与 FusionPointAI 商业库存分离。

旧版 仅供参考
NVIDIA Tesla V100 SXM2 16GB 的中性技术示意图;不是产品照片
参考示意图;请查阅认证规格表确认精确硬件。 这不是产品照片。

已验证技术规格

制造商NVIDIA
精确 SKUV100 SXM2 16GB
产品家族NVIDIA V100
架构Volta
代际Tesla 旧系列
实体类型模块
生命周期旧版
发布日期制造商尚未公布此信息。
VRAM16 GB
内存技术HBM2
内存带宽900 GB/s
功耗300 W
接口SXM2 模块接口
形态SXM2 · 模块
互连NVLink
MIG / 分区不支持
AI 数值格式支持FP64, FP32, FP16, INT8, FP4
软件栈cuda, vllm, sglang, tensorrt-llm

AI 工作负载适配性

LLM 推理

适合较小检查点、压缩模型或由推荐引擎估算的分布式配置。

微调与训练

软件支持、散热条件和内存容量均经确认后,可用于有限规模的微调与开发。

图像、视频与嵌入

FP16 加速可在所列 VRAM 范围内支持常见生成与向量工作负载。

供电与散热

公布功耗 300 W,需要适配该形态的机箱、气流和供电。

多 GPU 使用

NVLink 是记录的互连路径;仍需在节点级验证拓扑。

软件生态

cuda, vllm, sglang, tensorrt-llm

产品历程

nvidia-tesla-v100-sxm2-16gb @ b581d03bdf77b13e6e663bfba3ba260b47fe94221f3501c27e9e51b637ad615b

官方来源