GPU 云目录

按显存、架构、可用性、月租价格和 AI 适配度比较 GPU。

NVIDIA H200 SXM 141GB GPU accelerator
NVIDIA · Hopper

NVIDIA H200 SXM 141GB

适合大模型、长上下文、重型微调和高显存 AI 工作负载。

显存
141 GB
内存
HBM3e
带宽
4,800 GB/s
Limited capacity 适合 工作负载评估
USD 2,345/月 ~ USD 3.21/小时
NVIDIA H100 SXM 80GB GPU accelerator
NVIDIA · Hopper

NVIDIA H100 SXM 80GB

适合量化 70B 推理、LoRA 微调和高吞吐服务。

显存
80 GB
内存
HBM3
带宽
3,350 GB/s
Available 适合 工作负载评估
USD 1,860/月 ~ USD 2.55/小时
NVIDIA H100 PCIe 80GB GPU accelerator
NVIDIA · Hopper

NVIDIA H100 PCIe 80GB

适合量化 70B 推理、LoRA 微调和高吞吐服务。

显存
80 GB
内存
HBM2e
带宽
2,000 GB/s
Limited capacity 适合 工作负载评估
USD 1,579/月 ~ USD 2.16/小时
NVIDIA A100 SXM 80GB GPU accelerator
NVIDIA · Ampere

NVIDIA A100 SXM 80GB

适合量化 70B 推理、LoRA 微调和高吞吐服务。

显存
80 GB
内存
HBM2e
带宽
2,039 GB/s
Available 适合 工作负载评估
USD 915/月 ~ USD 1.25/小时
NVIDIA L40S 48GB GPU accelerator
NVIDIA · Ada Lovelace

NVIDIA L40S 48GB

适合中型 LLM、图像生成、计算机视觉和成本可控的生产推理。

显存
48 GB
内存
GDDR6 ECC
带宽
864 GB/s
Available 适合 工作负载评估
USD 506/月 ~ USD 0.69/小时
NVIDIA L4 24GB GPU accelerator
NVIDIA · Ada Lovelace

NVIDIA L4 24GB

适合小模型推理、embedding、reranking、开发和成本敏感 AI 服务。

显存
24 GB
内存
GDDR6
带宽
300 GB/s
Available 适合 工作负载评估
USD 250/月 ~ USD 0.34/小时