比较 GPU
使用同一套价格、库存和规格数据比较 2-4 个公开 GPU。
| GPU |
NVIDIA L40S 48GB |
|---|---|
| 月租 | USD 506/月 |
| 小时等价 | ~ USD 0.69/小时 |
| 显存 | 48 GB GDDR6 ECC |
| 架构 | Ada Lovelace |
| 带宽 | 864 GB/s |
| 外形 | PCIe dual-slot accelerator card |
| 接口 | PCIe Gen4 x16 |
| TDP | 350 W |
| FP64 | 未列出 |
| FP64 Tensor | 未列出 |
| FP32 | 91.6 TFLOPS 密集 |
| TF32 | 183 TFLOPS 密集 / 366 TFLOPS 稀疏 |
| BF16 | 362.05 TFLOPS 密集 / 733 TFLOPS 稀疏 |
| FP16 | 362.05 TFLOPS 密集 / 733 TFLOPS 稀疏 |
| FP8 | 733 TFLOPS 密集 / 1466 TFLOPS 稀疏 |
| INT8 | 733 TOPS 密集 / 1466 TOPS 稀疏 |
| MIG | 不支持 |
| NVLink | 不支持 |
| 可用性 | 可用 |
| 框架 | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA |
| 模型兼容指南 | 通常需要多块 GPU 或更强量化 |
| 操作 | 配置并租用 |