比较 GPU
使用同一套价格、库存和规格数据比较 2-4 个公开 GPU。
| GPU |
NVIDIA L4 24GB |
|---|---|
| 月租 | USD 250/月 |
| 小时等价 | ~ USD 0.34/小时 |
| 显存 | 24 GB GDDR6 |
| 架构 | Ada Lovelace |
| 带宽 | 300 GB/s |
| 外形 | PCIe low-profile accelerator card |
| 接口 | PCIe Gen4 x16 |
| TDP | 72 W |
| FP64 | 未列出 |
| FP64 Tensor | 未列出 |
| FP32 | 30.3 TFLOPS 密集 |
| TF32 | 60 TFLOPS 密集 / 120 TFLOPS 稀疏 |
| BF16 | 121 TFLOPS 密集 / 242 TFLOPS 稀疏 |
| FP16 | 121 TFLOPS 密集 / 242 TFLOPS 稀疏 |
| FP8 | 242.5 TFLOPS 密集 / 485 TFLOPS 稀疏 |
| INT8 | 242.5 TOPS 密集 / 485 TOPS 稀疏 |
| MIG | 不支持 |
| NVLink | 不支持 |
| 可用性 | 可用 |
| 框架 | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA |
| 模型兼容指南 | 通常需要多块 GPU 或更强量化 |
| 操作 | 配置并租用 |