NVIDIA · Centro de datos · Tarjeta aceleradora
NVIDIA L4 24GB
Esta página reúne las especificaciones de referencia del L4 y orientaciones para su implementación en proyectos de IA, independientes del inventario comercial de FusionPointAI.
Actual
Disponible para alquilar
Especificaciones técnicas verificadas
| Fabricante | NVIDIA |
|---|---|
| SKU exacto | L4 |
| Familia de producto | NVIDIA L4 |
| Arquitectura | Ada Lovelace |
| Generación | Ada para centros de datos |
| Tipo de entidad | Tarjeta aceleradora |
| Ciclo de vida | Actual |
| Fecha de lanzamiento | El fabricante no ha publicado este dato. |
| VRAM | 24 GB |
| Tecnología de memoria | GDDR6 |
| Ancho de banda de memoria | 300 GB/s |
| Potencia | 72 W |
| Interfaz | PCIe Gen4 x16 |
| Formato | Perfil bajo · PCIe · Acelerador |
| Interconexión | PCIe |
| MIG / partición | No compatible |
| Formatos numéricos admitidos | FP32, TF32, BF16, FP16, FP8, INT8 |
| Pila de software | cuda, vllm, sglang, tensorrt-llm |
Cómputo
| Precisión | Denso | Con dispersión |
|---|---|---|
| FP32 | 30.3 TFLOPS | — |
| TF32 Tensor | 60 TFLOPS | 120 TFLOPS |
| BF16 Tensor | 121 TFLOPS | 242 TFLOPS |
| FP16 Tensor | 121 TFLOPS | 242 TFLOPS |
| FP8 Tensor | 242.5 TFLOPS | 485 TFLOPS |
| INT8 Tensor | 242.5 TOPS | 485 TOPS |
Adecuación a cargas IA
Inferencia LLM
Adecuado para checkpoints pequeños, modelos comprimidos o configuraciones distribuidas dimensionadas por el motor.
Ajuste fino y entrenamiento
Diseñado para cargas sostenidas con aceleradores; la idoneidad para entrenamiento depende de la interconexión, la precisión numérica y la topología del clúster.
Imagen, vídeo y representaciones vectoriales
La aceleración FP16 admite cargas generativas y vectoriales dentro de la VRAM indicada.
Potencia y refrigeración
La potencia publicada de 72 W requiere chasis, flujo de aire y alimentación adecuados.
Uso multi-GPU
PCIe es la interconexión registrada; la topología debe validarse por nodo.
Ecosistema de software
cuda, vllm, sglang, tensorrt-llm
Alquiler FusionPointAI
El inventario público actual está vinculado a este SKU exacto.
Precio mensual: USD 250 / mes
Ver disponibilidad y configurarCronología del producto
Galería multimedia
Fuente oficial del fabricante
https://www.nvidia.com/en-us/data-center/l4/
Última verificación: 2026-08-24