NVIDIA · Centre de données · Carte accélératrice
NVIDIA L4 24GB
Cette page présente les caractéristiques de référence du L4 et des conseils de déploiement de l’IA, distincts de l’inventaire commercial de FusionPointAI.
Actuel
Disponible à la location
Caractéristiques techniques vérifiées
| Fabricant | NVIDIA |
|---|---|
| SKU exact | L4 |
| Famille produit | NVIDIA L4 |
| Architecture du modèle | Ada Lovelace |
| Génération | Ada pour centre de données |
| Type d’entité | Carte accélératrice |
| Cycle de vie | Actuel |
| Date de lancement | Information non publiée par le fabricant. |
| VRAM | 24 GB |
| Technologie mémoire | GDDR6 |
| Bande passante mémoire | 300 GB/s |
| Puissance | 72 W |
| Interface | PCIe Gen4 x16 |
| Format | Profil bas · PCIe · Accélérateur |
| Interconnexion | PCIe |
| MIG / partitionnement | Non pris en charge |
| Formats numériques pris en charge | FP32, TF32, BF16, FP16, FP8, INT8 |
| Pile logicielle | cuda, vllm, sglang, tensorrt-llm |
Calcul
| Précision | Mode dense | Avec sparsité |
|---|---|---|
| FP32 | 30.3 TFLOPS | — |
| TF32 Tensor | 60 TFLOPS | 120 TFLOPS |
| BF16 Tensor | 121 TFLOPS | 242 TFLOPS |
| FP16 Tensor | 121 TFLOPS | 242 TFLOPS |
| FP8 Tensor | 242.5 TFLOPS | 485 TFLOPS |
| INT8 Tensor | 242.5 TOPS | 485 TOPS |
Adéquation aux charges IA
Inférence LLM
Convient aux petits checkpoints, modèles compressés ou configurations distribuées dimensionnées par le moteur.
Ajustement fin et entraînement
Conçu pour des charges de calcul accélérées et soutenues ; l’aptitude à l’entraînement dépend de l’interconnexion, de la précision numérique et de la topologie du cluster.
Image, vidéo et représentations vectorielles
L’accélération FP16 prend en charge les charges génératives et vectorielles dans la VRAM indiquée.
Alimentation et refroidissement
La puissance publiée de 72 W exige un châssis, un flux d’air et une alimentation adaptés.
Usage multi-GPU
PCIe est l’interconnexion enregistrée ; la topologie doit encore être validée.
Écosystème logiciel
cuda, vllm, sglang, tensorrt-llm
Location FusionPointAI
L’inventaire public actuel correspond à ce SKU exact.
Prix mensuel de location : USD 250 / mois
Voir la disponibilité et configurerChronologie du produit
Galerie média
Source officielle du fabricant
https://www.nvidia.com/en-us/data-center/l4/
Dernière vérification: 2026-08-24