NVIDIA · Centre de données · Carte accélératrice
NVIDIA H100 NVL 94GB
Cette page présente les caractéristiques de référence du H100 NVL et des conseils de déploiement de l’IA, distincts de l’inventaire commercial de FusionPointAI.
Actuel
Référence uniquement
Caractéristiques techniques vérifiées
| Fabricant | NVIDIA |
|---|---|
| SKU exact | H100 NVL |
| Famille produit | NVIDIA H100 |
| Architecture du modèle | Hopper |
| Génération | Hopper |
| Type d’entité | Carte accélératrice |
| Cycle de vie | Actuel |
| Date de lancement | Information non publiée par le fabricant. |
| VRAM | 94 GB |
| Technologie mémoire | HBM3 |
| Bande passante mémoire | 3 900 GB/s |
| Puissance | 400 W |
| Interface | PCIe Gen5 x16 |
| Format | Double emplacement · PCIe · Accélérateur |
| Interconnexion | NVLink |
| MIG / partitionnement | Pris en charge |
| Formats numériques pris en charge | FP64, FP32, TF32, BF16, FP16, FP8, INT8 |
| Pile logicielle | cuda, vllm, sglang, tensorrt-llm |
Adéquation aux charges IA
Inférence LLM
La grande capacité mémoire permet de traiter des checkpoints volumineux et d’exécuter des inférences sur plusieurs GPU, à condition d’avoir validé l’environnement d’exécution et la topologie.
Ajustement fin et entraînement
Conçu pour des charges de calcul accélérées et soutenues ; l’aptitude à l’entraînement dépend de l’interconnexion, de la précision numérique et de la topologie du cluster.
Image, vidéo et représentations vectorielles
L’accélération FP16 prend en charge les charges génératives et vectorielles dans la VRAM indiquée.
Alimentation et refroidissement
La puissance publiée de 400 W exige un châssis, un flux d’air et une alimentation adaptés.
Usage multi-GPU
NVLink est l’interconnexion enregistrée ; la topologie doit encore être validée.
Écosystème logiciel
cuda, vllm, sglang, tensorrt-llm
Chronologie du produit
Galerie média
Source officielle du fabricant
https://www.nvidia.com/en-us/data-center/h100/
Dernière vérification: 2026-08-24