NVIDIA · Centre de données · Carte accélératrice
NVIDIA H100 PCIe 80GB
Cette page présente les caractéristiques de référence du H100 PCIe et des conseils de déploiement de l’IA, distincts de l’inventaire commercial de FusionPointAI.
Actuel
Disponible à la location
Caractéristiques techniques vérifiées
| Fabricant | NVIDIA |
|---|---|
| SKU exact | H100 PCIe |
| Famille produit | NVIDIA H100 |
| Architecture du modèle | Hopper |
| Génération | Hopper |
| Type d’entité | Carte accélératrice |
| Cycle de vie | Actuel |
| Date de lancement | Information non publiée par le fabricant. |
| VRAM | 80 GB |
| Technologie mémoire | HBM2e |
| Bande passante mémoire | 2 000 GB/s |
| Puissance | 350 W |
| Interface | PCIe Gen5 x16 |
| Format | Double emplacement · PCIe · Accélérateur |
| Interconnexion | PCIe |
| MIG / partitionnement | Pris en charge |
| Formats numériques pris en charge | FP64, FP32, TF32, BF16, FP16, FP8, INT8 |
| Pile logicielle | cuda, vllm, sglang, tensorrt-llm |
Calcul
| Précision | Mode dense | Avec sparsité |
|---|---|---|
| FP64 | 26 TFLOPS | — |
| FP64 Tensor | 51 TFLOPS | — |
| FP32 | 51 TFLOPS | — |
| TF32 Tensor | 378 TFLOPS | 756 TFLOPS |
| BF16 Tensor | 756.5 TFLOPS | 1513 TFLOPS |
| FP16 Tensor | 756.5 TFLOPS | 1513 TFLOPS |
| FP8 Tensor | 1513 TFLOPS | 3026 TFLOPS |
| INT8 Tensor | 1513 TOPS | 3026 TOPS |
Adéquation aux charges IA
Inférence LLM
La grande capacité mémoire permet de traiter des checkpoints volumineux et d’exécuter des inférences sur plusieurs GPU, à condition d’avoir validé l’environnement d’exécution et la topologie.
Ajustement fin et entraînement
Conçu pour des charges de calcul accélérées et soutenues ; l’aptitude à l’entraînement dépend de l’interconnexion, de la précision numérique et de la topologie du cluster.
Image, vidéo et représentations vectorielles
L’accélération FP16 prend en charge les charges génératives et vectorielles dans la VRAM indiquée.
Alimentation et refroidissement
La puissance publiée de 350 W exige un châssis, un flux d’air et une alimentation adaptés.
Usage multi-GPU
PCIe est l’interconnexion enregistrée ; la topologie doit encore être validée.
Écosystème logiciel
cuda, vllm, sglang, tensorrt-llm
Location FusionPointAI
L’inventaire public actuel correspond à ce SKU exact.
Prix mensuel de location : USD 1 579 / mois
Voir la disponibilité et configurerChronologie du produit
Galerie média
Comparaisons éditoriales
Source officielle du fabricant
https://www.nvidia.com/en-us/data-center/h100/
Dernière vérification: 2026-08-24