NVIDIA · Plateforme · Nœud de calcul

NVIDIA GH200 NVL2 288GB

Cette page présente les caractéristiques de référence du GH200 NVL2 et des conseils de déploiement de l’IA, distincts de l’inventaire commercial de FusionPointAI.

VRAM288 GB

Technologie mémoireHBM3e

FormatDeux superpuces · Noeud

InterfaceNVLink

PuissanceNon renseigné

Actuel Référence uniquement

Comparer le GPU

Schémas techniques

Illustration technique neutre pour NVIDIA GH200 NVL2 288GB ; ce n’est pas une photo du produit — Illustration de référence ; consultez les spécifications vérifiées pour l’identité exacte. Il ne s’agit pas d’une photographie du produit. FusionPointAI neutral GPU reference illustration

Caractéristiques techniques

Champ	Valeur
Fabricant	NVIDIA
SKU exact	GH200 NVL2
Famille produit	NVIDIA GH200
Architecture du modèle	Hopper
Génération	Grace Hopper
Type d’entité	Nœud de calcul
Cycle de vie	Actuel
Date de lancement	Non renseigné
VRAM	288 GB
Technologie mémoire	HBM3e
Bande passante mémoire	9 800 GB/s
Puissance	Non renseigné
Interface	NVLink
Format	Deux superpuces · Noeud
Interconnexion	NVLink
MIG / partitionnement	Pris en charge
Formats numériques pris en charge	FP64, FP32, TF32, BF16, FP16, FP8, INT8
Pile logicielle	cuda

Adéquation aux charges IA

Inférence LLM

La grande capacité mémoire permet de traiter des checkpoints volumineux et d’exécuter des inférences sur plusieurs GPU, à condition d’avoir validé l’environnement d’exécution et la topologie.

Ajustement fin et entraînement

Convient aux opérations d’ajustement fin limitées et au développement, après vérification de la compatibilité logicielle, du refroidissement et de la mémoire disponible.