NVIDIA · Plateforme · Système en baie

NVIDIA GB200 NVL72

Cette page présente les caractéristiques de référence du GB200 NVL72 et des conseils de déploiement de l’IA, distincts de l’inventaire commercial de FusionPointAI.

VRAM13500 GB

Technologie mémoireHBM3e

FormatÀ l’échelle du rack · 72 GPU · Plateforme

InterfaceMGX NVL72

PuissanceNon renseigné

Actuel Référence uniquement

Comparer le GPU

Schémas techniques

Illustration technique neutre pour NVIDIA GB200 NVL72 ; ce n’est pas une photo du produit — Illustration de référence ; consultez les spécifications vérifiées pour l’identité exacte. Il ne s’agit pas d’une photographie du produit. FusionPointAI neutral GPU reference illustration

Caractéristiques techniques

Champ	Valeur
Fabricant	NVIDIA
SKU exact	GB200 NVL72
Famille produit	NVIDIA GB200
Architecture du modèle	Blackwell
Génération	Blackwell
Type d’entité	Système en baie
Cycle de vie	Actuel
Date de lancement	Non renseigné
VRAM	13500 GB
Technologie mémoire	HBM3e
Bande passante mémoire	576 000 GB/s
Puissance	Non renseigné
Interface	MGX NVL72
Format	À l’échelle du rack · 72 GPU · Plateforme
Interconnexion	NVLink 5
MIG / partitionnement	Non pris en charge
Formats numériques pris en charge	FP64, FP32, TF32, BF16, FP16, FP8, FP6, FP4, INT8
Pile logicielle	cuda, vllm, sglang, tensorrt-llm

Adéquation aux charges IA

Inférence LLM

La grande capacité mémoire permet de traiter des checkpoints volumineux et d’exécuter des inférences sur plusieurs GPU, à condition d’avoir validé l’environnement d’exécution et la topologie.

Ajustement fin et entraînement

Convient aux opérations d’ajustement fin limitées et au développement, après vérification de la compatibilité logicielle, du refroidissement et de la mémoire disponible.