NVIDIA · Plateforme · Système en baie

NVIDIA GB300 NVL72

Cette page présente les caractéristiques de référence du GB300 NVL72 et des conseils de déploiement de l’IA, distincts de l’inventaire commercial de FusionPointAI.

VRAM20000 GB

Technologie mémoireHBM3e

FormatÀ l’échelle du rack · 72 GPU · Plateforme

InterfaceMGX NVL72

PuissanceNon renseigné

Actuel Référence uniquement

Comparer le GPU

Schémas techniques

Illustration technique neutre pour NVIDIA GB300 NVL72 ; ce n’est pas une photo du produit — Illustration de référence ; consultez les spécifications vérifiées pour l’identité exacte. Il ne s’agit pas d’une photographie du produit. FusionPointAI neutral GPU reference illustration

Caractéristiques techniques

Champ	Valeur
Fabricant	NVIDIA
SKU exact	GB300 NVL72
Famille produit	NVIDIA GB300
Architecture du modèle	Blackwell Ultra
Génération	Blackwell Ultra
Type d’entité	Système en baie
Cycle de vie	Actuel
Date de lancement	Non renseigné
VRAM	20000 GB
Technologie mémoire	HBM3e
Bande passante mémoire	Non renseigné
Puissance	Non renseigné
Interface	MGX NVL72
Format	À l’échelle du rack · 72 GPU · Plateforme
Interconnexion	NVLink 5
MIG / partitionnement	Non pris en charge
Formats numériques pris en charge	FP64, FP32, TF32, BF16, FP16, FP8, FP6, FP4, INT8
Pile logicielle	cuda, vllm, sglang, tensorrt-llm

Adéquation aux charges IA

Inférence LLM

La grande capacité mémoire permet de traiter des checkpoints volumineux et d’exécuter des inférences sur plusieurs GPU, à condition d’avoir validé l’environnement d’exécution et la topologie.

Ajustement fin et entraînement

Convient aux opérations d’ajustement fin limitées et au développement, après vérification de la compatibilité logicielle, du refroidissement et de la mémoire disponible.