NVIDIA · Plateforme · Système en baie

NVIDIA Vera Rubin NVL72

Cette page présente les caractéristiques de référence du Vera Rubin NVL72 et des conseils de déploiement de l’IA, distincts de l’inventaire commercial de FusionPointAI.

VRAM20700 GB

Technologie mémoireHBM4

FormatÀ l’échelle du rack · 72 GPU · Plateforme

InterfaceMGX NVL72

PuissanceNon renseigné

Actuel Référence uniquement

Comparer le GPU

Schémas techniques

Illustration technique neutre pour NVIDIA Vera Rubin NVL72 ; ce n’est pas une photo du produit — Illustration de référence ; consultez les spécifications vérifiées pour l’identité exacte. Il ne s’agit pas d’une photographie du produit. FusionPointAI neutral GPU reference illustration

Caractéristiques techniques

Champ	Valeur
Fabricant	NVIDIA
SKU exact	Vera Rubin NVL72
Famille produit	NVIDIA Vera Rubin NVL72
Architecture du modèle	Rubin
Génération	Rubin
Type d’entité	Système en baie
Cycle de vie	Actuel
Date de lancement	Non renseigné
VRAM	20700 GB
Technologie mémoire	HBM4
Bande passante mémoire	1 580 000 GB/s
Puissance	Non renseigné
Interface	MGX NVL72
Format	À l’échelle du rack · 72 GPU · Plateforme
Interconnexion	NVLink 6
MIG / partitionnement	Non pris en charge
Formats numériques pris en charge	FP64, FP32, TF32, BF16, FP16, FP8, FP6, FP4, INT8
Pile logicielle	cuda

Adéquation aux charges IA

Inférence LLM

La grande capacité mémoire permet de traiter des checkpoints volumineux et d’exécuter des inférences sur plusieurs GPU, à condition d’avoir validé l’environnement d’exécution et la topologie.

Ajustement fin et entraînement

Convient aux opérations d’ajustement fin limitées et au développement, après vérification de la compatibilité logicielle, du refroidissement et de la mémoire disponible.