NVIDIA · प्लेटफ़ॉर्म · रैक प्रणाली

NVIDIA GB300 NVL72

इस पृष्ठ पर GB300 NVL72 के सटीक संदर्भ विनिर्देश और AI परिनियोजन के लिए मार्गदर्शन दिया गया है। यह जानकारी FusionPointAI के व्यावसायिक GPU किराये के स्टॉक से अलग है।

VRAM20000 GB

मेमोरी तकनीकHBM3e

फॉर्म फैक्टररैक-स्तर · 72 GPU · प्लेटफ़ॉर्म

इंटरफ़ेसMGX NVL72

पावरजानकारी उपलब्ध नहीं

वर्तमान केवल संदर्भ

GPU तुलना

तकनीकी आरेख

NVIDIA GB300 NVL72 के लिए तटस्थ तकनीकी चित्र; उत्पाद फोटो नहीं — संदर्भ चित्र; सटीक पहचान के लिए सत्यापित तालिका देखें। यह उत्पाद की तस्वीर नहीं है। FusionPointAI neutral GPU reference illustration

तकनीकी विवरण

फ़ील्ड	मान
निर्माता	NVIDIA
सटीक SKU	GB300 NVL72
उत्पाद परिवार	NVIDIA GB300
वास्तुकला	Blackwell Ultra
पीढ़ी	Blackwell Ultra
इकाई प्रकार	रैक प्रणाली
जीवनचक्र	वर्तमान
लॉन्च तारीख	जानकारी उपलब्ध नहीं
VRAM	20000 GB
मेमोरी तकनीक	HBM3e
मेमोरी बैंडविड्थ	जानकारी उपलब्ध नहीं
पावर	जानकारी उपलब्ध नहीं
इंटरफ़ेस	MGX NVL72
फॉर्म फैक्टर	रैक-स्तर · 72 GPU · प्लेटफ़ॉर्म
इंटरकनेक्ट	NVLink 5
MIG / विभाजन	समर्थित नहीं
समर्थित संख्यात्मक प्रारूप	FP64, FP32, TF32, BF16, FP16, FP8, FP6, FP4, INT8
सॉफ्टवेयर स्टैक	cuda, vllm, sglang, tensorrt-llm

AI वर्कलोड उपयुक्तता

LLM इन्फ़रेंस

उच्च मेमोरी क्षमता बड़े चेकपॉइंट चलाने और प्रमाणित रनटाइम व टोपोलॉजी के साथ कई GPU पर इन्फ़रेंस करने में मदद करती है।

फाइन-ट्यूनिंग और प्रशिक्षण

सॉफ्टवेयर समर्थन, कूलिंग और पर्याप्त मेमोरी की पुष्टि के बाद, सीमित फाइन-ट्यूनिंग और डेवलपमेंट के लिए इसका उपयोग किया जा सकता है।

चित्र, वीडियो और embedding

FP16 सूचीबद्ध VRAM के भीतर जनरेटिव और वेक्टर वर्कलोड समर्थन करता है।

पावर और कूलिंग

निर्माता ने तुलना योग्य बोर्ड पावर प्रकाशित नहीं की।

मल्टी-GPU उपयोग

NVLink 5 दर्ज इंटरकनेक्ट है; नोड टोपोलॉजी सत्यापित करें।

सॉफ्टवेयर पारिस्थितिकी

cuda, vllm, sglang, tensorrt-llm

उत्पाद का इतिहास