মূল content-এ যান

NVIDIA · Platform · সুপারচিপ

NVIDIA GH200 Grace Hopper Superchip 96GB

নির্দিষ্ট GH200 96GB-এর তথ্যসূত্রভিত্তিক বৈশিষ্ট্য ও AI স্থাপনা নির্দেশনা, FusionPointAI-র বাণিজ্যিক মজুত থেকে আলাদা।

VRAM96 GB
মেমরি প্রযুক্তিHBM3
আকৃতি ও বিন্যাসCPU-GPU · সুপারচিপ
ইন্টারফেসNVLink-C2C
বিদ্যুৎ ক্ষমতা1000 W
সাম্প্রতিক প্রজন্ম শুধু তথ্যসূত্র

বৈশিষ্ট্য

ক্ষেত্রমান
প্রস্তুতকারকNVIDIA
সঠিক SKUGH200 96GB
পণ্য পরিবারNVIDIA GH200
স্থাপত্যHopper
প্রজন্মGrace Hopper
সত্তার ধরনসুপারচিপ
জীবনচক্রসাম্প্রতিক প্রজন্ম
চালুর তারিখতালিকাভুক্ত নয়
VRAM96 GB
মেমরি প্রযুক্তিHBM3
মেমরির ব্যান্ডউইডথ৪,০০০ GB/s
বিদ্যুৎ ক্ষমতা1000 W
ইন্টারফেসNVLink-C2C
আকৃতি ও বিন্যাসCPU-GPU · সুপারচিপ
আন্তঃসংযোগNVLink-C2C
MIG / বিভাজনসমর্থিত
সমর্থিত সংখ্যাগত formatFP64, FP32, TF32, BF16, FP16, FP8, INT8
সফটওয়্যার স্ট্যাকcuda, vllm, sglang, tensorrt-llm

AI কাজের উপযোগিতা

LLM inference

বেশি memory-তে বড় checkpoint ও একাধিক GPU-র inference চালানো যায়, তবে runtime ও topology সনদপ্রাপ্ত হতে হবে।

Fine-tuning ও প্রশিক্ষণ

Software সমর্থন, cooling ও memory যাচাই থাকলে সীমিত fine-tuning ও development-এ উপযোগী।

ছবি, ভিডিও ও embedding

তালিকাভুক্ত VRAM সীমার মধ্যে FP16 acceleration প্রচলিত generative ও vector workload সমর্থন করে।

বিদ্যুৎ ও শীতলীকরণ

প্রকাশিত 1000 W power সামলাতে এই নির্দিষ্ট form factor-এর উপযোগী chassis, airflow ও বিদ্যুৎ সরবরাহ দরকার।

একাধিক GPU-র ব্যবহার

NVLink-C2C নথিভুক্ত interconnect পথ; node স্তরে topology তবুও যাচাই করতে হবে।

সফটওয়্যার ইকোসিস্টেম

cuda, vllm, sglang, tensorrt-llm

পণ্যের সময়রেখা

nvidia-gh200-96gb

উৎসের বিবরণ

সরকারি উৎস

উৎস revision: 45ceb776e39ae795b323418d5ab43f7423707f3e27bc97dc1cff6c9c5b862b01

প্রযুক্তিগত চিত্র

এটি পণ্যের আলোকচিত্র নয়।

সংশ্লিষ্ট মডেল

প্রস্তুতকারকের সরকারি উৎস

https://www.nvidia.com/en-us/data-center/grace-hopper-superchip/

সর্বশেষ যাচাই: 2026-08-24