nvidia-gh200-96gb
উৎসের বিবরণ
উৎস revision: 45ceb776e39ae795b323418d5ab43f7423707f3e27bc97dc1cff6c9c5b862b01
NVIDIA · Platform · সুপারচিপ
নির্দিষ্ট GH200 96GB-এর তথ্যসূত্রভিত্তিক বৈশিষ্ট্য ও AI স্থাপনা নির্দেশনা, FusionPointAI-র বাণিজ্যিক মজুত থেকে আলাদা।
প্রযুক্তিগত চিত্র
| ক্ষেত্র | মান |
|---|---|
| প্রস্তুতকারক | NVIDIA |
| সঠিক SKU | GH200 96GB |
| পণ্য পরিবার | NVIDIA GH200 |
| স্থাপত্য | Hopper |
| প্রজন্ম | Grace Hopper |
| সত্তার ধরন | সুপারচিপ |
| জীবনচক্র | সাম্প্রতিক প্রজন্ম |
| চালুর তারিখ | তালিকাভুক্ত নয় |
| VRAM | 96 GB |
| মেমরি প্রযুক্তি | HBM3 |
| মেমরির ব্যান্ডউইডথ | ৪,০০০ GB/s |
| বিদ্যুৎ ক্ষমতা | 1000 W |
| ইন্টারফেস | NVLink-C2C |
| আকৃতি ও বিন্যাস | CPU-GPU · সুপারচিপ |
| আন্তঃসংযোগ | NVLink-C2C |
| MIG / বিভাজন | সমর্থিত |
| সমর্থিত সংখ্যাগত format | FP64, FP32, TF32, BF16, FP16, FP8, INT8 |
| সফটওয়্যার স্ট্যাক | cuda, vllm, sglang, tensorrt-llm |
বেশি memory-তে বড় checkpoint ও একাধিক GPU-র inference চালানো যায়, তবে runtime ও topology সনদপ্রাপ্ত হতে হবে।
Software সমর্থন, cooling ও memory যাচাই থাকলে সীমিত fine-tuning ও development-এ উপযোগী।
তালিকাভুক্ত VRAM সীমার মধ্যে FP16 acceleration প্রচলিত generative ও vector workload সমর্থন করে।
প্রকাশিত 1000 W power সামলাতে এই নির্দিষ্ট form factor-এর উপযোগী chassis, airflow ও বিদ্যুৎ সরবরাহ দরকার।
NVLink-C2C নথিভুক্ত interconnect পথ; node স্তরে topology তবুও যাচাই করতে হবে।
cuda, vllm, sglang, tensorrt-llm
উৎস revision: 45ceb776e39ae795b323418d5ab43f7423707f3e27bc97dc1cff6c9c5b862b01
এটি পণ্যের আলোকচিত্র নয়।
https://www.nvidia.com/en-us/data-center/grace-hopper-superchip/
সর্বশেষ যাচাই: 2026-08-24