মূল content-এ যান

NVIDIA · ডেটা সেন্টার · অ্যাক্সিলারেটর কার্ড

NVIDIA H100 NVL 94GB

নির্দিষ্ট H100 NVL-এর তথ্যসূত্রভিত্তিক বৈশিষ্ট্য ও AI স্থাপনা নির্দেশনা, FusionPointAI-র বাণিজ্যিক মজুত থেকে আলাদা।

VRAM94 GB
মেমরি প্রযুক্তিHBM3
আকৃতি ও বিন্যাসদুই slot · PCIe · অ্যাক্সিলারেটর
ইন্টারফেসPCIe Gen5 x16
বিদ্যুৎ ক্ষমতা400 W
বর্তমান শুধু তথ্যসূত্র

বৈশিষ্ট্য

ক্ষেত্রমান
প্রস্তুতকারকNVIDIA
সঠিক SKUH100 NVL
পণ্য পরিবারNVIDIA H100
স্থাপত্যHopper
প্রজন্মHopper
সত্তার ধরনঅ্যাক্সিলারেটর কার্ড
জীবনচক্রবর্তমান
চালুর তারিখতালিকাভুক্ত নয়
VRAM94 GB
মেমরি প্রযুক্তিHBM3
মেমরির ব্যান্ডউইডথ৩,৯০০ GB/s
বিদ্যুৎ ক্ষমতা400 W
ইন্টারফেসPCIe Gen5 x16
আকৃতি ও বিন্যাসদুই slot · PCIe · অ্যাক্সিলারেটর
আন্তঃসংযোগNVLink
MIG / বিভাজনসমর্থিত
সমর্থিত সংখ্যাগত formatFP64, FP32, TF32, BF16, FP16, FP8, INT8
সফটওয়্যার স্ট্যাকcuda, vllm, sglang, tensorrt-llm

AI কাজের উপযোগিতা

LLM inference

বেশি memory-তে বড় checkpoint ও একাধিক GPU-র inference চালানো যায়, তবে runtime ও topology সনদপ্রাপ্ত হতে হবে।

Fine-tuning ও প্রশিক্ষণ

দীর্ঘ সময়ের accelerator workload-এর জন্য তৈরি; প্রশিক্ষণে উপযোগিতা interconnect, precision ও cluster topology-এর ওপর নির্ভরশীল।

ছবি, ভিডিও ও embedding

তালিকাভুক্ত VRAM সীমার মধ্যে FP16 acceleration প্রচলিত generative ও vector workload সমর্থন করে।

বিদ্যুৎ ও শীতলীকরণ

প্রকাশিত 400 W power সামলাতে এই নির্দিষ্ট form factor-এর উপযোগী chassis, airflow ও বিদ্যুৎ সরবরাহ দরকার।

একাধিক GPU-র ব্যবহার

NVLink নথিভুক্ত interconnect পথ; node স্তরে topology তবুও যাচাই করতে হবে।

সফটওয়্যার ইকোসিস্টেম

cuda, vllm, sglang, tensorrt-llm

পণ্যের সময়রেখা

nvidia-h100-nvl-94gb

উৎসের বিবরণ

সরকারি উৎস

উৎস revision: 680476314e02e605f4a40038a9c4ddee708cfed31cd4b6d1a9ea9b77935fdfee

প্রযুক্তিগত চিত্র

এটি পণ্যের আলোকচিত্র নয়।

সংশ্লিষ্ট মডেল

প্রস্তুতকারকের সরকারি উৎস

https://www.nvidia.com/en-us/data-center/h100/

সর্বশেষ যাচাই: 2026-08-24