মূল content-এ যান

NVIDIA · ডেটা সেন্টার · অ্যাক্সিলারেটর কার্ড

NVIDIA A100 PCIe 80GB

নির্দিষ্ট A100 PCIe 80GB-এর তথ্যসূত্রভিত্তিক বৈশিষ্ট্য ও AI স্থাপনা নির্দেশনা, FusionPointAI-র বাণিজ্যিক মজুত থেকে আলাদা।

VRAM80 GB
মেমরি প্রযুক্তিHBM2e
আকৃতি ও বিন্যাসদুই slot · PCIe · অ্যাক্সিলারেটর
ইন্টারফেসPCIe Gen4 x16
বিদ্যুৎ ক্ষমতা300 W
পূর্ববর্তী প্রজন্ম শুধু তথ্যসূত্র

বৈশিষ্ট্য

ক্ষেত্রমান
প্রস্তুতকারকNVIDIA
সঠিক SKUA100 PCIe 80GB
পণ্য পরিবারNVIDIA A100
স্থাপত্যAmpere
প্রজন্মAmpere Data Center
সত্তার ধরনঅ্যাক্সিলারেটর কার্ড
জীবনচক্রপূর্ববর্তী প্রজন্ম
চালুর তারিখতালিকাভুক্ত নয়
VRAM80 GB
মেমরি প্রযুক্তিHBM2e
মেমরির ব্যান্ডউইডথ১,৯৩৫ GB/s
বিদ্যুৎ ক্ষমতা300 W
ইন্টারফেসPCIe Gen4 x16
আকৃতি ও বিন্যাসদুই slot · PCIe · অ্যাক্সিলারেটর
আন্তঃসংযোগNVLink
MIG / বিভাজনসমর্থিত
সমর্থিত সংখ্যাগত formatFP64, FP32, TF32, BF16, FP16, INT8, INT4
সফটওয়্যার স্ট্যাকcuda, vllm, sglang, tensorrt-llm

AI কাজের উপযোগিতা

LLM inference

বেশি memory-তে বড় checkpoint ও একাধিক GPU-র inference চালানো যায়, তবে runtime ও topology সনদপ্রাপ্ত হতে হবে।

Fine-tuning ও প্রশিক্ষণ

দীর্ঘ সময়ের accelerator workload-এর জন্য তৈরি; প্রশিক্ষণে উপযোগিতা interconnect, precision ও cluster topology-এর ওপর নির্ভরশীল।

ছবি, ভিডিও ও embedding

তালিকাভুক্ত VRAM সীমার মধ্যে FP16 acceleration প্রচলিত generative ও vector workload সমর্থন করে।

বিদ্যুৎ ও শীতলীকরণ

প্রকাশিত 300 W power সামলাতে এই নির্দিষ্ট form factor-এর উপযোগী chassis, airflow ও বিদ্যুৎ সরবরাহ দরকার।

একাধিক GPU-র ব্যবহার

NVLink নথিভুক্ত interconnect পথ; node স্তরে topology তবুও যাচাই করতে হবে।

সফটওয়্যার ইকোসিস্টেম

cuda, vllm, sglang, tensorrt-llm

পণ্যের সময়রেখা

nvidia-a100-pcie-80gb

উৎসের বিবরণ

সরকারি উৎস

উৎস revision: e42e54d5b726933b2302e3d60ed4e45fe44bd9543951a6c047c7d0b4b7483eea