اصلي منځپانګې ته ورټوپ کړئ

NVIDIA · ډیټاسنټر · بورډ

NVIDIA A16 64GB

د A16 کره مرجع ځانګړنې او د AI ځای‌پرځای کولو لارښوونې، د FusionPointAI له سوداګریزې موجودۍ جلا.

VRAM64 GB
د حافظې ټکنالوژيGDDR6
فزیکي بڼهبشپړ لوړوالی · دوه slotونه · څلور GPU · PCIe · برد
انترفېسPCIe Gen4 x16
برېښنا250 W
مخکینی نسل یوازې د مرجع لپاره

تخنیکي ځانګړنې

برخهارزښت
جوړوونکیNVIDIA
کره SKUA16
د محصول کورنۍNVIDIA A16
معماريAmpere
نسلAmpere Data Center
د توکي ډولبورډ
ژوندپړاومخکینی نسل
د وړاندې کېدو نېټهنه دی لېست شوی
VRAM64 GB
د حافظې ټکنالوژيGDDR6
د حافظې bandwidth۸۰۰ GB/s
برېښنا250 W
انترفېسPCIe Gen4 x16
فزیکي بڼهبشپړ لوړوالی · دوه slotونه · څلور GPU · PCIe · برد
د نښلونې لارهPCIe
MIG / وېشملاتړ نه لري
ملاتړ شوې عددي بڼېFP64, FP32, TF32, BF16, FP16, INT8, INT4
د سافټویر stackcuda, vllm, sglang, tensorrt-llm

د AI کاري بار لپاره مناسبت

د LLM استنتاج

د کوچنیو checkpoint-ونو، فشرده شوو ماډلونو یا د سپارښتنې انجن له مخې اندازه شوو وېشل شوو تنظیمونو لپاره تر ټولو مناسب دی.

Fine-tuning او روزنه

د اوږدمهاله چټکوونکو کاري بارونو لپاره جوړ شوی؛ د روزنې مناسبت یې پر نښلونې، precision او کلستر جوړښت پورې تړلی دی.

انځور، ویډیو او embedding-ونه

د FP16 چټکتیا په لېست شوي VRAM حد کې د عامو تولیدي او vector کاري بارونو ملاتړ کوي.

برېښنا او یخول

خپرې شوې 250 W برېښنا د همدې کره فزیکي بڼې لپاره مناسب chassis، هواخورۍ او برېښنا رسونې ته اړتیا لري.

د څو GPU-ګانو کارونه

PCIe ثبت شوې د نښلونې لاره ده؛ جوړښت باید لا هم د node په کچه تایید شي.

د سافټویر ایکوسیستم

cuda, vllm, sglang, tensorrt-llm

د محصول مهالوېش

nvidia-a16

د سرچینې جزئیات

رسمي سرچینه

د سرچینې revision: 827074101c6371792b544669de6a7d453a5c2f3209d9e4b53c8c7237cbd928ec