بیې د ټاکل شوې پیسې په بڼه، د تنظیم شوو ګردولو اصولو له مخې ښودل کېږي. د کرایې بیهلیکونه د تایید شوې بیې له نسخې سره سم تاییدېږي.
ښودل شوې کرنسۍ د تنظیم شوو سوداګریزو بیو قواعد تعقیبوي، نه د اسعارو ژوندی تبادلې نرخونه. منل شوی بیهلیک یا بل د تادیې کرنسي مشخصوي.
GPU-ګانې پرتله کړئ
د FusionPointAI په کتلاګ کې لېست شوي له دوو تر څلورو GPU انتخابونه د بیې، شتون او ځانګړنو د یو شان معلوماتو له مخې پرتله کړئ.
| GPU |
NVIDIA H200 SXM 141GB |
NVIDIA H100 SXM 80GB |
|---|---|---|
| میاشتنۍ کرایه | USD ۲٬۳۴۵/میاشت | USD ۱٬۸۶۰/میاشت |
| د ساعت معادل | ~ USD ۳٫۲۱/ساعت | ~ USD ۲٫۵۵/ساعت |
| VRAM | 141 GB HBM3e | 80 GB HBM3 |
| معماري | Hopper | Hopper |
| Bandwidth | ۴٬۸۰۰ GB/s | ۳٬۳۵۰ GB/s |
| فزیکي بڼه | SXM module | SXM module |
| انترفېس | PCIe Gen5 x16 host interface | PCIe Gen5 x16 host interface |
| TDP | 700 W | 700 W |
| FP64 | 34 TFLOPS dense | 34 TFLOPS dense |
| FP64 Tensor | 67 TFLOPS dense | 67 TFLOPS dense |
| FP32 | 67 TFLOPS dense | 67 TFLOPS dense |
| TF32 | 494.5 TFLOPS dense / 989 TFLOPS sparse | 494.5 TFLOPS dense / 989 TFLOPS sparse |
| BF16 | 989.5 TFLOPS dense / 1979 TFLOPS sparse | 989.5 TFLOPS dense / 1979 TFLOPS sparse |
| FP16 | 989.5 TFLOPS dense / 1979 TFLOPS sparse | 989.5 TFLOPS dense / 1979 TFLOPS sparse |
| FP8 | 1979 TFLOPS dense / 3958 TFLOPS sparse | 1979 TFLOPS dense / 3958 TFLOPS sparse |
| INT8 | 1979 TOPS dense / 3958 TOPS sparse | 1979 TOPS dense / 3958 TOPS sparse |
| MIG | تر 7 MIG-ګانو پورې @ 18 GB | تر 7 MIG-ګانو پورې @ 10 GB |
| NVLink | 900 GB/s NVLink | 900 GB/s NVLink |
| شتون | محدود ظرفیت | شته |
| Framework-ونه | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA | PyTorch, TensorFlow, JAX, Hugging Face, vLLM, TensorRT, ONNX Runtime, CUDA |
| د ماډل د سازګارۍ لارښود | د quantization شوي استنتاج لپاره سپارښتل کېږي؛ context او هممهالي اجرا وارزوئ | د quantization شوي استنتاج لپاره سپارښتل کېږي؛ context او هممهالي اجرا وارزوئ |
| کړنه | د کرایې بیهلیک وغواړئ | د کرایې بیهلیک وغواړئ |