اصلي منځپانګې ته ورټوپ کړئ

د وړتیاوو پر بنسټ

د تولید 100 غوره Quantized بستې

د ثبت شواهدو، د بیې برخو او د اجرا چاپېریال د سازګارۍ له مخې د هرې نسخې لپاره تایید شوی.

انجنیري ته چمتو

د LongCat 2.0 د تولید بسته: INT8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

LongCat · LongCat 2.0

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د INT8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: sglang

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

int8sglang بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۰۵٬۶۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د LongCat 2.0 د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

LongCat · LongCat 2.0

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: sglang

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8sglang بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۰۶٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د MiMo-V2.5-Pro د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

MiMo · MiMo-V2.5-Pro

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: sglang

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8sglang بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۰۶٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د K-EXAONE 2.0 750B-A37B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

EXAONE · K-EXAONE 2.0 750B-A37B

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H200 SXM 141GB

د GPU شمېر: 7

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی7 × NVIDIA H200 SXM 141GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د K-EXAONE 2.0 750B-A37B د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

EXAONE · K-EXAONE 2.0 750B-A37B

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8transformers بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۰۶٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د GLM-5 د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

GLM · GLM-5

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H200 SXM 141GB

د GPU شمېر: 7

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی7 × NVIDIA H200 SXM 141GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د GLM-5 د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

GLM · GLM-5

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8transformers بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۰۶٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د GLM-5.1 د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

GLM · GLM-5.1

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H200 SXM 141GB

د GPU شمېر: 7

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی7 × NVIDIA H200 SXM 141GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د GLM-5.1 د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

GLM · GLM-5.1

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8transformers بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۰۶٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د GLM-5.2 د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

GLM · GLM-5.2

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H200 SXM 141GB

د GPU شمېر: 7

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی7 × NVIDIA H200 SXM 141GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د GLM-5.2 د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

GLM · GLM-5.2

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8transformers بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۰۶٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Mistral Large 3 675B Instruct 2512 د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Mistral · Mistral Large 3 675B Instruct 2512

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H200 SXM 141GB

د GPU شمېر: 7

د اجرا چاپېریال بسته‌بندي: vllm

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی7 × NVIDIA H200 SXM 141GBvllmد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Mistral Large 3 675B Instruct 2512 د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Mistral · Mistral Large 3 675B Instruct 2512

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: vllm

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8vllm بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۰۶٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د DeepSeek V3.1 د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

DeepSeek · DeepSeek V3.1

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H200 SXM 141GB

د GPU شمېر: 7

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی7 × NVIDIA H200 SXM 141GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د DeepSeek V3.1 د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

DeepSeek · DeepSeek V3.1

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8transformers بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۰۶٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د DeepSeek V3.2 د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

DeepSeek · DeepSeek V3.2

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H200 SXM 141GB

د GPU شمېر: 7

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی7 × NVIDIA H200 SXM 141GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د DeepSeek R1 د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

DeepSeek · DeepSeek R1

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H200 SXM 141GB

د GPU شمېر: 7

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی7 × NVIDIA H200 SXM 141GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د DeepSeek V3.2 Speciale د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

DeepSeek · DeepSeek V3.2 Speciale

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H200 SXM 141GB

د GPU شمېر: 7

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی7 × NVIDIA H200 SXM 141GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د DeepSeek V3.2 د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

DeepSeek · DeepSeek V3.2

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8transformers بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۰۶٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د DeepSeek R1 د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

DeepSeek · DeepSeek R1

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8transformers بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۰۶٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د DeepSeek V3.2 Speciale د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

DeepSeek · DeepSeek V3.2 Speciale

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8transformers بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۰۶٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د DeepSeek R1 0528 د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

DeepSeek · DeepSeek R1 0528

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H200 SXM 141GB

د GPU شمېر: 7

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی7 × NVIDIA H200 SXM 141GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د DeepSeek R1 0528 د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

DeepSeek · DeepSeek R1 0528

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8transformers بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۰۶٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د GLM-5.3-Flash د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

GLM · GLM-5.3-Flash

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA A100 SXM 80GB

د GPU شمېر: 6

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی6 × NVIDIA A100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د GLM-5.3-Flash د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

GLM · GLM-5.3-Flash

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H100 PCIe 80GB

د GPU شمېر: 6

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی6 × NVIDIA H100 PCIe 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د GLM-5.3-Flash د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

GLM · GLM-5.3-Flash

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H100 SXM 80GB

د GPU شمېر: 6

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی6 × NVIDIA H100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د GLM-5.3-Flash د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

GLM · GLM-5.3-Flash

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H200 SXM 141GB

د GPU شمېر: 3

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی3 × NVIDIA H200 SXM 141GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د GLM-5.3-Flash د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

GLM · GLM-5.3-Flash

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8transformers بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۰۶٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د MiMo-V2.5 د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

MiMo · MiMo-V2.5

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA A100 SXM 80GB

د GPU شمېر: 6

د اجرا چاپېریال بسته‌بندي: sglang

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی6 × NVIDIA A100 SXM 80GBsglangد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د MiMo-V2.5 د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

MiMo · MiMo-V2.5

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H100 PCIe 80GB

د GPU شمېر: 6

د اجرا چاپېریال بسته‌بندي: sglang

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی6 × NVIDIA H100 PCIe 80GBsglangد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د MiMo-V2.5 د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

MiMo · MiMo-V2.5

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H100 SXM 80GB

د GPU شمېر: 6

د اجرا چاپېریال بسته‌بندي: sglang

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی6 × NVIDIA H100 SXM 80GBsglangد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د MiMo-V2.5 د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

MiMo · MiMo-V2.5

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H200 SXM 141GB

د GPU شمېر: 3

د اجرا چاپېریال بسته‌بندي: sglang

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی3 × NVIDIA H200 SXM 141GBsglangد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د MiMo-V2.5 د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

MiMo · MiMo-V2.5

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: sglang

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8sglang بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۰۶٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Command A+ 05-2026 د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Command A · Command A+ 05-2026

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA L40S 48GB

د GPU شمېر: 6

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی6 × NVIDIA L40S 48GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Command A+ 05-2026 د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Command A · Command A+ 05-2026

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA A100 SXM 80GB

د GPU شمېر: 4

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی4 × NVIDIA A100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Command A+ 05-2026 د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Command A · Command A+ 05-2026

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H100 PCIe 80GB

د GPU شمېر: 4

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی4 × NVIDIA H100 PCIe 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Command A+ 05-2026 د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Command A · Command A+ 05-2026

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H100 SXM 80GB

د GPU شمېر: 4

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی4 × NVIDIA H100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Command A+ 05-2026 د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Command A · Command A+ 05-2026

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H200 SXM 141GB

د GPU شمېر: 3

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی3 × NVIDIA H200 SXM 141GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Command A+ 05-2026 د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Command A · Command A+ 05-2026

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8transformers بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۰۶٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Step 3.7 Flash د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

StepFun · Step 3.7 Flash

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA L40S 48GB

د GPU شمېر: 6

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی6 × NVIDIA L40S 48GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Step 3.7 Flash د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

StepFun · Step 3.7 Flash

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA A100 SXM 80GB

د GPU شمېر: 4

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی4 × NVIDIA A100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Step 3.7 Flash د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

StepFun · Step 3.7 Flash

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H100 PCIe 80GB

د GPU شمېر: 4

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی4 × NVIDIA H100 PCIe 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Step 3.7 Flash د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

StepFun · Step 3.7 Flash

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H100 SXM 80GB

د GPU شمېر: 4

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی4 × NVIDIA H100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Step 3.7 Flash د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

StepFun · Step 3.7 Flash

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H200 SXM 141GB

د GPU شمېر: 2

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی2 × NVIDIA H200 SXM 141GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۱۲٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Step 3.7 Flash د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

StepFun · Step 3.7 Flash

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8transformers بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۱۰۶٬۷۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Mistral Small 4 119B A6B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Mistral · Mistral Small 4 119B A6B

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA L4 24GB

د GPU شمېر: 7

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی7 × NVIDIA L4 24GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۷۶٬۱۶۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Mistral Small 4 119B A6B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Mistral · Mistral Small 4 119B A6B

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA L40S 48GB

د GPU شمېر: 4

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی4 × NVIDIA L40S 48GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۷۶٬۱۶۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Mistral Small 4 119B A6B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Mistral · Mistral Small 4 119B A6B

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA A100 SXM 80GB

د GPU شمېر: 2

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی2 × NVIDIA A100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۷۶٬۱۶۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Mistral Small 4 119B A6B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Mistral · Mistral Small 4 119B A6B

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H100 PCIe 80GB

د GPU شمېر: 2

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی2 × NVIDIA H100 PCIe 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۷۶٬۱۶۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Mistral Small 4 119B A6B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Mistral · Mistral Small 4 119B A6B

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H100 SXM 80GB

د GPU شمېر: 2

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی2 × NVIDIA H100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۷۶٬۱۶۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Mistral Small 4 119B A6B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Mistral · Mistral Small 4 119B A6B

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H200 SXM 141GB

د GPU شمېر: 2

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی2 × NVIDIA H200 SXM 141GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۷۶٬۱۶۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Mistral Small 4 119B A6B د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Mistral · Mistral Small 4 119B A6B

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8transformers بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۷۰٬۱۶۰
یو-ځلي انجنیري

انجنیري ته چمتو

د GLM-4.6V د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

GLM · GLM-4.6V

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA L4 24GB

د GPU شمېر: 6

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی6 × NVIDIA L4 24GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۷۶٬۱۶۰
یو-ځلي انجنیري

انجنیري ته چمتو

د GLM-4.6V د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

GLM · GLM-4.6V

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA L40S 48GB

د GPU شمېر: 3

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی3 × NVIDIA L40S 48GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۷۶٬۱۶۰
یو-ځلي انجنیري

انجنیري ته چمتو

د GLM-4.6V د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

GLM · GLM-4.6V

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA A100 SXM 80GB

د GPU شمېر: 2

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی2 × NVIDIA A100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۷۶٬۱۶۰
یو-ځلي انجنیري

انجنیري ته چمتو

د GLM-4.6V د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

GLM · GLM-4.6V

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H100 PCIe 80GB

د GPU شمېر: 2

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی2 × NVIDIA H100 PCIe 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۷۶٬۱۶۰
یو-ځلي انجنیري

انجنیري ته چمتو

د GLM-4.6V د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

GLM · GLM-4.6V

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H100 SXM 80GB

د GPU شمېر: 2

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی2 × NVIDIA H100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۷۶٬۱۶۰
یو-ځلي انجنیري

انجنیري ته چمتو

د GLM-4.6V د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

GLM · GLM-4.6V

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H200 SXM 141GB

د GPU شمېر: 2

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی2 × NVIDIA H200 SXM 141GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۷۶٬۱۶۰
یو-ځلي انجنیري

انجنیري ته چمتو

د GLM-4.6V د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

GLM · GLM-4.6V

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8transformers بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۷۰٬۱۶۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3 Coder Next د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3 Coder Next

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA L4 24GB

د GPU شمېر: 5

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی5 × NVIDIA L4 24GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۷۶٬۱۶۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3 Coder Next د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3 Coder Next

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA L40S 48GB

د GPU شمېر: 3

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی3 × NVIDIA L40S 48GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۷۶٬۱۶۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3 Coder Next د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3 Coder Next

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA A100 SXM 80GB

د GPU شمېر: 2

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی2 × NVIDIA A100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۷۶٬۱۶۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3 Coder Next د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3 Coder Next

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H100 PCIe 80GB

د GPU شمېر: 2

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی2 × NVIDIA H100 PCIe 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۷۶٬۱۶۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3 Coder Next د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3 Coder Next

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H100 SXM 80GB

د GPU شمېر: 2

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی2 × NVIDIA H100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۷۶٬۱۶۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3 Coder Next د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3 Coder Next

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H200 SXM 141GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA H200 SXM 141GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۷۶٬۱۶۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3 Coder Next د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3 Coder Next

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8transformers بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۷۰٬۱۶۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3-VL 32B Thinking د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3-VL 32B Thinking

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA L4 24GB

د GPU شمېر: 2

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی2 × NVIDIA L4 24GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3-VL 32B Thinking د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3-VL 32B Thinking

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA L40S 48GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA L40S 48GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3-VL 32B Thinking د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3-VL 32B Thinking

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA A100 SXM 80GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA A100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3-VL 32B Thinking د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3-VL 32B Thinking

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H100 PCIe 80GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA H100 PCIe 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3-VL 32B Thinking د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3-VL 32B Thinking

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H100 SXM 80GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA H100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3-VL 32B Thinking د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3-VL 32B Thinking

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H200 SXM 141GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA H200 SXM 141GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3-VL 32B Instruct د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3-VL 32B Instruct

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA L4 24GB

د GPU شمېر: 2

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی2 × NVIDIA L4 24GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3-VL 32B Instruct د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3-VL 32B Instruct

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA L40S 48GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA L40S 48GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3-VL 32B Instruct د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3-VL 32B Instruct

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA A100 SXM 80GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA A100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3-VL 32B Instruct د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3-VL 32B Instruct

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H100 PCIe 80GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA H100 PCIe 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3-VL 32B Instruct د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3-VL 32B Instruct

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H100 SXM 80GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA H100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3-VL 32B Instruct د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3-VL 32B Instruct

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H200 SXM 141GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA H200 SXM 141GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3-VL 32B Thinking د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3-VL 32B Thinking

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8transformers بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۲۸٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3-VL 32B Instruct د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3-VL 32B Instruct

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8transformers بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۲۸٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3.8 27B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3.8 27B

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA L4 24GB

د GPU شمېر: 2

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی2 × NVIDIA L4 24GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3.8 27B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3.8 27B

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA L40S 48GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA L40S 48GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Qwen3.8 27B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Qwen · Qwen3.8 27B

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA A100 SXM 80GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA A100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Devstral Small 2 24B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Mistral · Devstral Small 2 24B

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA L4 24GB

د GPU شمېر: 2

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی2 × NVIDIA L4 24GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Devstral Small 2 24B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Mistral · Devstral Small 2 24B

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA L40S 48GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA L40S 48GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Devstral Small 2 24B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Mistral · Devstral Small 2 24B

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA A100 SXM 80GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA A100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Devstral Small 2 24B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Mistral · Devstral Small 2 24B

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H100 PCIe 80GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA H100 PCIe 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Devstral Small 2 24B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Mistral · Devstral Small 2 24B

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H100 SXM 80GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA H100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Devstral Small 2 24B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Mistral · Devstral Small 2 24B

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H200 SXM 141GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA H200 SXM 141GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Devstral Small 2 24B د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Mistral · Devstral Small 2 24B

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8transformers بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۲۸٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Step3-VL 10B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

StepFun · Step3-VL 10B

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA L4 24GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA L4 24GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Step3-VL 10B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

StepFun · Step3-VL 10B

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA L40S 48GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA L40S 48GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Step3-VL 10B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

StepFun · Step3-VL 10B

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA A100 SXM 80GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA A100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Step3-VL 10B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

StepFun · Step3-VL 10B

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H100 PCIe 80GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA H100 PCIe 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Step3-VL 10B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

StepFun · Step3-VL 10B

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H100 SXM 80GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA H100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Step3-VL 10B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

StepFun · Step3-VL 10B

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA H200 SXM 141GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA H200 SXM 141GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Step3-VL 10B د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

StepFun · Step3-VL 10B

د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت

د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه

هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: بسته ښکته کړئ

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8transformers بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۲۸٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Ministral 3 8B Instruct 2512 د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Mistral · Ministral 3 8B Instruct 2512

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA L4 24GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA L4 24GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Ministral 3 8B Instruct 2512 د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Mistral · Ministral 3 8B Instruct 2512

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA L40S 48GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA L40S 48GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري

انجنیري ته چمتو

د Ministral 3 8B Instruct 2512 د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربه‌توب

د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی

Mistral · Ministral 3 8B Instruct 2512

د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربه‌توب

د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بسته‌بندي, ارزونه او معیارسنجونه

هدف GPU: NVIDIA A100 SXM 80GB

د GPU شمېر: 1

د اجرا چاپېریال بسته‌بندي: transformers

تنظیم شوې سپارنه: ښکته کول + کوربه‌توب

د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربه‌توب / ښکته کول + کوربه‌توب

fp8د GPU لپاره عیار شوی1 × NVIDIA A100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربه‌توبښکته کول + کوربه‌توب

USD ۳۴٬۴۰۰
یو-ځلي انجنیري