د تخنیکي بدلون حالت
بدلون ملاتړ کېږي
د سرچینې د تایید شوو شواهدو پر بنسټ عامه open-weight نسخه.
Mistral / Devstral Small 2 24B
د Devstral Small 2 24B لپاره د بدلون اختیارونه
د ثبت شواهدو، د بیې برخو او د اجرا چاپېریال د سازګارۍ له مخې د هرې نسخې لپاره تایید شوی.
معماري
Mistral3ForConditionalGeneration
پارامېټرونه: ۲۴٫۰۰B · د context کړکۍ: ۳۹۳٬۲۱۶
ملاتړ شوي بدلونونه
Quantization
د هرې نسخې لپاره تایید شوی
د اجرا چاپېریال بستهبندي
د هرې نسخې لپاره تایید شوی
مدیریت شوی کوربهتوب
د هرې نسخې لپاره تایید شوی
تقطیر
د هرې نسخې لپاره تایید شوی
د GPU ټاکنه
د هرې نسخې لپاره تایید شوی
ارزونه او معیارسنجونه
د هرې نسخې لپاره تایید شوی
بسته ښکته کړئ
د هرې نسخې لپاره تایید شوی
خپرې شوې بستې
انجنیري ته چمتو
د Devstral Small 2 24B د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت
د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی
Mistral · Devstral Small 2 24B
د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت
د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه
هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي
د اجرا چاپېریال بستهبندي: transformers
تنظیم شوې سپارنه: بسته ښکته کړئ
د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربهتوب / ښکته کول + کوربهتوب
fp8transformers بسته ښکته کړئله FusionPointAI سره کوربهتوبښکته کول + کوربهتوب
USD ۲۸٬۴۰۰
یو-ځلي انجنیري
انجنیري ته چمتو
د Devstral Small 2 24B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربهتوب
د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی
Mistral · Devstral Small 2 24B
د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربهتوب
د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بستهبندي, ارزونه او معیارسنجونه
هدف GPU: NVIDIA H200 SXM 141GB
د GPU شمېر: 1
د اجرا چاپېریال بستهبندي: transformers
تنظیم شوې سپارنه: ښکته کول + کوربهتوب
د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربهتوب / ښکته کول + کوربهتوب
fp8د GPU لپاره عیار شوی1 × NVIDIA H200 SXM 141GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربهتوبښکته کول + کوربهتوب
USD ۳۴٬۴۰۰
یو-ځلي انجنیري
انجنیري ته چمتو
د Devstral Small 2 24B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربهتوب
د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی
Mistral · Devstral Small 2 24B
د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربهتوب
د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بستهبندي, ارزونه او معیارسنجونه
هدف GPU: NVIDIA H100 SXM 80GB
د GPU شمېر: 1
د اجرا چاپېریال بستهبندي: transformers
تنظیم شوې سپارنه: ښکته کول + کوربهتوب
د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربهتوب / ښکته کول + کوربهتوب
fp8د GPU لپاره عیار شوی1 × NVIDIA H100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربهتوبښکته کول + کوربهتوب
USD ۳۴٬۴۰۰
یو-ځلي انجنیري
انجنیري ته چمتو
د Devstral Small 2 24B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربهتوب
د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی
Mistral · Devstral Small 2 24B
د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربهتوب
د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بستهبندي, ارزونه او معیارسنجونه
هدف GPU: NVIDIA H100 PCIe 80GB
د GPU شمېر: 1
د اجرا چاپېریال بستهبندي: transformers
تنظیم شوې سپارنه: ښکته کول + کوربهتوب
د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربهتوب / ښکته کول + کوربهتوب
fp8د GPU لپاره عیار شوی1 × NVIDIA H100 PCIe 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربهتوبښکته کول + کوربهتوب
USD ۳۴٬۴۰۰
یو-ځلي انجنیري
انجنیري ته چمتو
د Devstral Small 2 24B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربهتوب
د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی
Mistral · Devstral Small 2 24B
د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربهتوب
د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بستهبندي, ارزونه او معیارسنجونه
هدف GPU: NVIDIA A100 SXM 80GB
د GPU شمېر: 1
د اجرا چاپېریال بستهبندي: transformers
تنظیم شوې سپارنه: ښکته کول + کوربهتوب
د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربهتوب / ښکته کول + کوربهتوب
fp8د GPU لپاره عیار شوی1 × NVIDIA A100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربهتوبښکته کول + کوربهتوب
USD ۳۴٬۴۰۰
یو-ځلي انجنیري
انجنیري ته چمتو
د Devstral Small 2 24B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربهتوب
د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی
Mistral · Devstral Small 2 24B
د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربهتوب
د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بستهبندي, ارزونه او معیارسنجونه
هدف GPU: NVIDIA L40S 48GB
د GPU شمېر: 1
د اجرا چاپېریال بستهبندي: transformers
تنظیم شوې سپارنه: ښکته کول + کوربهتوب
د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربهتوب / ښکته کول + کوربهتوب
fp8د GPU لپاره عیار شوی1 × NVIDIA L40S 48GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربهتوبښکته کول + کوربهتوب
USD ۳۴٬۴۰۰
یو-ځلي انجنیري
انجنیري ته چمتو
د Devstral Small 2 24B د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربهتوب
د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی
Mistral · Devstral Small 2 24B
د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربهتوب
د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بستهبندي, ارزونه او معیارسنجونه
هدف GPU: NVIDIA L4 24GB
د GPU شمېر: 2
د اجرا چاپېریال بستهبندي: transformers
تنظیم شوې سپارنه: ښکته کول + کوربهتوب
د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربهتوب / ښکته کول + کوربهتوب
fp8د GPU لپاره عیار شوی2 × NVIDIA L4 24GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربهتوبښکته کول + کوربهتوب
USD ۳۴٬۴۰۰
یو-ځلي انجنیري
ډیزاین تایید شوی
د Devstral Small 2 24B لپاره د تولید د تقطیر بسته - د کیفیت ساتنې تقطیر
د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی
Mistral · Devstral Small 2 24B
د بستې پېژندڅېره: د کیفیت ساتنې تقطیر
د بدلون چارې: تقطیر, ارزونه او معیارسنجونه
هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي
د اجرا چاپېریال بستهبندي: transformers
تنظیم شوې سپارنه: بسته ښکته کړئ
د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربهتوب / ښکته کول + کوربهتوب
تقطیرد کیفیت ساتنهtransformers بسته ښکته کړئله FusionPointAI سره کوربهتوبښکته کول + کوربهتوب
USD ۴۷٬۸۷۵
یو-ځلي انجنیري
ډیزاین تایید شوی
د Devstral Small 2 24B لپاره د تولید د تقطیر بسته - د تېرېدنې کچې لپاره عیار شوی تقطیر
د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی
Mistral · Devstral Small 2 24B
د بستې پېژندڅېره: د تېرېدنې کچې لپاره عیار شوی تقطیر
د بدلون چارې: تقطیر, ارزونه او معیارسنجونه
هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي
د اجرا چاپېریال بستهبندي: transformers
تنظیم شوې سپارنه: بسته ښکته کړئ
د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربهتوب / ښکته کول + کوربهتوب
تقطیرد تېرېدنې لپاره اصلاح شویtransformers بسته ښکته کړئله FusionPointAI سره کوربهتوبښکته کول + کوربهتوب
USD ۴۷٬۸۷۵
یو-ځلي انجنیري