د تخنیکي بدلون حالت
بدلون ملاتړ کېږي
د سرچینې د تایید شوو شواهدو پر بنسټ عامه open-weight نسخه.
GLM / GLM-4.6V
د GLM-4.6V لپاره د بدلون اختیارونه
د ثبت شواهدو، د بیې برخو او د اجرا چاپېریال د سازګارۍ له مخې د هرې نسخې لپاره تایید شوی.
معماري
Glm4vMoeForConditionalGeneration
پارامېټرونه: ۱۰۷٫۷۱B · د context کړکۍ: ۱۳۱٬۰۷۲
ملاتړ شوي بدلونونه
Quantization
د هرې نسخې لپاره تایید شوی
د اجرا چاپېریال بستهبندي
د هرې نسخې لپاره تایید شوی
مدیریت شوی کوربهتوب
د هرې نسخې لپاره تایید شوی
تقطیر
د هرې نسخې لپاره تایید شوی
د GPU ټاکنه
د هرې نسخې لپاره تایید شوی
ارزونه او معیارسنجونه
د هرې نسخې لپاره تایید شوی
بسته ښکته کړئ
د هرې نسخې لپاره تایید شوی
خپرې شوې بستې
انجنیري ته چمتو
د GLM-4.6V د تولید بسته: FP8 - ښکته کېدونکی د تولید جوړښت
د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی
GLM · GLM-4.6V
د بستې پېژندڅېره: ښکته کېدونکی د تولید جوړښت
د بدلون چارې: د FP8 کوانټایزېشن, ارزونه او معیارسنجونه
هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي
د اجرا چاپېریال بستهبندي: transformers
تنظیم شوې سپارنه: بسته ښکته کړئ
د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربهتوب / ښکته کول + کوربهتوب
fp8transformers بسته ښکته کړئله FusionPointAI سره کوربهتوبښکته کول + کوربهتوب
USD ۷۰٬۱۶۰
یو-ځلي انجنیري
انجنیري ته چمتو
د GLM-4.6V د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربهتوب
د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی
GLM · GLM-4.6V
د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربهتوب
د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بستهبندي, ارزونه او معیارسنجونه
هدف GPU: NVIDIA H200 SXM 141GB
د GPU شمېر: 2
د اجرا چاپېریال بستهبندي: transformers
تنظیم شوې سپارنه: ښکته کول + کوربهتوب
د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربهتوب / ښکته کول + کوربهتوب
fp8د GPU لپاره عیار شوی2 × NVIDIA H200 SXM 141GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربهتوبښکته کول + کوربهتوب
USD ۷۶٬۱۶۰
یو-ځلي انجنیري
انجنیري ته چمتو
د GLM-4.6V د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربهتوب
د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی
GLM · GLM-4.6V
د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربهتوب
د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بستهبندي, ارزونه او معیارسنجونه
هدف GPU: NVIDIA H100 SXM 80GB
د GPU شمېر: 2
د اجرا چاپېریال بستهبندي: transformers
تنظیم شوې سپارنه: ښکته کول + کوربهتوب
د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربهتوب / ښکته کول + کوربهتوب
fp8د GPU لپاره عیار شوی2 × NVIDIA H100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربهتوبښکته کول + کوربهتوب
USD ۷۶٬۱۶۰
یو-ځلي انجنیري
انجنیري ته چمتو
د GLM-4.6V د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربهتوب
د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی
GLM · GLM-4.6V
د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربهتوب
د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بستهبندي, ارزونه او معیارسنجونه
هدف GPU: NVIDIA H100 PCIe 80GB
د GPU شمېر: 2
د اجرا چاپېریال بستهبندي: transformers
تنظیم شوې سپارنه: ښکته کول + کوربهتوب
د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربهتوب / ښکته کول + کوربهتوب
fp8د GPU لپاره عیار شوی2 × NVIDIA H100 PCIe 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربهتوبښکته کول + کوربهتوب
USD ۷۶٬۱۶۰
یو-ځلي انجنیري
انجنیري ته چمتو
د GLM-4.6V د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربهتوب
د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی
GLM · GLM-4.6V
د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربهتوب
د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بستهبندي, ارزونه او معیارسنجونه
هدف GPU: NVIDIA A100 SXM 80GB
د GPU شمېر: 2
د اجرا چاپېریال بستهبندي: transformers
تنظیم شوې سپارنه: ښکته کول + کوربهتوب
د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربهتوب / ښکته کول + کوربهتوب
fp8د GPU لپاره عیار شوی2 × NVIDIA A100 SXM 80GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربهتوبښکته کول + کوربهتوب
USD ۷۶٬۱۶۰
یو-ځلي انجنیري
انجنیري ته چمتو
د GLM-4.6V د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربهتوب
د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی
GLM · GLM-4.6V
د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربهتوب
د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بستهبندي, ارزونه او معیارسنجونه
هدف GPU: NVIDIA L40S 48GB
د GPU شمېر: 3
د اجرا چاپېریال بستهبندي: transformers
تنظیم شوې سپارنه: ښکته کول + کوربهتوب
د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربهتوب / ښکته کول + کوربهتوب
fp8د GPU لپاره عیار شوی3 × NVIDIA L40S 48GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربهتوبښکته کول + کوربهتوب
USD ۷۶٬۱۶۰
یو-ځلي انجنیري
انجنیري ته چمتو
د GLM-4.6V د تولید بسته: FP8 - د GPU لپاره عیار شوی د تولید کوربهتوب
د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی
GLM · GLM-4.6V
د بستې پېژندڅېره: د GPU لپاره عیار شوی د تولید کوربهتوب
د بدلون چارې: د FP8 کوانټایزېشن, د اجرا چاپېریال بستهبندي, ارزونه او معیارسنجونه
هدف GPU: NVIDIA L4 24GB
د GPU شمېر: 6
د اجرا چاپېریال بستهبندي: transformers
تنظیم شوې سپارنه: ښکته کول + کوربهتوب
د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربهتوب / ښکته کول + کوربهتوب
fp8د GPU لپاره عیار شوی6 × NVIDIA L4 24GBtransformersد اجرا چاپېریال لپاره اصلاح شوی بسته ښکته کړئله FusionPointAI سره کوربهتوبښکته کول + کوربهتوب
USD ۷۶٬۱۶۰
یو-ځلي انجنیري
ډیزاین تایید شوی
د GLM-4.6V لپاره د تولید د تقطیر بسته - د کیفیت ساتنې تقطیر
د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی
GLM · GLM-4.6V
د بستې پېژندڅېره: د کیفیت ساتنې تقطیر
د بدلون چارې: تقطیر, ارزونه او معیارسنجونه
هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي
د اجرا چاپېریال بستهبندي: transformers
تنظیم شوې سپارنه: بسته ښکته کړئ
د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربهتوب / ښکته کول + کوربهتوب
تقطیرد کیفیت ساتنهtransformers بسته ښکته کړئله FusionPointAI سره کوربهتوبښکته کول + کوربهتوب
USD ۱۵۰٬۵۳۵
یو-ځلي انجنیري
ډیزاین تایید شوی
د GLM-4.6V لپاره د تولید د تقطیر بسته - د تېرېدنې کچې لپاره عیار شوی تقطیر
د ټاکلې انجینري پروژې په توګه د فرمایش وړ دی
GLM · GLM-4.6V
د بستې پېژندڅېره: د تېرېدنې کچې لپاره عیار شوی تقطیر
د بدلون چارې: تقطیر, ارزونه او معیارسنجونه
هدف GPU: هارډوېیر په جوړوونکي کې ټاکل کېږي
د اجرا چاپېریال بستهبندي: transformers
تنظیم شوې سپارنه: بسته ښکته کړئ
د سپارلو اختیارونه: بسته ښکته کړئ / له FusionPointAI سره کوربهتوب / ښکته کول + کوربهتوب
تقطیرد تېرېدنې لپاره اصلاح شویtransformers بسته ښکته کړئله FusionPointAI سره کوربهتوبښکته کول + کوربهتوب
USD ۱۵۰٬۵۳۵
یو-ځلي انجنیري