دۆخی گۆڕینی تەکنیکی
گۆڕین پشتگیری دەکرێت
وەشانی گشتیی پشتڕاستکراو بە وزنی کراوە و بەڵگەی خاڵی پشکنینی سەرچاوەدار.
Mistral / Mistral Small 4 119B A6B
هەڵبژاردەکانی گۆڕین بۆ Mistral Small 4 119B A6B
بۆ هەر وەشانێک بە بەڵگەی تۆمار، پێکهاتەکانی نرخ و گونجانی کاتی کارکردن پشتڕاست دەکرێتەوە.
تەلارسازی
Mistral3ForConditionalGeneration
پارامەتەرەکان: ١١٩٫٠٠B · پەنجەرەی کۆنتێکست: ١٬٠٤٨٬٥٧٦
گۆڕینە پشتگیریکراوەکان
کوانتایزکردن
بۆ هەر وەشانێک پشتڕاستکراوەتەوە
پاکێجکردنی کاتی کارکردن
بۆ هەر وەشانێک پشتڕاستکراوەتەوە
میزبانیی بەڕێوەبەرایەتیکراو
بۆ هەر وەشانێک پشتڕاستکراوەتەوە
دیستیلەیشن
بۆ هەر وەشانێک پشتڕاستکراوەتەوە
دیاریکردنی GPU
بۆ هەر وەشانێک پشتڕاستکراوەتەوە
هەڵسەنگاندن و پێوانەکردن
بۆ هەر وەشانێک پشتڕاستکراوەتەوە
داگرتنی پاکێج
بۆ هەر وەشانێک پشتڕاستکراوەتەوە
پاکێجە بڵاوکراوەکان
ئەندازیاری ئامادەیە
پاکێجی بەرهەمهێنانی Mistral Small 4 119B A6B FP8 - دروستکراوی بەرهەمهێنان بۆ داگرتن
وەک کاری ئەندازیاریی چوارچێوەدار داوا دەکرێت
Mistral · Mistral Small 4 119B A6B
پرۆفایلی پاکێج: دروستکراوی بەرهەمهێنان بۆ داگرتن
کارگێڕییەکانی گۆڕین: کوانتایزکردنی FP8, هەڵسەنگاندن و پێوانەکردن
GPUی ئامانج: هاردوێر لە ئامرازی ڕێکخەرەکەدا هەڵبژێردراوە
پاکێجکردنی کاتی کارکردن: transformers
گەیاندنی ڕێکخراو: داگرتنی پاکێج
هەڵبژاردەکانی گەیاندن: داگرتنی پاکێج / لە FusionPointAI میوانداریی بکە / داگرتن + میوانداری
fp8transformers داگرتنی پاکێجلە FusionPointAI میوانداریی بکەداگرتن + میوانداری
USD ٧٠٬١٦٠
ئەندازیاریی یەکجارە
ئەندازیاری ئامادەیە
پاکێجی بەرهەمهێنانی Mistral Small 4 119B A6B FP8 - بەرهەمهێنانی میوانداری‌کراو بۆ GPUی ئامانج
وەک کاری ئەندازیاریی چوارچێوەدار داوا دەکرێت
Mistral · Mistral Small 4 119B A6B
پرۆفایلی پاکێج: بەرهەمهێنانی میوانداری‌کراو بۆ GPUی ئامانج
کارگێڕییەکانی گۆڕین: کوانتایزکردنی FP8, پاکێجکردنی کاتی کارکردن, هەڵسەنگاندن و پێوانەکردن
GPUی ئامانج: NVIDIA H200 SXM 141GB
ژمارەی GPU: 2
پاکێجکردنی کاتی کارکردن: transformers
گەیاندنی ڕێکخراو: داگرتن + میوانداری
هەڵبژاردەکانی گەیاندن: داگرتنی پاکێج / لە FusionPointAI میوانداریی بکە / داگرتن + میوانداری
fp8بۆ GPU دیاریکراوە2 × NVIDIA H200 SXM 141GBtransformersبۆ کاتی کارکردن باشترکراوە داگرتنی پاکێجلە FusionPointAI میوانداریی بکەداگرتن + میوانداری
USD ٧٦٬١٦٠
ئەندازیاریی یەکجارە
ئەندازیاری ئامادەیە
پاکێجی بەرهەمهێنانی Mistral Small 4 119B A6B FP8 - بەرهەمهێنانی میوانداری‌کراو بۆ GPUی ئامانج
وەک کاری ئەندازیاریی چوارچێوەدار داوا دەکرێت
Mistral · Mistral Small 4 119B A6B
پرۆفایلی پاکێج: بەرهەمهێنانی میوانداری‌کراو بۆ GPUی ئامانج
کارگێڕییەکانی گۆڕین: کوانتایزکردنی FP8, پاکێجکردنی کاتی کارکردن, هەڵسەنگاندن و پێوانەکردن
GPUی ئامانج: NVIDIA H100 SXM 80GB
ژمارەی GPU: 2
پاکێجکردنی کاتی کارکردن: transformers
گەیاندنی ڕێکخراو: داگرتن + میوانداری
هەڵبژاردەکانی گەیاندن: داگرتنی پاکێج / لە FusionPointAI میوانداریی بکە / داگرتن + میوانداری
fp8بۆ GPU دیاریکراوە2 × NVIDIA H100 SXM 80GBtransformersبۆ کاتی کارکردن باشترکراوە داگرتنی پاکێجلە FusionPointAI میوانداریی بکەداگرتن + میوانداری
USD ٧٦٬١٦٠
ئەندازیاریی یەکجارە
ئەندازیاری ئامادەیە
پاکێجی بەرهەمهێنانی Mistral Small 4 119B A6B FP8 - بەرهەمهێنانی میوانداری‌کراو بۆ GPUی ئامانج
وەک کاری ئەندازیاریی چوارچێوەدار داوا دەکرێت
Mistral · Mistral Small 4 119B A6B
پرۆفایلی پاکێج: بەرهەمهێنانی میوانداری‌کراو بۆ GPUی ئامانج
کارگێڕییەکانی گۆڕین: کوانتایزکردنی FP8, پاکێجکردنی کاتی کارکردن, هەڵسەنگاندن و پێوانەکردن
GPUی ئامانج: NVIDIA H100 PCIe 80GB
ژمارەی GPU: 2
پاکێجکردنی کاتی کارکردن: transformers
گەیاندنی ڕێکخراو: داگرتن + میوانداری
هەڵبژاردەکانی گەیاندن: داگرتنی پاکێج / لە FusionPointAI میوانداریی بکە / داگرتن + میوانداری
fp8بۆ GPU دیاریکراوە2 × NVIDIA H100 PCIe 80GBtransformersبۆ کاتی کارکردن باشترکراوە داگرتنی پاکێجلە FusionPointAI میوانداریی بکەداگرتن + میوانداری
USD ٧٦٬١٦٠
ئەندازیاریی یەکجارە
ئەندازیاری ئامادەیە
پاکێجی بەرهەمهێنانی Mistral Small 4 119B A6B FP8 - بەرهەمهێنانی میوانداری‌کراو بۆ GPUی ئامانج
وەک کاری ئەندازیاریی چوارچێوەدار داوا دەکرێت
Mistral · Mistral Small 4 119B A6B
پرۆفایلی پاکێج: بەرهەمهێنانی میوانداری‌کراو بۆ GPUی ئامانج
کارگێڕییەکانی گۆڕین: کوانتایزکردنی FP8, پاکێجکردنی کاتی کارکردن, هەڵسەنگاندن و پێوانەکردن
GPUی ئامانج: NVIDIA A100 SXM 80GB
ژمارەی GPU: 2
پاکێجکردنی کاتی کارکردن: transformers
گەیاندنی ڕێکخراو: داگرتن + میوانداری
هەڵبژاردەکانی گەیاندن: داگرتنی پاکێج / لە FusionPointAI میوانداریی بکە / داگرتن + میوانداری
fp8بۆ GPU دیاریکراوە2 × NVIDIA A100 SXM 80GBtransformersبۆ کاتی کارکردن باشترکراوە داگرتنی پاکێجلە FusionPointAI میوانداریی بکەداگرتن + میوانداری
USD ٧٦٬١٦٠
ئەندازیاریی یەکجارە
ئەندازیاری ئامادەیە
پاکێجی بەرهەمهێنانی Mistral Small 4 119B A6B FP8 - بەرهەمهێنانی میوانداری‌کراو بۆ GPUی ئامانج
وەک کاری ئەندازیاریی چوارچێوەدار داوا دەکرێت
Mistral · Mistral Small 4 119B A6B
پرۆفایلی پاکێج: بەرهەمهێنانی میوانداری‌کراو بۆ GPUی ئامانج
کارگێڕییەکانی گۆڕین: کوانتایزکردنی FP8, پاکێجکردنی کاتی کارکردن, هەڵسەنگاندن و پێوانەکردن
GPUی ئامانج: NVIDIA L40S 48GB
ژمارەی GPU: 4
پاکێجکردنی کاتی کارکردن: transformers
گەیاندنی ڕێکخراو: داگرتن + میوانداری
هەڵبژاردەکانی گەیاندن: داگرتنی پاکێج / لە FusionPointAI میوانداریی بکە / داگرتن + میوانداری
fp8بۆ GPU دیاریکراوە4 × NVIDIA L40S 48GBtransformersبۆ کاتی کارکردن باشترکراوە داگرتنی پاکێجلە FusionPointAI میوانداریی بکەداگرتن + میوانداری
USD ٧٦٬١٦٠
ئەندازیاریی یەکجارە
ئەندازیاری ئامادەیە
پاکێجی بەرهەمهێنانی Mistral Small 4 119B A6B FP8 - بەرهەمهێنانی میوانداری‌کراو بۆ GPUی ئامانج
وەک کاری ئەندازیاریی چوارچێوەدار داوا دەکرێت
Mistral · Mistral Small 4 119B A6B
پرۆفایلی پاکێج: بەرهەمهێنانی میوانداری‌کراو بۆ GPUی ئامانج
کارگێڕییەکانی گۆڕین: کوانتایزکردنی FP8, پاکێجکردنی کاتی کارکردن, هەڵسەنگاندن و پێوانەکردن
GPUی ئامانج: NVIDIA L4 24GB
ژمارەی GPU: 7
پاکێجکردنی کاتی کارکردن: transformers
گەیاندنی ڕێکخراو: داگرتن + میوانداری
هەڵبژاردەکانی گەیاندن: داگرتنی پاکێج / لە FusionPointAI میوانداریی بکە / داگرتن + میوانداری
fp8بۆ GPU دیاریکراوە7 × NVIDIA L4 24GBtransformersبۆ کاتی کارکردن باشترکراوە داگرتنی پاکێجلە FusionPointAI میوانداریی بکەداگرتن + میوانداری
USD ٧٦٬١٦٠
ئەندازیاریی یەکجارە
دیزاین پشتڕاستکراوەتەوە
پاکێجی دیستیلەیشنی بەرهەمهێنان بۆ Mistral Small 4 119B A6B - دیستیلەیشن بۆ پاراستنی کوالێتی
وەک کاری ئەندازیاریی چوارچێوەدار داوا دەکرێت
Mistral · Mistral Small 4 119B A6B
پرۆفایلی پاکێج: دیستیلەیشن بۆ پاراستنی کوالێتی
کارگێڕییەکانی گۆڕین: دیستیلەیشن, هەڵسەنگاندن و پێوانەکردن
GPUی ئامانج: هاردوێر لە ئامرازی ڕێکخەرەکەدا هەڵبژێردراوە
پاکێجکردنی کاتی کارکردن: transformers
گەیاندنی ڕێکخراو: داگرتنی پاکێج
هەڵبژاردەکانی گەیاندن: داگرتنی پاکێج / لە FusionPointAI میوانداریی بکە / داگرتن + میوانداری
دیستیلەیشنپاراستنی کوالێتیtransformers داگرتنی پاکێجلە FusionPointAI میوانداریی بکەداگرتن + میوانداری
USD ١٥٠٬٥٣٥
ئەندازیاریی یەکجارە
دیزاین پشتڕاستکراوەتەوە
پاکێجی دیستیلەیشنی بەرهەمهێنان بۆ Mistral Small 4 119B A6B - دیستیلەیشن بۆ باشترکردنی ڕێژەی کار
وەک کاری ئەندازیاریی چوارچێوەدار داوا دەکرێت
Mistral · Mistral Small 4 119B A6B
پرۆفایلی پاکێج: دیستیلەیشن بۆ باشترکردنی ڕێژەی کار
کارگێڕییەکانی گۆڕین: دیستیلەیشن, هەڵسەنگاندن و پێوانەکردن
GPUی ئامانج: هاردوێر لە ئامرازی ڕێکخەرەکەدا هەڵبژێردراوە
پاکێجکردنی کاتی کارکردن: transformers
گەیاندنی ڕێکخراو: داگرتنی پاکێج
هەڵبژاردەکانی گەیاندن: داگرتنی پاکێج / لە FusionPointAI میوانداریی بکە / داگرتن + میوانداری
دیستیلەیشنباشترکراو بۆ ڕێژەی کارtransformers داگرتنی پاکێجلە FusionPointAI میوانداریی بکەداگرتن + میوانداری
USD ١٥٠٬٥٣٥
ئەندازیاریی یەکجارە