حالة التحويل التقنية
التحويل مدعوم
إصدار عام مُتحقَّق منه بأوزان مفتوحة، مدعوم بأدلة موثوقة على نقاط التحقق.
Mistral / Mistral Small 4 119B A6B
خيارات التحويل لـ Mistral Small 4 119B A6B
تم التحقق لكل إصدار من أدلة السجل ومكونات التسعير وتوافق بيئة التشغيل.
البنية
Mistral3ForConditionalGeneration
عدد المعلمات: ١١٩٫٠٠B · نافذة السياق: ١٬٠٤٨٬٥٧٦
التحويلات المدعومة
التكميم
متحقق لكل إصدار
حزمة بيئة التشغيل
متحقق لكل إصدار
استضافة مُدارة
متحقق لكل إصدار
التقطير
متحقق لكل إصدار
اختيار GPU
متحقق لكل إصدار
التقييم والقياس المعياري
متحقق لكل إصدار
تنزيل حزمة النموذج
متحقق لكل إصدار
الحزم المنشورة
جاهز للهندسة
حزمة إنتاج FP8 للنموذج Mistral Small 4 119B A6B - بناء إنتاج قابل للتنزيل
Mistral · Mistral Small 4 119B A6B
ملف الحزمة: بناء إنتاج قابل للتنزيل
عمليات التحويل: تكميم FP8, التقييم والقياس المعياري
وحدة GPU المحددة: يتم اختيار العتاد في المنشئ
حزمة بيئة التشغيل: transformers
طريقة التسليم المهيأة: تنزيل حزمة النموذج
خيارات التسليم: تنزيل حزمة النموذج / استضف مع FusionPointAI / تنزيل + استضافة
fp8transformers تنزيل حزمة النموذجاستضف مع FusionPointAIتنزيل + استضافة
USD ٧٠٬١٦٠
هندسة لمرة واحدة
جاهز للهندسة
حزمة إنتاج FP8 للنموذج Mistral Small 4 119B A6B - بيئة إنتاج مُدارة على وحدة GPU محددة
Mistral · Mistral Small 4 119B A6B
ملف الحزمة: بيئة إنتاج مُدارة على وحدة GPU محددة
عمليات التحويل: تكميم FP8, حزمة بيئة التشغيل, التقييم والقياس المعياري
وحدة GPU المحددة: NVIDIA H200 SXM 141GB
عدد وحدات GPU: 2
حزمة بيئة التشغيل: transformers
طريقة التسليم المهيأة: تنزيل + استضافة
خيارات التسليم: تنزيل حزمة النموذج / استضف مع FusionPointAI / تنزيل + استضافة
fp8تهيئة GPU2 × NVIDIA H200 SXM 141GBtransformersتحسين بيئة التشغيل تنزيل حزمة النموذجاستضف مع FusionPointAIتنزيل + استضافة
USD ٧٦٬١٦٠
هندسة لمرة واحدة
جاهز للهندسة
حزمة إنتاج FP8 للنموذج Mistral Small 4 119B A6B - بيئة إنتاج مُدارة على وحدة GPU محددة
Mistral · Mistral Small 4 119B A6B
ملف الحزمة: بيئة إنتاج مُدارة على وحدة GPU محددة
عمليات التحويل: تكميم FP8, حزمة بيئة التشغيل, التقييم والقياس المعياري
وحدة GPU المحددة: NVIDIA H100 SXM 80GB
عدد وحدات GPU: 2
حزمة بيئة التشغيل: transformers
طريقة التسليم المهيأة: تنزيل + استضافة
خيارات التسليم: تنزيل حزمة النموذج / استضف مع FusionPointAI / تنزيل + استضافة
fp8تهيئة GPU2 × NVIDIA H100 SXM 80GBtransformersتحسين بيئة التشغيل تنزيل حزمة النموذجاستضف مع FusionPointAIتنزيل + استضافة
USD ٧٦٬١٦٠
هندسة لمرة واحدة
جاهز للهندسة
حزمة إنتاج FP8 للنموذج Mistral Small 4 119B A6B - بيئة إنتاج مُدارة على وحدة GPU محددة
Mistral · Mistral Small 4 119B A6B
ملف الحزمة: بيئة إنتاج مُدارة على وحدة GPU محددة
عمليات التحويل: تكميم FP8, حزمة بيئة التشغيل, التقييم والقياس المعياري
وحدة GPU المحددة: NVIDIA H100 PCIe 80GB
عدد وحدات GPU: 2
حزمة بيئة التشغيل: transformers
طريقة التسليم المهيأة: تنزيل + استضافة
خيارات التسليم: تنزيل حزمة النموذج / استضف مع FusionPointAI / تنزيل + استضافة
fp8تهيئة GPU2 × NVIDIA H100 PCIe 80GBtransformersتحسين بيئة التشغيل تنزيل حزمة النموذجاستضف مع FusionPointAIتنزيل + استضافة
USD ٧٦٬١٦٠
هندسة لمرة واحدة
جاهز للهندسة
حزمة إنتاج FP8 للنموذج Mistral Small 4 119B A6B - بيئة إنتاج مُدارة على وحدة GPU محددة
Mistral · Mistral Small 4 119B A6B
ملف الحزمة: بيئة إنتاج مُدارة على وحدة GPU محددة
عمليات التحويل: تكميم FP8, حزمة بيئة التشغيل, التقييم والقياس المعياري
وحدة GPU المحددة: NVIDIA A100 SXM 80GB
عدد وحدات GPU: 2
حزمة بيئة التشغيل: transformers
طريقة التسليم المهيأة: تنزيل + استضافة
خيارات التسليم: تنزيل حزمة النموذج / استضف مع FusionPointAI / تنزيل + استضافة
fp8تهيئة GPU2 × NVIDIA A100 SXM 80GBtransformersتحسين بيئة التشغيل تنزيل حزمة النموذجاستضف مع FusionPointAIتنزيل + استضافة
USD ٧٦٬١٦٠
هندسة لمرة واحدة
جاهز للهندسة
حزمة إنتاج FP8 للنموذج Mistral Small 4 119B A6B - بيئة إنتاج مُدارة على وحدة GPU محددة
Mistral · Mistral Small 4 119B A6B
ملف الحزمة: بيئة إنتاج مُدارة على وحدة GPU محددة
عمليات التحويل: تكميم FP8, حزمة بيئة التشغيل, التقييم والقياس المعياري
وحدة GPU المحددة: NVIDIA L40S 48GB
عدد وحدات GPU: 4
حزمة بيئة التشغيل: transformers
طريقة التسليم المهيأة: تنزيل + استضافة
خيارات التسليم: تنزيل حزمة النموذج / استضف مع FusionPointAI / تنزيل + استضافة
fp8تهيئة GPU4 × NVIDIA L40S 48GBtransformersتحسين بيئة التشغيل تنزيل حزمة النموذجاستضف مع FusionPointAIتنزيل + استضافة
USD ٧٦٬١٦٠
هندسة لمرة واحدة
جاهز للهندسة
حزمة إنتاج FP8 للنموذج Mistral Small 4 119B A6B - بيئة إنتاج مُدارة على وحدة GPU محددة
Mistral · Mistral Small 4 119B A6B
ملف الحزمة: بيئة إنتاج مُدارة على وحدة GPU محددة
عمليات التحويل: تكميم FP8, حزمة بيئة التشغيل, التقييم والقياس المعياري
وحدة GPU المحددة: NVIDIA L4 24GB
عدد وحدات GPU: 7
حزمة بيئة التشغيل: transformers
طريقة التسليم المهيأة: تنزيل + استضافة
خيارات التسليم: تنزيل حزمة النموذج / استضف مع FusionPointAI / تنزيل + استضافة
fp8تهيئة GPU7 × NVIDIA L4 24GBtransformersتحسين بيئة التشغيل تنزيل حزمة النموذجاستضف مع FusionPointAIتنزيل + استضافة
USD ٧٦٬١٦٠
هندسة لمرة واحدة
تصميم تم التحقق منه
حزمة تقطير إنتاجية لنموذج Mistral Small 4 119B A6B - تقطير مع الحفاظ على الجودة
Mistral · Mistral Small 4 119B A6B
ملف الحزمة: تقطير مع الحفاظ على الجودة
عمليات التحويل: التقطير, التقييم والقياس المعياري
وحدة GPU المحددة: يتم اختيار العتاد في المنشئ
حزمة بيئة التشغيل: transformers
طريقة التسليم المهيأة: تنزيل حزمة النموذج
خيارات التسليم: تنزيل حزمة النموذج / استضف مع FusionPointAI / تنزيل + استضافة
التقطيرالحفاظ على الجودةtransformers تنزيل حزمة النموذجاستضف مع FusionPointAIتنزيل + استضافة
USD ١٥٠٬٥٣٥
هندسة لمرة واحدة
تصميم تم التحقق منه
حزمة تقطير إنتاجية لنموذج Mistral Small 4 119B A6B - تقطير محسن للإنتاجية
Mistral · Mistral Small 4 119B A6B
ملف الحزمة: تقطير محسن للإنتاجية
عمليات التحويل: التقطير, التقييم والقياس المعياري
وحدة GPU المحددة: يتم اختيار العتاد في المنشئ
حزمة بيئة التشغيل: transformers
طريقة التسليم المهيأة: تنزيل حزمة النموذج
خيارات التسليم: تنزيل حزمة النموذج / استضف مع FusionPointAI / تنزيل + استضافة
التقطيرتحسين الإنتاجيةtransformers تنزيل حزمة النموذجاستضف مع FusionPointAIتنزيل + استضافة
USD ١٥٠٬٥٣٥
هندسة لمرة واحدة