Mistral / Mistral Small 4 119B A6B

Mistral Small 4 119B A6B 的转换选项

根据注册表证据、定价组件和运行时兼容性对每个版本进行验证。

构建转换

技术转换状态

支持转换

已验证的公开开放权重版本，具备权威检查点证据。

架构

Mistral3ForConditionalGeneration

参数: 119.00B · 上下文窗口: 1,048,576

支持的转换

量化

按版本验证

运行时打包

按版本验证

托管服务

按版本验证

蒸馏

按版本验证

GPU 选择

按版本验证

评估和基准测试

按版本验证

下载模型包

按版本验证

量化

FP8

在可下单之前，将根据版本证据评估精度、内存、上下文和运行时适配性。

NVFP4

在可下单之前，将根据版本证据评估精度、内存、上下文和运行时适配性。

蒸馏

只有当确切版本具有已验证能力证据时，才会发布教师/学生包。

已发布的软件包

工程就绪

Mistral Small 4 119B A6B FP8 生产包 - 可下载生产构建

Mistral · Mistral Small 4 119B A6B

软件包配置: 可下载生产构建

转换操作: FP8 量化, 评估和基准测试

目标 GPU: 在构建器中选择硬件

运行时打包: transformers

已配置交付: 下载模型包

交付选项: 下载模型包 / 使用 FusionPointAI 托管 / 下载 + 托管

fp8transformers 下载模型包使用 FusionPointAI 托管下载 + 托管

USD 70,160
一次性工程服务

工程就绪

Mistral Small 4 119B A6B FP8 生产包 - 面向目标 GPU 的托管生产环境

Mistral · Mistral Small 4 119B A6B

软件包配置: 面向目标 GPU 的托管生产环境

转换操作: FP8 量化, 运行时打包, 评估和基准测试

目标 GPU: NVIDIA H200 SXM 141GB

GPU 数量: 2

运行时打包: transformers

已配置交付: 下载 + 托管

交付选项: 下载模型包 / 使用 FusionPointAI 托管 / 下载 + 托管

fp8目标 GPU2 × NVIDIA H200 SXM 141GBtransformers运行时优化下载模型包使用 FusionPointAI 托管下载 + 托管

USD 76,160
一次性工程服务

工程就绪

Mistral Small 4 119B A6B FP8 生产包 - 面向目标 GPU 的托管生产环境

Mistral · Mistral Small 4 119B A6B

软件包配置: 面向目标 GPU 的托管生产环境

转换操作: FP8 量化, 运行时打包, 评估和基准测试

目标 GPU: NVIDIA H100 SXM 80GB

GPU 数量: 2

运行时打包: transformers

已配置交付: 下载 + 托管

交付选项: 下载模型包 / 使用 FusionPointAI 托管 / 下载 + 托管

fp8目标 GPU2 × NVIDIA H100 SXM 80GBtransformers运行时优化下载模型包使用 FusionPointAI 托管下载 + 托管

USD 76,160
一次性工程服务

工程就绪

Mistral Small 4 119B A6B FP8 生产包 - 面向目标 GPU 的托管生产环境

Mistral · Mistral Small 4 119B A6B

软件包配置: 面向目标 GPU 的托管生产环境

转换操作: FP8 量化, 运行时打包, 评估和基准测试

目标 GPU: NVIDIA H100 PCIe 80GB

GPU 数量: 2

运行时打包: transformers

已配置交付: 下载 + 托管

交付选项: 下载模型包 / 使用 FusionPointAI 托管 / 下载 + 托管

fp8目标 GPU2 × NVIDIA H100 PCIe 80GBtransformers运行时优化下载模型包使用 FusionPointAI 托管下载 + 托管

USD 76,160
一次性工程服务

工程就绪

Mistral Small 4 119B A6B FP8 生产包 - 面向目标 GPU 的托管生产环境

Mistral · Mistral Small 4 119B A6B

软件包配置: 面向目标 GPU 的托管生产环境

转换操作: FP8 量化, 运行时打包, 评估和基准测试

目标 GPU: NVIDIA A100 SXM 80GB

GPU 数量: 2

运行时打包: transformers

已配置交付: 下载 + 托管

交付选项: 下载模型包 / 使用 FusionPointAI 托管 / 下载 + 托管

fp8目标 GPU2 × NVIDIA A100 SXM 80GBtransformers运行时优化下载模型包使用 FusionPointAI 托管下载 + 托管

USD 76,160
一次性工程服务

工程就绪

Mistral Small 4 119B A6B FP8 生产包 - 面向目标 GPU 的托管生产环境

Mistral · Mistral Small 4 119B A6B

软件包配置: 面向目标 GPU 的托管生产环境

转换操作: FP8 量化, 运行时打包, 评估和基准测试

目标 GPU: NVIDIA L40S 48GB

GPU 数量: 4

运行时打包: transformers

已配置交付: 下载 + 托管

交付选项: 下载模型包 / 使用 FusionPointAI 托管 / 下载 + 托管

fp8目标 GPU4 × NVIDIA L40S 48GBtransformers运行时优化下载模型包使用 FusionPointAI 托管下载 + 托管

USD 76,160
一次性工程服务

工程就绪

Mistral Small 4 119B A6B FP8 生产包 - 面向目标 GPU 的托管生产环境

Mistral · Mistral Small 4 119B A6B

软件包配置: 面向目标 GPU 的托管生产环境

转换操作: FP8 量化, 运行时打包, 评估和基准测试

目标 GPU: NVIDIA L4 24GB

GPU 数量: 7

运行时打包: transformers

已配置交付: 下载 + 托管

交付选项: 下载模型包 / 使用 FusionPointAI 托管 / 下载 + 托管

fp8目标 GPU7 × NVIDIA L4 24GBtransformers运行时优化下载模型包使用 FusionPointAI 托管下载 + 托管

USD 76,160
一次性工程服务

设计已验证

Mistral Small 4 119B A6B 蒸馏生产包 - 质量保留蒸馏

Mistral · Mistral Small 4 119B A6B

软件包配置: 质量保留蒸馏

转换操作: 蒸馏, 评估和基准测试

目标 GPU: 在构建器中选择硬件

运行时打包: transformers

已配置交付: 下载模型包

交付选项: 下载模型包 / 使用 FusionPointAI 托管 / 下载 + 托管

蒸馏质量保留transformers 下载模型包使用 FusionPointAI 托管下载 + 托管

USD 150,535
一次性工程服务

设计已验证

Mistral Small 4 119B A6B 蒸馏生产包 - 吞吐优化蒸馏

Mistral · Mistral Small 4 119B A6B

软件包配置: 吞吐优化蒸馏

转换操作: 蒸馏, 评估和基准测试

目标 GPU: 在构建器中选择硬件

运行时打包: transformers

已配置交付: 下载模型包

交付选项: 下载模型包 / 使用 FusionPointAI 托管 / 下载 + 托管

蒸馏吞吐量优化transformers 下载模型包使用 FusionPointAI 托管下载 + 托管

USD 150,535
一次性工程服务