Estado técnico da transformação
Transformação suportada
Versão pública de pesos abertos, verificada e comprovada por evidências de checkpoint de fonte autorizada.
Mistral / Mistral Small 4 119B A6B
Opções de transformação para Mistral Small 4 119B A6B
Validado por versão, com evidências de proveniência, componentes de preço e compatibilidade do ambiente de execução.
Arquitetura
Mistral3ForConditionalGeneration
Parâmetros: 119,00B · Janela de contexto: 1 048 576
Transformações suportadas
Quantização
Validado por versão
Preparação do ambiente de execução
Validado por versão
Alojamento gerido
Validado por versão
Destilação
Validado por versão
Seleção de GPU
Validado por versão
Avaliação comparativa
Validado por versão
Descarregar pacote
Validado por versão
Quantização
FP8
A precisão, a memória, o contexto e a compatibilidade do ambiente de execução são avaliados com base nas evidências da versão antes de o produto ficar disponível para encomenda.
NVFP4
A precisão, a memória, o contexto e a compatibilidade do ambiente de execução são avaliados com base nas evidências da versão antes de o produto ficar disponível para encomenda.
Pacotes publicados
Pronto para engenharia
Pacote de produção FP8 para Mistral Small 4 119B A6B - Versão de produção para descarregar
Mistral · Mistral Small 4 119B A6B
Perfil do pacote: Versão de produção para descarregar
Operações de transformação: Quantização FP8, Avaliação comparativa
GPU de destino: Hardware escolhido no configurador
Preparação do ambiente de execução: transformers
Entrega configurada: Descarregar pacote
Opções de entrega: Descarregar pacote / Alojar com FusionPointAI / Descarregar + alojar
fp8transformers Descarregar pacoteAlojar com FusionPointAIDescarregar + alojar
USD 70 160
Engenharia cobrada uma única vez
Pronto para engenharia
Pacote de produção FP8 para Mistral Small 4 119B A6B - Produção alojada na GPU de destino
Mistral · Mistral Small 4 119B A6B
Perfil do pacote: Produção alojada na GPU de destino
Operações de transformação: Quantização FP8, Preparação do ambiente de execução, Avaliação comparativa
GPU de destino: NVIDIA H200 SXM 141GB
Número de GPUs: 2
Preparação do ambiente de execução: transformers
Entrega configurada: Descarregar + alojar
Opções de entrega: Descarregar pacote / Alojar com FusionPointAI / Descarregar + alojar
fp8GPU de destino2 × NVIDIA H200 SXM 141GBtransformersAmbiente de execução otimizado Descarregar pacoteAlojar com FusionPointAIDescarregar + alojar
USD 76 160
Engenharia cobrada uma única vez
Pronto para engenharia
Pacote de produção FP8 para Mistral Small 4 119B A6B - Produção alojada na GPU de destino
Mistral · Mistral Small 4 119B A6B
Perfil do pacote: Produção alojada na GPU de destino
Operações de transformação: Quantização FP8, Preparação do ambiente de execução, Avaliação comparativa
GPU de destino: NVIDIA H100 SXM 80GB
Número de GPUs: 2
Preparação do ambiente de execução: transformers
Entrega configurada: Descarregar + alojar
Opções de entrega: Descarregar pacote / Alojar com FusionPointAI / Descarregar + alojar
fp8GPU de destino2 × NVIDIA H100 SXM 80GBtransformersAmbiente de execução otimizado Descarregar pacoteAlojar com FusionPointAIDescarregar + alojar
USD 76 160
Engenharia cobrada uma única vez
Pronto para engenharia
Pacote de produção FP8 para Mistral Small 4 119B A6B - Produção alojada na GPU de destino
Mistral · Mistral Small 4 119B A6B
Perfil do pacote: Produção alojada na GPU de destino
Operações de transformação: Quantização FP8, Preparação do ambiente de execução, Avaliação comparativa
GPU de destino: NVIDIA H100 PCIe 80GB
Número de GPUs: 2
Preparação do ambiente de execução: transformers
Entrega configurada: Descarregar + alojar
Opções de entrega: Descarregar pacote / Alojar com FusionPointAI / Descarregar + alojar
fp8GPU de destino2 × NVIDIA H100 PCIe 80GBtransformersAmbiente de execução otimizado Descarregar pacoteAlojar com FusionPointAIDescarregar + alojar
USD 76 160
Engenharia cobrada uma única vez
Pronto para engenharia
Pacote de produção FP8 para Mistral Small 4 119B A6B - Produção alojada na GPU de destino
Mistral · Mistral Small 4 119B A6B
Perfil do pacote: Produção alojada na GPU de destino
Operações de transformação: Quantização FP8, Preparação do ambiente de execução, Avaliação comparativa
GPU de destino: NVIDIA A100 SXM 80GB
Número de GPUs: 2
Preparação do ambiente de execução: transformers
Entrega configurada: Descarregar + alojar
Opções de entrega: Descarregar pacote / Alojar com FusionPointAI / Descarregar + alojar
fp8GPU de destino2 × NVIDIA A100 SXM 80GBtransformersAmbiente de execução otimizado Descarregar pacoteAlojar com FusionPointAIDescarregar + alojar
USD 76 160
Engenharia cobrada uma única vez
Pronto para engenharia
Pacote de produção FP8 para Mistral Small 4 119B A6B - Produção alojada na GPU de destino
Mistral · Mistral Small 4 119B A6B
Perfil do pacote: Produção alojada na GPU de destino
Operações de transformação: Quantização FP8, Preparação do ambiente de execução, Avaliação comparativa
GPU de destino: NVIDIA L40S 48GB
Número de GPUs: 4
Preparação do ambiente de execução: transformers
Entrega configurada: Descarregar + alojar
Opções de entrega: Descarregar pacote / Alojar com FusionPointAI / Descarregar + alojar
fp8GPU de destino4 × NVIDIA L40S 48GBtransformersAmbiente de execução otimizado Descarregar pacoteAlojar com FusionPointAIDescarregar + alojar
USD 76 160
Engenharia cobrada uma única vez
Pronto para engenharia
Pacote de produção FP8 para Mistral Small 4 119B A6B - Produção alojada na GPU de destino
Mistral · Mistral Small 4 119B A6B
Perfil do pacote: Produção alojada na GPU de destino
Operações de transformação: Quantização FP8, Preparação do ambiente de execução, Avaliação comparativa
GPU de destino: NVIDIA L4 24GB
Número de GPUs: 7
Preparação do ambiente de execução: transformers
Entrega configurada: Descarregar + alojar
Opções de entrega: Descarregar pacote / Alojar com FusionPointAI / Descarregar + alojar
fp8GPU de destino7 × NVIDIA L4 24GBtransformersAmbiente de execução otimizado Descarregar pacoteAlojar com FusionPointAIDescarregar + alojar
USD 76 160
Engenharia cobrada uma única vez
Projeto validado
Pacote de destilação para Mistral Small 4 119B A6B - Destilação com retenção de qualidade
Mistral · Mistral Small 4 119B A6B
Perfil do pacote: Destilação com retenção de qualidade
Operações de transformação: Destilação, Avaliação comparativa
GPU de destino: Hardware escolhido no configurador
Preparação do ambiente de execução: transformers
Entrega configurada: Descarregar pacote
Opções de entrega: Descarregar pacote / Alojar com FusionPointAI / Descarregar + alojar
DestilaçãoPreservação da qualidadetransformers Descarregar pacoteAlojar com FusionPointAIDescarregar + alojar
USD 150 535
Engenharia cobrada uma única vez
Projeto validado
Pacote de destilação para Mistral Small 4 119B A6B - Destilação otimizada para débito
Mistral · Mistral Small 4 119B A6B
Perfil do pacote: Destilação otimizada para débito
Operações de transformação: Destilação, Avaliação comparativa
GPU de destino: Hardware escolhido no configurador
Preparação do ambiente de execução: transformers
Entrega configurada: Descarregar pacote
Opções de entrega: Descarregar pacote / Alojar com FusionPointAI / Descarregar + alojar
DestilaçãoOtimizado para maior débitotransformers Descarregar pacoteAlojar com FusionPointAIDescarregar + alojar
USD 150 535
Engenharia cobrada uma única vez