Pronto para engenharia
Pacote de produção FP8 para Ministral 3 3B Instruct 2512
Mistral / Ministral 3 3B Instruct 2512 · fp8 · Estado de engenharia: Pronto para engenharia
Linhagem da transformação
Lançamento baseMinistral 3 3B Instruct 2512
Engenharia de modelosQuantização FP8, Preparação do ambiente de execução, Avaliação comparativa
Opções de entregaDescarregar pacote / Alojar com FusionPointAI / Descarregar + alojar
Preço transparente
- Engenharia do modelo baseUSD 12 000
- Quantização FP8USD 5 900
- Preparação do ambiente de execuçãoUSD 2 800
- Avaliação comparativaUSD 3 600
- Descarregar pacoteUSD 1 500
- Configuração da implementação geridaUSD 3 200
- Engenharia cobrada uma única vezUSD 29 000
Alojamento mensal
- 1 x NVIDIA L40S 48GBUSD 506
- Alojamento mensalUSD 506
Versão de origem
- Família do modelo
- Mistral
- Lançamento base
- Ministral 3 3B Instruct 2512
- Tipo de pacote
- Quantizado
- Precisão de origem
- Não indicado
- Precisão de destino
- FP8
- Estado de engenharia
- Pronto para engenharia
- Estado da encomenda
- Disponível para encomenda
Entregáveis previstos
Não indicado
Adequação à memória da GPU
Pesos estimados do modelo: 3.76 GB
Cache KV estimada: 2 GB
VRAM necessária estimada: 11.72 GB
VRAM disponível estimada: 48 GB
Estado das medições
Apenas estimativa
Não há resultados de benchmark medidos registados para este pacote.
Limitações de entrega
Entrega configurada: Descarregar + alojar
Opções de entrega: Descarregar pacote / Alojar com FusionPointAI / Descarregar + alojar
Linhagem da transformação
Precisão de origem: Não indicado
Precisão de destino: FP8
Operações de transformação: Quantização FP8, Preparação do ambiente de execução, Avaliação comparativa
Topologia de GPU
GPU de destino: NVIDIA L40S 48GB
Número de GPUs: 1
Preparação do ambiente de execução: transformers