Saltar al contenido principal

Listo para ingeniería

Paquete de producción FP8 para Ministral 3 3B Instruct 2512

Mistral / Ministral 3 3B Instruct 2512 · fp8 · Estado de ingeniería: Listo para ingeniería

Detalles

Linaje de transformación

Versión baseMinistral 3 3B Instruct 2512
Ingeniería de modelosCuantización FP8, Preparación del entorno de ejecución, Evaluación y pruebas comparativas
Opciones de entregaDescargar paquete / Alojar con FusionPointAI / Descargar + alojar

Precios transparentes

  • Ingeniería del modelo baseUSD 12.000
  • Cuantización FP8USD 5.900
  • Preparación del entorno de ejecuciónUSD 2.800
  • Evaluación y pruebas comparativasUSD 3.600
  • Descargar paqueteUSD 1.500
  • Configuración de despliegue gestionadoUSD 3.200
  • Ingeniería (pago único)USD 29.000

Alojamiento mensual

  • 1 x NVIDIA H100 SXM 80GBUSD 1.860
  • Alojamiento mensualUSD 1.860

Versión de origen

Familia del modelo
Mistral
Versión base
Ministral 3 3B Instruct 2512
Tipo de paquete
Cuantizado
Precisión de origen
No consta
Precisión de destino
FP8
Estado de ingeniería
Listo para ingeniería
Estado del pedido
Disponible para pedido

Entregables previstos

No consta

Ajuste a la memoria de GPU

Pesos del modelo estimados: 3.76 GB

Caché KV estimada: 2 GB

VRAM necesaria estimada: 11.72 GB

VRAM disponible estimada: 80 GB

Estado de las mediciones

Solo estimación

Este paquete no tiene resultados de benchmarks medidos registrados.

Limitaciones de entrega

Entrega configurada: Descargar + alojar

Opciones de entrega: Descargar paquete / Alojar con FusionPointAI / Descargar + alojar

Linaje de transformación

Precisión de origen: No consta

Precisión de destino: FP8

Operaciones de transformación: Cuantización FP8, Preparación del entorno de ejecución, Evaluación y pruebas comparativas

Topología GPU

GPU de destino: NVIDIA H100 SXM 80GB

Número de GPU: 1

Preparación del entorno de ejecución: transformers