Estado técnico da transformação
Transformação suportada
Versão pública de pesos abertos, verificada e comprovada por evidências de checkpoint de fonte autorizada.
GLM / GLM-5
Opções de transformação para GLM-5
Validado por versão, com evidências de proveniência, componentes de preço e compatibilidade do ambiente de execução.
Arquitetura
GlmMoeDsaForCausalLM
Parâmetros: 744,00B · Janela de contexto: 202 752
Transformações suportadas
Quantização
Validado por versão
Preparação do ambiente de execução
Validado por versão
Alojamento gerido
Validado por versão
Destilação
Validado por versão
Seleção de GPU
Validado por versão
Avaliação comparativa
Validado por versão
Descarregar pacote
Validado por versão
Quantização
BF16
A precisão, a memória, o contexto e a compatibilidade do ambiente de execução são avaliados com base nas evidências da versão antes de o produto ficar disponível para encomenda.
FP8
A precisão, a memória, o contexto e a compatibilidade do ambiente de execução são avaliados com base nas evidências da versão antes de o produto ficar disponível para encomenda.
Pacotes publicados
Pronto para engenharia
Pacote de produção FP8 para GLM-5 - Versão de produção para descarregar
GLM · GLM-5
Perfil do pacote: Versão de produção para descarregar
Operações de transformação: Quantização FP8, Avaliação comparativa
GPU de destino: Hardware escolhido no configurador
Preparação do ambiente de execução: transformers
Entrega configurada: Descarregar pacote
Opções de entrega: Descarregar pacote / Alojar com FusionPointAI / Descarregar + alojar
fp8transformers Descarregar pacoteAlojar com FusionPointAIDescarregar + alojar
USD 106 700
Engenharia cobrada uma única vez
Pronto para engenharia
Pacote de produção FP8 para GLM-5 - Produção alojada na GPU de destino
GLM · GLM-5
Perfil do pacote: Produção alojada na GPU de destino
Operações de transformação: Quantização FP8, Preparação do ambiente de execução, Avaliação comparativa
GPU de destino: NVIDIA H200 SXM 141GB
Número de GPUs: 7
Preparação do ambiente de execução: transformers
Entrega configurada: Descarregar + alojar
Opções de entrega: Descarregar pacote / Alojar com FusionPointAI / Descarregar + alojar
fp8GPU de destino7 × NVIDIA H200 SXM 141GBtransformersAmbiente de execução otimizado Descarregar pacoteAlojar com FusionPointAIDescarregar + alojar
USD 112 700
Engenharia cobrada uma única vez
Projeto validado
Pacote de destilação para GLM-5 - Destilação com retenção de qualidade
GLM · GLM-5
Perfil do pacote: Destilação com retenção de qualidade
Operações de transformação: Destilação, Avaliação comparativa
GPU de destino: Hardware escolhido no configurador
Preparação do ambiente de execução: transformers
Entrega configurada: Descarregar pacote
Opções de entrega: Descarregar pacote / Alojar com FusionPointAI / Descarregar + alojar
DestilaçãoPreservação da qualidadetransformers Descarregar pacoteAlojar com FusionPointAIDescarregar + alojar
USD 240 363
Engenharia cobrada uma única vez
Projeto validado
Pacote de destilação para GLM-5 - Destilação otimizada para débito
GLM · GLM-5
Perfil do pacote: Destilação otimizada para débito
Operações de transformação: Destilação, Avaliação comparativa
GPU de destino: Hardware escolhido no configurador
Preparação do ambiente de execução: transformers
Entrega configurada: Descarregar pacote
Opções de entrega: Descarregar pacote / Alojar com FusionPointAI / Descarregar + alojar
DestilaçãoOtimizado para maior débitotransformers Descarregar pacoteAlojar com FusionPointAIDescarregar + alojar
USD 240 363
Engenharia cobrada uma única vez