GLM-5 的转换选项

BF16

在可下单之前，将根据版本证据评估精度、内存、上下文和运行时适配性。

FP8

在可下单之前，将根据版本证据评估精度、内存、上下文和运行时适配性。

工程就绪

GLM-5 FP8 生产包 - 可下载生产构建

GLM · GLM-5

软件包配置: 可下载生产构建

转换操作: FP8 量化, 评估和基准测试

目标 GPU: 在构建器中选择硬件

运行时打包: transformers

已配置交付: 下载模型包

交付选项: 下载模型包 / 使用 FusionPointAI 托管 / 下载 + 托管

USD 106,700
一次性工程服务

工程就绪

GLM-5 FP8 生产包 - 面向目标 GPU 的托管生产环境

GLM · GLM-5

软件包配置: 面向目标 GPU 的托管生产环境

转换操作: FP8 量化, 运行时打包, 评估和基准测试

目标 GPU: NVIDIA H200 SXM 141GB

GPU 数量: 7

运行时打包: transformers

已配置交付: 下载 + 托管

交付选项: 下载模型包 / 使用 FusionPointAI 托管 / 下载 + 托管

USD 112,700
一次性工程服务

设计已验证

GLM-5 蒸馏生产包 - 质量保留蒸馏

GLM · GLM-5

软件包配置: 质量保留蒸馏

转换操作: 蒸馏, 评估和基准测试

目标 GPU: 在构建器中选择硬件

运行时打包: transformers

已配置交付: 下载模型包

交付选项: 下载模型包 / 使用 FusionPointAI 托管 / 下载 + 托管

USD 240,363
一次性工程服务

设计已验证

GLM-5 蒸馏生产包 - 吞吐优化蒸馏

GLM · GLM-5

软件包配置: 吞吐优化蒸馏

转换操作: 蒸馏, 评估和基准测试

目标 GPU: 在构建器中选择硬件

运行时打包: transformers

已配置交付: 下载模型包

交付选项: 下载模型包 / 使用 FusionPointAI 托管 / 下载 + 托管

USD 240,363
一次性工程服务