Saltar al contenido principal

NVIDIA · Plataforma · Superchip

NVIDIA GH200 Grace Hopper Superchip 96GB

Esta página reúne las especificaciones de referencia del GH200 96GB y orientaciones para su implementación en proyectos de IA, independientes del inventario comercial de FusionPointAI.

Generación reciente Solo referencia
Ilustración técnica neutral para NVIDIA GH200 Grace Hopper Superchip 96GB; no es una foto del producto
Ilustración de referencia; consulte la tabla verificada. No es una fotografía del producto.

Especificaciones técnicas verificadas

FabricanteNVIDIA
SKU exactoGH200 96GB
Familia de productoNVIDIA GH200
ArquitecturaHopper
GeneraciónGrace Hopper
Tipo de entidadSuperchip
Ciclo de vidaGeneración reciente
Fecha de lanzamientoEl fabricante no ha publicado este dato.
VRAM96 GB
Tecnología de memoriaHBM3
Ancho de banda de memoria4.000 GB/s
Potencia1000 W
InterfazNVLink-C2C
FormatoCPU-GPU · Superchip
InterconexiónNVLink-C2C
MIG / particiónCompatible
Formatos numéricos admitidosFP64, FP32, TF32, BF16, FP16, FP8, INT8
Pila de softwarecuda, vllm, sglang, tensorrt-llm

Adecuación a cargas IA

Inferencia LLM

La amplia memoria permite trabajar con checkpoints grandes y ejecutar inferencias en varias GPU, siempre que se hayan validado el entorno de ejecución y la topología.

Ajuste fino y entrenamiento

Adecuado para tareas de ajuste fino limitadas y desarrollo, una vez verificadas la compatibilidad del software, la refrigeración y la memoria disponible.

Imagen, vídeo y representaciones vectoriales

La aceleración FP16 admite cargas generativas y vectoriales dentro de la VRAM indicada.

Potencia y refrigeración

La potencia publicada de 1000 W requiere chasis, flujo de aire y alimentación adecuados.

Uso multi-GPU

NVLink-C2C es la interconexión registrada; la topología debe validarse por nodo.

Ecosistema de software

cuda, vllm, sglang, tensorrt-llm

Cronología del producto

nvidia-gh200-96gb @ 45ceb776e39ae795b323418d5ab43f7423707f3e27bc97dc1cff6c9c5b862b01

Fuente oficial

Galería multimedia

Fuente oficial del fabricante

https://www.nvidia.com/en-us/data-center/grace-hopper-superchip/

Última verificación: 2026-08-24