Saltar al contenido principal

NVIDIA L40S vs H100

Compare las especificaciones publicadas con la disponibilidad actual para alquilar.

Las diferencias proceden solo de memoria, ancho de banda, potencia, formato, precisión, software e inventario verificados.

CampoNVIDIA L40S 48GBNVIDIA H100 SXM 80GB
FabricanteNVIDIANVIDIA
SKU exactoL40SH100 SXM
ArquitecturaAda LovelaceHopper
GeneraciónAda para centros de datosHopper
CategoríaCentro de datosCentro de datos
Ciclo de vidaActualActual
VRAM48 GB80 GB
Tecnología de memoriaGDDR6 ECCHBM3
Ancho de banda864 GB/s3.350 GB/s
Potencia350 W700 W
InterfazPCIe Gen4 x16Interfaz de host PCIe Gen5
FormatoDoble ranura · PCIe · AceleradorSXM · Módulo
InterconexiónPCIeNVLink
MIG / particiónNo figura como compatibleCompatible
Formatos de precisión numéricaFP32, TF32, BF16, FP16, FP8, INT8FP64, FP32, TF32, BF16, FP16, FP8, INT8
Ecosistema de ejecucióncuda, vllm, sglang, tensorrt-llmcuda, vllm, sglang, tensorrt-llm
Disponibilidad de alquilerDisponibleDisponible
Precio mensualUSD 506USD 1.860

Diferencias verificadas

  • NVIDIA H100 SXM 80GB tiene la mayor VRAM de esta selección.
  • NVIDIA H100 SXM 80GB tiene el mayor ancho de banda registrado.
  • NVIDIA L40S 48GB tiene la menor potencia publicada.

Diferencias de arquitectura

Datos verificados por fuentes: NVIDIA L40S 48GB: Ada Lovelace / Ada para centros de datos / Doble ranura · PCIe · Acelerador · NVIDIA H100 SXM 80GB: Hopper / Hopper / SXM · Módulo

VRAM y requisitos de memoria

Datos verificados por fuentes: NVIDIA L40S 48GB: 48 GB / GDDR6 ECC / 864 GB/s · NVIDIA H100 SXM 80GB: 80 GB / HBM3 / 3,350 GB/s

Potencia y refrigeración

Datos verificados por fuentes: NVIDIA L40S 48GB: 350 W / Doble ranura · PCIe · Acelerador · NVIDIA H100 SXM 80GB: 700 W / SXM · Módulo

Precisión de IA

Datos verificados por fuentes: NVIDIA L40S 48GB: FP32, TF32, BF16, FP16, FP8, INT8 · NVIDIA H100 SXM 80GB: FP64, FP32, TF32, BF16, FP16, FP8, INT8

Interfaz e interconexión

Datos verificados por fuentes: NVIDIA L40S 48GB: PCIe Gen4 x16 / PCIe · NVIDIA H100 SXM 80GB: Interfaz de host PCIe Gen5 / NVLink

Consideraciones multi-GPU

Las variantes de gran tamaño pueden requerir ejecución en paralelo o varios nodos. Compruebe el peso del modelo en memoria, el entorno de ejecución, la interconexión, la topología y el margen de capacidad.

Adecuación de modelos y cargas

La idoneidad depende de la versión del modelo, la precisión, el entorno de ejecución, la memoria disponible y la topología. La compatibilidad no garantiza disponibilidad para alquiler.

Disponibilidad de alquiler

Datos verificados por fuentes: NVIDIA L40S 48GB: Disponible / USD 506 / mes · NVIDIA H100 SXM 80GB: Disponible / USD 1.860 / mes

Fuentes oficiales

Última verificación: 2026-08-25