NVIDIA · Centro de datos · Módulo

NVIDIA A100 SXM 80GB

Name: NVIDIA A100 SXM 80GB
Brand: NVIDIA
Price: 915 USD
Availability: InStock

Esta página reúne las especificaciones de referencia del A100 SXM 80GB y orientaciones para su implementación en proyectos de IA, independientes del inventario comercial de FusionPointAI.

Generación anterior Disponible para alquilar

Configurar y alquilar Comparar GPU

Especificaciones técnicas verificadas

Fabricante	NVIDIA
SKU exacto	A100 SXM 80GB
Familia de producto	NVIDIA A100
Arquitectura	Ampere
Generación	Ampere para centros de datos
Tipo de entidad	Módulo
Ciclo de vida	Generación anterior
Fecha de lanzamiento	El fabricante no ha publicado este dato.
VRAM	80 GB
Tecnología de memoria	HBM2e
Ancho de banda de memoria	2.039 GB/s
Potencia	400 W
Interfaz	Interfaz de host PCIe Gen4
Formato	SXM4 · Módulo
Interconexión	NVLink
MIG / partición	Compatible
Formatos numéricos admitidos	FP64, FP32, TF32, BF16, FP16, INT8, INT4
Pila de software	cuda, vllm, sglang, tensorrt-llm

Cómputo

Precisión	Denso	Con dispersión
FP64	9.7 TFLOPS	—
FP64 Tensor	19.5 TFLOPS	—
FP32	19.5 TFLOPS	—
TF32 Tensor	156 TFLOPS	312 TFLOPS
BF16 Tensor	312 TFLOPS	624 TFLOPS
FP16 Tensor	312 TFLOPS	624 TFLOPS
INT8 Tensor	624 TOPS	1248 TOPS

Adecuación a cargas IA

Inferencia LLM

La amplia memoria permite trabajar con checkpoints grandes y ejecutar inferencias en varias GPU, siempre que se hayan validado el entorno de ejecución y la topología.

Ajuste fino y entrenamiento

Diseñado para cargas sostenidas con aceleradores; la idoneidad para entrenamiento depende de la interconexión, la precisión numérica y la topología del clúster.