Passer au contenu principal

NVIDIA H100 vs A100

Comparez les caractéristiques publiées avec les disponibilités de location actuelles.

Les différences proviennent uniquement de la mémoire, bande passante, puissance, format, précisions, logiciel et inventaire vérifiés.

ChampNVIDIA H100 SXM 80GBNVIDIA A100 SXM 80GB
FabricantNVIDIANVIDIA
SKU exactH100 SXMA100 SXM 80GB
Architecture du modèleHopperAmpere
GénérationHopperAmpere pour centre de données
CatégorieCentre de donnéesCentre de données
Cycle de vieActuelGénération précédente
VRAM80 GB80 GB
Technologie mémoireHBM3HBM2e
Bande passante3 350 GB/s2 039 GB/s
Puissance700 W400 W
InterfaceInterface hôte PCIe Gen5Interface hôte PCIe Gen4
FormatSXM · ModuleSXM4 · Module
InterconnexionNVLinkNVLink
MIG / partitionnementPris en chargePris en charge
Formats de précision numériqueFP64, FP32, TF32, BF16, FP16, FP8, INT8FP64, FP32, TF32, BF16, FP16, INT8, INT4
Écosystème d’exécutioncuda, vllm, sglang, tensorrt-llmcuda, vllm, sglang, tensorrt-llm
Disponibilité à la locationDisponibleDisponible
Prix mensuel de locationUSD 1 860USD 915

Différences vérifiées

  • NVIDIA H100 SXM 80GB offre la bande passante mémoire enregistrée la plus élevée.
  • NVIDIA A100 SXM 80GB affiche la puissance publiée la plus basse.

Différences d’architecture

Faits vérifiés par les sources : NVIDIA H100 SXM 80GB: Hopper / Hopper / SXM · Module · NVIDIA A100 SXM 80GB: Ampere / Ampere pour centre de données / SXM4 · Module

VRAM et besoins mémoire

Faits vérifiés par les sources : NVIDIA H100 SXM 80GB: 80 GB / HBM3 / 3,350 GB/s · NVIDIA A100 SXM 80GB: 80 GB / HBM2e / 2,039 GB/s

Puissance et refroidissement

Faits vérifiés par les sources : NVIDIA H100 SXM 80GB: 700 W / SXM · Module · NVIDIA A100 SXM 80GB: 400 W / SXM4 · Module

Précisions IA

Faits vérifiés par les sources : NVIDIA H100 SXM 80GB: FP64, FP32, TF32, BF16, FP16, FP8, INT8 · NVIDIA A100 SXM 80GB: FP64, FP32, TF32, BF16, FP16, INT8, INT4

Interface et interconnexion

Faits vérifiés par les sources : NVIDIA H100 SXM 80GB: Interface hôte PCIe Gen5 / NVLink · NVIDIA A100 SXM 80GB: Interface hôte PCIe Gen4 / NVLink

Considérations multi-GPU

Les grandes variantes peuvent exiger une exécution parallèle ou plusieurs nœuds. Vérifiez le poids du modèle en mémoire, l’environnement d’exécution, l’interconnexion, la topologie et la marge de capacité.

Adéquation modèles et charges

L’adéquation dépend de la version du modèle, de la précision, de l’environnement d’exécution, de la mémoire disponible et de la topologie. La compatibilité ne garantit pas la disponibilité à la location.

Disponibilité à la location

Faits vérifiés par les sources : NVIDIA H100 SXM 80GB: Disponible / USD 1 860 / mois · NVIDIA A100 SXM 80GB: Disponible / USD 915 / mois

Sources officielles

Dernière vérification: 2026-08-25