NVIDIA · Rechenzentrum · Beschleunigerkarte
NVIDIA A40 48GB
Exakte Referenzdaten für A40 und KI-Bereitstellung, getrennt vom kommerziellen Bestand.
Vorherige Generation
Nur Referenz
Geprüfte technische Daten
| Hersteller | NVIDIA |
|---|---|
| Exakte SKU | A40 |
| Produktfamilie | NVIDIA A40 |
| Architektur | Ampere |
| Generation | Ampere für Rechenzentren |
| Entitätstyp | Beschleunigerkarte |
| Lebenszyklus | Vorherige Generation |
| Markteinführung | Der Hersteller hat diese Angabe nicht veröffentlicht. |
| VRAM | 48 GB |
| Speichertechnologie | GDDR6 ECC |
| Speicherbandbreite | 696 GB/s |
| Leistung | 300 W |
| Schnittstelle | PCIe Gen4 x16 |
| Formfaktor | Zwei Steckplätze · PCIe · Beschleuniger |
| Verbindung | NVLink |
| MIG / Partitionierung | Nicht unterstützt |
| Unterstützte Zahlenformate | FP64, FP32, TF32, BF16, FP16, INT8, INT4 |
| Software-Stack | cuda, vllm, sglang, tensorrt-llm |
Eignung für KI-Arbeitslasten
LLM-Inferenz
Geeignet für kleinere Checkpoints, komprimierte Modelle oder verteilte Konfigurationen.
Feinabstimmung und Training
Für den Dauerbetrieb mit Beschleunigern ausgelegt; die Eignung für Training hängt von der Verbindungstechnik, der numerischen Präzision und der Cluster-Topologie ab.
Bild, Video und Vektoreinbettungen
FP16 unterstützt gängige generative und Vektor-Arbeitslasten im angegebenen VRAM.
Strom und Kühlung
300 W erfordern passendes Gehäuse, Luftstrom und Stromversorgung.
Multi-GPU-Betrieb
NVLink ist die erfasste Verbindung; die Knotentopologie muss geprüft werden.
Softwareökosystem
cuda, vllm, sglang, tensorrt-llm
Produktverlauf
Offizielle Herstellerquelle
https://www.nvidia.com/en-us/data-center/a40/
Zuletzt geprüft: 2026-08-24