NVIDIA · Rechenzentrum · Beschleunigerkarte
NVIDIA L40 48GB
Exakte Referenzdaten für L40 und KI-Bereitstellung, getrennt vom kommerziellen Bestand.
Neuere Generation
Nur Referenz
Geprüfte technische Daten
| Hersteller | NVIDIA |
|---|---|
| Exakte SKU | L40 |
| Produktfamilie | NVIDIA L40 |
| Architektur | Ada Lovelace |
| Generation | Ada für Rechenzentren |
| Entitätstyp | Beschleunigerkarte |
| Lebenszyklus | Neuere Generation |
| Markteinführung | Der Hersteller hat diese Angabe nicht veröffentlicht. |
| VRAM | 48 GB |
| Speichertechnologie | GDDR6 ECC |
| Speicherbandbreite | 864 GB/s |
| Leistung | 300 W |
| Schnittstelle | PCIe Gen4 x16 |
| Formfaktor | Zwei Steckplätze · PCIe · Beschleuniger |
| Verbindung | PCIe |
| MIG / Partitionierung | Nicht unterstützt |
| Unterstützte Zahlenformate | FP32, TF32, BF16, FP16, FP8, INT8 |
| Software-Stack | cuda, vllm, sglang, tensorrt-llm |
Eignung für KI-Arbeitslasten
LLM-Inferenz
Geeignet für kleinere Checkpoints, komprimierte Modelle oder verteilte Konfigurationen.
Feinabstimmung und Training
Für den Dauerbetrieb mit Beschleunigern ausgelegt; die Eignung für Training hängt von der Verbindungstechnik, der numerischen Präzision und der Cluster-Topologie ab.
Bild, Video und Vektoreinbettungen
FP16 unterstützt gängige generative und Vektor-Arbeitslasten im angegebenen VRAM.
Strom und Kühlung
300 W erfordern passendes Gehäuse, Luftstrom und Stromversorgung.
Multi-GPU-Betrieb
PCIe ist die erfasste Verbindung; die Knotentopologie muss geprüft werden.
Softwareökosystem
cuda, vllm, sglang, tensorrt-llm
Produktverlauf
Mediengalerie
Offizielle Herstellerquelle
https://www.nvidia.com/en-us/data-center/l40/
Zuletzt geprüft: 2026-08-24