NVIDIA H200 SXM 141GB
Ideal für große Modelle, lange Kontexte, intensive Feinabstimmung und speicherintensive KI-Arbeitslasten.
- VRAM
- 141, GB
- Speicher
- HBM3e
- Bandbreite
- 4.800 GB/s
Mieten Sie GPUs zu transparenten Preisen für LLM-Inferenz, Feinabstimmung, multimodale Anwendungen, maschinelles Sehen und Forschung.
Betreute Modellentwicklung ist ein Transformationsprojekt zum Festpreis. GPU-Hosting bleibt ein eigenständiger Infrastrukturservice.
FusionPointAI / Modellentwicklung
Wählen Sie geprüfte Modellversionen und stimmen Sie Sprache, Hardware, Laufzeitumgebung und Bereitstellung auf Ihren Bedarf ab.
Wählen Sie eine geeignete Modellversion, legen Sie Sprach- und GPU-Optionen fest und entscheiden Sie sich für den Paket-Download, verwaltetes Hosting oder beides. Den genauen Preis sehen Sie vor der Bestellung.
Wählen Sie zunächst eine geprüfte Modellfamilie und grenzen Sie die Auswahl anschließend nach Version, Modell-Checkpoint und Quantisierung ein.
Prüfen Sie zunächst, welche Hardware der Rechner unterstützt, und berechnen Sie anschließend eine Empfehlung für Ihren konkreten Anwendungsfall. Katalogeinträge sind unabhängig von aktueller Verfügbarkeit und freigegebenen Preisen.
Ideal für große Modelle, lange Kontexte, intensive Feinabstimmung und speicherintensive KI-Arbeitslasten.
Für den produktiven Betrieb von LLMs, quantisierte Inferenz von Modellen der 70B-Klasse und bandbreitenstarkes Multi-GPU-Training ausgelegt.
Geeignet für leistungsstarke Inferenz auf einem einzelnen System, kleinere Feinabstimmungsaufgaben und einen kostengünstigen Einstieg in die Hopper-Architektur.
Bewährt für CUDA-Anwendungen, LoRA-Feinabstimmung, Forschung und stabile Inferenz im Produktivbetrieb.
Ausgewogen für mittelgroße LLMs, Bilderzeugung, maschinelles Sehen und kostenoptimierte Produktionsinferenz.
Effizient für kleine Modelle, Vektoreinbettungen, Neusortierung, Entwicklung und kostensensitive KI-Dienste.
Nutzen Sie den Katalog für die Hardwareauswahl und den Empfehlungsrechner, wenn Modellgröße, Kontext oder Budget wichtig sind.
Ideal für große Modelle, lange Kontexte, intensive Feinabstimmung und speicherintensive KI-Arbeitslasten.
Der Rechner schätzt Modellgewichte, KV-Cache und den Speicherbedarf der Laufzeitumgebung sowie der Arbeitslast. Anschließend filtert er die GPUs und berücksichtigt dabei eine Reserve für den Produktivbetrieb.
Inferenz und Training werden getrennt dimensioniert. Für das Training werden zusätzlicher Speicher für Optimiererzustände, Gradienten oder Adapter sowie Aktivierungen berücksichtigt. Auch die Grenzen der GPU-Topologie spielen eine Rolle.
Eine geringere Rechengenauigkeit kann den Speicherbedarf senken. Quantisierungsmetadaten, der Speicherbedarf der Laufzeitumgebung und technische Grenzen sind weiterhin zu berücksichtigen.
Anfragen werden an Modell-Snapshot, Rechner-Version, Konfiguration und Preisversion gebunden.
Die Berechnung berücksichtigt Modellgewichte, KV-Cache, Speicherbedarf der Laufzeitumgebung, Stapelverarbeitung und einen zusätzlichen Sicherheitspuffer.
Ja. Feinabstimmung und Training benötigen zusätzlichen Speicher für Gradienten, den Zustand des Optimierers und Aktivierungen. Auch die GPU-Topologie spielt eine Rolle.
Ja. Sie können Parameterzahl und Architektur angeben. Unsichere Schätzungen werden gekennzeichnet.
Nein. Schätzwerte und gemessene Benchmarkdaten werden getrennt gekennzeichnet.
Nein. Nicht verfügbare Hardware kann im Katalog bleiben, wird aber nicht als sofort kaufbarer Bestand angeboten.
Freigegebene Preise erscheinen nach Kosten- und Marktprüfung. Andernfalls bleibt eine Angebotsanfrage erforderlich.