Zum Hauptinhalt springen

OLMo · Allgemein · OLMo 2

OLMo 2 32B: Daten, GPU-Bedarf, Hosting und Bereitstellung

OLMo 2 32B ist eine Neu-Version im Allgemein-Zweig der OLMo-Familie und anhand der offiziellen Revision zertifiziert.

Technische Bereitstellungsillustration für OLMo 2 32B
Referenzablauf; exakte Architekturdaten stehen separat.
Gesamtparameter32,0B
Aktive ParameterDichtes Modell
Kontextfenster131.072 tokens
VersionsstatusNeu · Neu
ArchitekturDense Transformer
ModalitätenText
LizenzApache 2.0-Lizenz
BereitstellungsstatusMit zertifizierter Konfiguration bereitstellbar
Kommerzieller StatusKommerzielle Nutzung erlaubt
Veröffentlichungsdatum2025-03-12

Architektur, Stärken und Einsatzbereiche

OLMo 2 32B ist eine offizielle selbst hostbare Allen AI-Version im Zweig OLMo Allgemein. Sie nutzt Dense Transformer mit 32B und 131,072 geprüften Kontext-Token.

OLMo 2 32B nutzt Dense Transformer mit 32B. Das Quellenprofil enthält 64 Schichten, Breite 8192 und 64 Attention-Köpfe, soweit veröffentlicht.

Geprüfte Dense Transformer-Architektur
131,072 zertifizierte Kontext-Token
Offizielle Checkpoint-Herkunft
Private LLM-Inferenz
Agentische Abläufe
Verarbeitung langer Dokumente

Zertifizierte Checkpoints und Quantisierungen

Angezeigt werden nur exakte, quellengeprüfte Varianten dieser Version.

OLMo-2-0325-32B-Instruct

allenai/OLMo-2-0325-32B-Instruct

Offiziell · BF16 · safetensors

Laufzeitumgebung verifiziert: Transformers

Präzision / QuantisierungFormatBitVertrauen in HerausgeberBereitstellungsstatus
BF16safetensors16OffiziellLaufzeitumgebung verifiziert

Empfohlene Hardware

Nutzen Sie nur zertifizierte Laufzeitkonfigurationen mit exakter Checkpoint-Präzision. Die Rangfolge prüft Gewichte, KV-Cache, Laufzeitaufwand, GPU-Architektur und Topologie.

Geschätzter Gewichtsspeicher61.39 GB
KV cache2 GB
Laufzeitaufwand16.13 GB
Gesamt mit Sicherheitsreserve98.61 GB

Empfohlenes Preis-Leistungs-Verhältnis

2× NVIDIA A100 SXM 80GB

160 GB VRAM gesamt · nvlink

61.39 GB Reserve · Verfügbar

USD 1.830 / Monat

Günstigste geeignete Option

5× NVIDIA L4 24GB

120 GB VRAM gesamt · pcie

21.39 GB Reserve · Verfügbar

USD 1.250 / Monat

Höchste Leistung

2× NVIDIA A100 SXM 80GB

160 GB VRAM gesamt · nvlink

61.39 GB Reserve · Verfügbar

USD 1.830 / Monat

Lizenz und Selbsthosting

Der vollständige Residenzsatz von 32 B muss auf die GPUs passen. Kontext und Parallelität erhöhen den KV-Cache.

OLMo 2 32B wird unter Apache 2.0-Lizenz veröffentlicht. Offizielle URL und Prüfdatum werden gespeichert.

Kommerzielle Nutzung erlaubt. Die offizielle Lizenz erlaubt die kommerzielle Nutzung; sämtliche Auflagen gelten weiterhin.

Alternativen und gleichrangige Varianten

OLMo 3.1 32B Instruct

Versionsverlauf

allenai/olmo/olmo-2-32b

Quellendetails

Offizielle Quelle

Quellrevision: 2ffcf0f2dd7e3031db114c8c22b11fa11a22fdba8cf1717f6b77d9682700c572

Häufige Fragen

Wie viel VRAM benötigt OLMo 2 32B?

Die Schätzung hängt von Präzision, Kontext und Parallelität ab und nutzt zertifizierte Daten.

Welche Laufzeitumgebungen unterstützen OLMo 2 32B?

Geprüfte Upstream-Belege liegen für transformers vor.

Darf OLMo 2 32B kommerziell genutzt werden?

Die gespeicherte Einstufung ist Kommerzielle Nutzung erlaubt. Maßgeblich sind die offiziellen Apache 2.0-Lizenz-Bedingungen.

Offizielle Quellen

Zuletzt geprüft: 2026-08-26