Olmo-3.1-32B-Instruct
Offiziell · BF16 · safetensors
Laufzeitumgebung verifiziert: Transformers
| Präzision / Quantisierung | Format | Bit | Vertrauen in Herausgeber | Bereitstellungsstatus |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Offiziell | Laufzeitumgebung verifiziert |
OLMo · Allgemein · OLMo 3.1
OLMo 3.1 32B Instruct: Daten, GPU-Bedarf, Hosting und Bereitstellung
OLMo 3.1 32B Instruct ist eine Aktuell-Version im Allgemein-Zweig der OLMo-Familie und anhand der offiziellen Revision zertifiziert.
Gesamtparameter32,2B
Aktive ParameterDichtes Modell
Kontextfenster65.536 tokens
VersionsstatusAktuell · Aktuell
ArchitekturOlmo3ForCausalLM
ModalitätenText
LizenzApache 2.0-Lizenz
BereitstellungsstatusMit zertifizierter Konfiguration bereitstellbar
Kommerzieller StatusKommerzielle Nutzung erlaubt
Veröffentlichungsdatum2025-12-10
Architektur, Stärken und Einsatzbereiche
OLMo 3.1 32B Instruct ist eine offizielle selbst hostbare Allen AI-Version im Zweig OLMo Allgemein. Sie nutzt Olmo3ForCausalLM mit 32.2B und 65,536 geprüften Kontext-Token.
OLMo 3.1 32B Instruct nutzt Olmo3ForCausalLM mit 32.2B. Das Quellenprofil enthält 64 Schichten, Breite 5120 und 40 Attention-Köpfe, soweit veröffentlicht.
Geprüfte Olmo3ForCausalLM-Architektur
65,536 zertifizierte Kontext-Token
Offizielle Checkpoint-Herkunft
Private LLM-Inferenz
Agentische Abläufe
Verarbeitung langer Dokumente
Zertifizierte Checkpoints und Quantisierungen
Angezeigt werden nur exakte, quellengeprüfte Varianten dieser Version.
Empfohlene Hardware
Nutzen Sie nur zertifizierte Laufzeitkonfigurationen mit exakter Checkpoint-Präzision. Die Rangfolge prüft Gewichte, KV-Cache, Laufzeitaufwand, GPU-Architektur und Topologie.
Geschätzter Gewichtsspeicher61.78 GB
KV cache2 GB
Laufzeitaufwand16.2 GB
Gesamt mit Sicherheitsreserve99.17 GB
Empfohlenes Preis-Leistungs-Verhältnis
2× NVIDIA A100 SXM 80GB
160 GB VRAM gesamt · nvlink
60.83 GB Reserve · Verfügbar
USD 1.830 / MonatGünstigste geeignete Option
5× NVIDIA L4 24GB
120 GB VRAM gesamt · pcie
20.83 GB Reserve · Verfügbar
USD 1.250 / MonatHöchste Leistung
2× NVIDIA A100 SXM 80GB
160 GB VRAM gesamt · nvlink
60.83 GB Reserve · Verfügbar
USD 1.830 / MonatLizenz und Selbsthosting
Der vollständige Residenzsatz von 32.2 B muss auf die GPUs passen. Kontext und Parallelität erhöhen den KV-Cache.
OLMo 3.1 32B Instruct wird unter Apache 2.0-Lizenz veröffentlicht. Offizielle URL und Prüfdatum werden gespeichert.
Kommerzielle Nutzung erlaubt. Die offizielle Lizenz erlaubt die kommerzielle Nutzung; sämtliche Auflagen gelten weiterhin.
Alternativen und gleichrangige Varianten
OLMo 2 32B
Versionsverlauf
allenai/olmo/olmo-3-1-32b-instruct
Quellendetails
Quellrevision: 9e999954a0666e13fba0f4b721679ef514c444755fd494c5588c5dd220fb11eb
Häufige Fragen
Wie viel VRAM benötigt OLMo 3.1 32B Instruct?
Die Schätzung hängt von Präzision, Kontext und Parallelität ab und nutzt zertifizierte Daten.
Welche Laufzeitumgebungen unterstützen OLMo 3.1 32B Instruct?
Geprüfte Upstream-Belege liegen für transformers vor.
Darf OLMo 3.1 32B Instruct kommerziell genutzt werden?
Die gespeicherte Einstufung ist Kommerzielle Nutzung erlaubt. Maßgeblich sind die offiziellen Apache 2.0-Lizenz-Bedingungen.
Offizielle Quellen
Zuletzt geprüft: 2026-08-26