Olmo-3.1-32B-Instruct
Officiel · BF16 · safetensors
Environnement d’exécution certifié: Transformers
| Précision / quantification | Format | Bits | Confiance éditeur | État de déploiement |
|---|---|---|---|---|
| BF16 | safetensors | 16 | Officiel | Environnement d’exécution certifié |
OLMo · Général · OLMo 3.1
OLMo 3.1 32B Instruct : caractéristiques, besoins GPU, hébergement et déploiement
OLMo 3.1 32B Instruct est une version Actuel de la branche Général de OLMo, certifiée depuis sa révision officielle.
Paramètres totaux32,2B
Paramètres actifsModèle dense
Fenêtre de contexte65 536 tokens
Statut de la versionActuel · Actuel
Architecture du modèleOlmo3ForCausalLM
ModalitésTexte
LicenceLicence Apache 2.0
État de déploiementDéployable avec une configuration certifiée
État commercialUsage commercial autorisé
Date de sortie2025-12-10
Architecture, points forts et usages
OLMo 3.1 32B Instruct est une version officielle auto-hébergeable de Allen AI dans la branche OLMo Général. Elle utilise Olmo3ForCausalLM avec 32.2B et un contexte vérifié de 65,536 tokens.
OLMo 3.1 32B Instruct utilise Olmo3ForCausalLM avec 32.2B. Le profil vérifié indique 64 couches, une largeur cachée de 5120 et 40 têtes d’attention lorsque ces valeurs sont publiées.
Architecture Olmo3ForCausalLM vérifiée
Contexte certifié de 65,536 tokens
Provenance officielle du checkpoint
Inférence LLM privée
Flux agentiques
Traitement de documents longs
Checkpoints et quantifications certifiés
Seules les variantes exactes, rattachées à cette version et certifiées par leur source sont affichées.
Matériel recommandé
Utilisez uniquement les configurations d’exécution certifiées avec la précision exacte du checkpoint. Le classement matériel vérifie poids, cache KV, surcharge, architecture GPU et topologie.
Mémoire estimée des poids61.78 GB
Cache KV2 GB
Surcharge de l’environnement d’exécution16.2 GB
Total avec marge de sécurité99.17 GB
Meilleur rapport qualité-prix
2× NVIDIA A100 SXM 80GB
160 GB VRAM totale · nvlink
60.83 GB de marge · Disponible
USD 1 830 / moisOption viable la moins chère
5× NVIDIA L4 24GB
120 GB VRAM totale · pcie
20.83 GB de marge · Disponible
USD 1 250 / moisPerformances maximales
2× NVIDIA A100 SXM 80GB
160 GB VRAM totale · nvlink
60.83 GB de marge · Disponible
USD 1 830 / moisLicence et considérations d’auto-hébergement
Les 32.2 B de poids résidents doivent tenir sur les GPU choisis. Le contexte et la concurrence ajoutent la mémoire du cache KV.
OLMo 3.1 32B Instruct est publié sous Licence Apache 2.0. Le lien officiel de licence et la date de vérification sont conservés.
Usage commercial autorisé. La licence officielle autorise l’usage commercial ; toutes ses obligations restent applicables.
Alternatives et variantes associées
OLMo 2 32B
Chronologie des versions
allenai/olmo/olmo-3-1-32b-instruct
Détails de la source
Révision de la source: 9e999954a0666e13fba0f4b721679ef514c444755fd494c5588c5dd220fb11eb
Questions fréquentes
Quelle VRAM faut-il pour OLMo 3.1 32B Instruct ?
L’estimation dépend de la précision, du contexte et de la concurrence et utilise les données certifiées.
Quels environnements d’exécution prennent en charge OLMo 3.1 32B Instruct ?
Des preuves officielles sur les environnements d’exécution sont certifiées pour transformers.
OLMo 3.1 32B Instruct peut-il être utilisé commercialement ?
La classification enregistrée est Usage commercial autorisé. Consultez les conditions officielles de Licence Apache 2.0.
Références officielles
Dernière vérification: 2026-08-26