OLMo 2 32B : caractéristiques, besoins GPU, hébergement et déploiement

Architecture, points forts et usages

OLMo 2 32B est une version officielle auto-hébergeable de Allen AI dans la branche OLMo Général. Elle utilise Dense Transformer avec 32B et un contexte vérifié de 131,072 tokens.

OLMo 2 32B utilise Dense Transformer avec 32B. Le profil vérifié indique 64 couches, une largeur cachée de 8192 et 64 têtes d’attention lorsque ces valeurs sont publiées.

Checkpoints et quantifications certifiés

Seules les variantes exactes, rattachées à cette version et certifiées par leur source sont affichées.

Matériel recommandé

Utilisez uniquement les configurations d’exécution certifiées avec la précision exacte du checkpoint. Le classement matériel vérifie poids, cache KV, surcharge, architecture GPU et topologie.

Licence et considérations d’auto-hébergement

Les 32 B de poids résidents doivent tenir sur les GPU choisis. Le contexte et la concurrence ajoutent la mémoire du cache KV.

OLMo 2 32B est publié sous Licence Apache 2.0. Le lien officiel de licence et la date de vérification sont conservés.

Usage commercial autorisé. La licence officielle autorise l’usage commercial ; toutes ses obligations restent applicables.

Alternatives et variantes associées

OLMo 3.1 32B Instruct

Chronologie des versions

Questions fréquentes

Références officielles

• huggingface.co

Dernière vérification: 2026-08-26