Passer au contenu principal

InternLM · Général · InternLM3

InternLM3 8B : caractéristiques, besoins GPU, hébergement et déploiement

InternLM3 8B est une version Hérité de la branche Général de InternLM, certifiée depuis sa révision officielle.

Calculer la recommandation Personnaliser un modèle Transformation de modèles pour les entreprises Comparer ce modèle
Illustration technique de déploiement pour InternLM3 8B
Flux de déploiement de référence ; les faits d’architecture exacts sont indiqués séparément.
Paramètres totaux8,0B
Paramètres actifsModèle dense
Fenêtre de contexte131 072 tokens
Statut de la versionHérité · Hérité
Architecture du modèleDense Transformer
ModalitésTexte
LicenceLicence Apache 2.0
État de déploiementDéployable avec une configuration certifiée
État commercialUsage commercial autorisé
Date de sortie2025-01-13

Architecture, points forts et usages

InternLM3 8B est une version officielle auto-hébergeable de Shanghai AI Laboratory dans la branche InternLM Général. Elle utilise Dense Transformer avec 8B et un contexte vérifié de 131,072 tokens.

InternLM3 8B utilise Dense Transformer avec 8B. Le profil vérifié indique 64 couches, une largeur cachée de 8192 et 64 têtes d’attention lorsque ces valeurs sont publiées.

Architecture Dense Transformer vérifiée
Contexte certifié de 131,072 tokens
Provenance officielle du checkpoint
Inférence LLM privée
Flux agentiques
Traitement de documents longs

Checkpoints et quantifications certifiés

Seules les variantes exactes, rattachées à cette version et certifiées par leur source sont affichées.

internlm3-8b-instruct

internlm/internlm3-8b-instruct

Officiel · BF16 · safetensors

Environnement d’exécution certifié: vLLM Transformers

Précision / quantificationFormatBitsConfiance éditeurÉtat de déploiement
BF16safetensors16OfficielEnvironnement d’exécution certifié

Matériel recommandé

Utilisez uniquement les configurations d’exécution certifiées avec la précision exacte du checkpoint. Le classement matériel vérifie poids, cache KV, surcharge, architecture GPU et topologie.

Mémoire estimée des poids15.35 GB
Cache KV2 GB
Surcharge de l’environnement d’exécution7.84 GB
Total avec marge de sécurité31.24 GB

Meilleur rapport qualité-prix

1× NVIDIA H200 SXM 141GB

141 GB VRAM totale · nvswitch

109.76 GB de marge · Capacité limitée

USD 2 345 / mois

Option viable la moins chère

2× NVIDIA L4 24GB

48 GB VRAM totale · pcie

16.76 GB de marge · Disponible

USD 500 / mois

Performances maximales

1× NVIDIA H200 SXM 141GB

141 GB VRAM totale · nvswitch

109.76 GB de marge · Capacité limitée

USD 2 345 / mois

Licence et considérations d’auto-hébergement

Les 8 B de poids résidents doivent tenir sur les GPU choisis. Le contexte et la concurrence ajoutent la mémoire du cache KV.

InternLM3 8B est publié sous Licence Apache 2.0. Le lien officiel de licence et la date de vérification sont conservés.

Usage commercial autorisé. La licence officielle autorise l’usage commercial ; toutes ses obligations restent applicables.

Chronologie des versions

internlm/internlm/internlm3-8b

Détails de la source

Source officielle

Révision de la source: 58930c5e0f2b0b2653149106bcb51a314d82a23711fe4dabdfd5d90f3cd33cb6

Questions fréquentes

Quelle VRAM faut-il pour InternLM3 8B ?

L’estimation dépend de la précision, du contexte et de la concurrence et utilise les données certifiées.

Quels environnements d’exécution prennent en charge InternLM3 8B ?

Des preuves officielles sur les environnements d’exécution sont certifiées pour vllm, transformers.

InternLM3 8B peut-il être utilisé commercialement ?

La classification enregistrée est Usage commercial autorisé. Consultez les conditions officielles de Licence Apache 2.0.

Références officielles

Dernière vérification: 2026-08-26