Zum Hauptinhalt springen

InternLM · Allgemein · InternLM3

InternLM3 8B: Daten, GPU-Bedarf, Hosting und Bereitstellung

InternLM3 8B ist eine Veraltet-Version im Allgemein-Zweig der InternLM-Familie und anhand der offiziellen Revision zertifiziert.

Technische Bereitstellungsillustration für InternLM3 8B
Referenzablauf; exakte Architekturdaten stehen separat.
Gesamtparameter8,0B
Aktive ParameterDichtes Modell
Kontextfenster131.072 tokens
VersionsstatusVeraltet · Veraltet
ArchitekturDense Transformer
ModalitätenText
LizenzApache 2.0-Lizenz
BereitstellungsstatusMit zertifizierter Konfiguration bereitstellbar
Kommerzieller StatusKommerzielle Nutzung erlaubt
Veröffentlichungsdatum2025-01-13

Architektur, Stärken und Einsatzbereiche

InternLM3 8B ist eine offizielle selbst hostbare Shanghai AI Laboratory-Version im Zweig InternLM Allgemein. Sie nutzt Dense Transformer mit 8B und 131,072 geprüften Kontext-Token.

InternLM3 8B nutzt Dense Transformer mit 8B. Das Quellenprofil enthält 64 Schichten, Breite 8192 und 64 Attention-Köpfe, soweit veröffentlicht.

Geprüfte Dense Transformer-Architektur
131,072 zertifizierte Kontext-Token
Offizielle Checkpoint-Herkunft
Private LLM-Inferenz
Agentische Abläufe
Verarbeitung langer Dokumente

Zertifizierte Checkpoints und Quantisierungen

Angezeigt werden nur exakte, quellengeprüfte Varianten dieser Version.

internlm3-8b-instruct

internlm/internlm3-8b-instruct

Offiziell · BF16 · safetensors

Laufzeitumgebung verifiziert: vLLM Transformers

Präzision / QuantisierungFormatBitVertrauen in HerausgeberBereitstellungsstatus
BF16safetensors16OffiziellLaufzeitumgebung verifiziert

Empfohlene Hardware

Nutzen Sie nur zertifizierte Laufzeitkonfigurationen mit exakter Checkpoint-Präzision. Die Rangfolge prüft Gewichte, KV-Cache, Laufzeitaufwand, GPU-Architektur und Topologie.

Geschätzter Gewichtsspeicher15.35 GB
KV cache2 GB
Laufzeitaufwand7.84 GB
Gesamt mit Sicherheitsreserve31.24 GB

Empfohlenes Preis-Leistungs-Verhältnis

1× NVIDIA H200 SXM 141GB

141 GB VRAM gesamt · nvswitch

109.76 GB Reserve · Begrenzte Kapazität

USD 2.345 / Monat

Günstigste geeignete Option

2× NVIDIA L4 24GB

48 GB VRAM gesamt · pcie

16.76 GB Reserve · Verfügbar

USD 500 / Monat

Höchste Leistung

1× NVIDIA H200 SXM 141GB

141 GB VRAM gesamt · nvswitch

109.76 GB Reserve · Begrenzte Kapazität

USD 2.345 / Monat

Lizenz und Selbsthosting

Der vollständige Residenzsatz von 8 B muss auf die GPUs passen. Kontext und Parallelität erhöhen den KV-Cache.

InternLM3 8B wird unter Apache 2.0-Lizenz veröffentlicht. Offizielle URL und Prüfdatum werden gespeichert.

Kommerzielle Nutzung erlaubt. Die offizielle Lizenz erlaubt die kommerzielle Nutzung; sämtliche Auflagen gelten weiterhin.

Versionsverlauf

internlm/internlm/internlm3-8b

Quellendetails

Offizielle Quelle

Quellrevision: 58930c5e0f2b0b2653149106bcb51a314d82a23711fe4dabdfd5d90f3cd33cb6

Häufige Fragen

Wie viel VRAM benötigt InternLM3 8B?

Die Schätzung hängt von Präzision, Kontext und Parallelität ab und nutzt zertifizierte Daten.

Welche Laufzeitumgebungen unterstützen InternLM3 8B?

Geprüfte Upstream-Belege liegen für vllm, transformers vor.

Darf InternLM3 8B kommerziell genutzt werden?

Die gespeicherte Einstufung ist Kommerzielle Nutzung erlaubt. Maßgeblich sind die offiziellen Apache 2.0-Lizenz-Bedingungen.

Offizielle Quellen

Zuletzt geprüft: 2026-08-26