اصلي منځپانګې ته ورټوپ کړئ

InternLM · عمومي · InternLM3

InternLM3 8B: ځانګړنې، د GPU اړتیاوې، کوربه‌توب او ځای‌پرځای کول

InternLM3 8B is a legacy General release in the InternLM family, certified from its immutable official source revision.

Technical deployment reference illustration for InternLM3 8B
Reference deployment flow; exact architecture facts are listed separately.
ټول پارامېټرونه۸٫۰B
فعال پارامېټرونهDense ماډل
د context کړکۍ۱۳۱٬۰۷۲ tokens
د نسخې وضعیتپخوانی · پخوانی
معماريDense Transformer
موداليټي‌ګانېمتن
جوازApache 2.0
د ځای‌پرځای کولو حالتله تصدیق شوي تنظیم سره ځای‌پرځای کېدای شي
سوداګریز وضعیتسوداګریزه کارونه اجازه لري
د خپرېدو نېټه2025-01-13

معماري، پیاوړتیاوې او کارونې

InternLM3 8B is an official self-hostable Shanghai AI Laboratory release in the InternLM General track. It uses Dense Transformer, carries 8B, supports a verified context window of 131,072 ټوکنونه, and exposes only source-certified checkpointونه and د اجرا چاپېریال combinations. Its release, license and deployment facts are tied to the official repository revision rather than inferred from the family name.

InternLM3 8B uses Dense Transformer with 8B. The stored architecture profile records 64 layers, hidden width 8192, 64 attention heads and a 131,072 ټوکن context ceiling where the official configuration publishes those fields.

Verified Dense Transformer architecture
131,072 ټوکن certified context
Official BF16, Unknown checkpoint coverage
Private LLM inference
Agentic workflows
Long-context document processing

تایید شوي checkpoint-ونه او quantization-ونه

یوازې د سرچینې له خوا تصدیق شوې کره بڼې چې له دې نسخې سره تړلې دي، ښودل کېږي.

internlm3-8b-instruct

internlm/internlm3-8b-instruct

رسمي · BF16 · safetensors

اجرا چاپېریال تایید شوی: vLLM Transformers

Precision / quantizationبڼهبټونهپر خپروونکي باورد ځای‌پرځای کولو حالت
BF16safetensors16رسمياجرا چاپېریال تایید شوی

سپارښتل شوی هارډوېیر

Use only the listed vllm, transformers د اجرا چاپېریال configuration with the exact checkpoint precision. The recommendation engine checks weight memory, KV cache, د اجرا چاپېریال overhead, safety اضافي ظرفیت, GPU architecture and topology before ranking rentable and reference hardware.

د وزنونو اټکلي حافظه15.35 GB
KV cache2 GB
د اجرا چاپېریال اضافي اړتیا7.84 GB
ټول له خوندیتوب حاشیې سره31.24 GB

د ارزښت له مخې غوره سپارښتنه

1× NVIDIA H200 SXM 141GB

141 GB ټول VRAM · nvswitch

109.76 GB اضافي ظرفیت · محدود ظرفیت

USD ۲٬۳۴۵ / میاشت

د عملي انتخابونو تر ټولو ټیټ لګښت

2× NVIDIA L4 24GB

48 GB ټول VRAM · pcie

16.76 GB اضافي ظرفیت · شته

USD ۵۰۰ / میاشت

تر ټولو لوړ فعالیت

1× NVIDIA H200 SXM 141GB

141 GB ټول VRAM · nvswitch

109.76 GB اضافي ظرفیت · محدود ظرفیت

USD ۲٬۳۴۵ / میاشت

د جواز او خپل کوربه‌توب ملاحظات

The full 8B resident weight set must fit across the selected GPUs. Context and concurrency add KV-cache memory; MoE active parameters do not replace resident-weight memory.

InternLM3 8B is published under Apache 2.0. The release-scoped official license link and verification date are retained with the catalogue record.

سوداګریزه کارونه اجازه لري. رسمي جواز سوداګریزه کارونه اجازه کوي؛ د جواز نور مکلفیتونه هم پر خپل ځای دي.

د نسخو مهالوېش

internlm/internlm/internlm3-8b

د سرچینې جزئیات

رسمي سرچینه

د سرچینې revision: 58930c5e0f2b0b2653149106bcb51a314d82a23711fe4dabdfd5d90f3cd33cb6

ډېرې پوښتل شوې پوښتنې

How much VRAM does InternLM3 8B require?

The exact estimate depends on checkpoint precision, context and concurrency; the page recommendation uses the certified memory engine and compatible د اجرا چاپېریال configurations.

Which د اجرا چاپېریالونه ملاتړ InternLM3 8B?

Certified upstream د اجرا چاپېریال evidence is available for vllm, transformers.

Can InternLM3 8B be used commercially?

The stored commercial classification is Commercial Use Allowed. Consult the official Apache 2.0 terms for the final obligations.

رسمي مراجع

وروستی تایید: 2026-08-26