بازدان بۆ ناوەڕۆکی سەرەکی

IBM Granite · گشتی · Granite 3.3

Granite 3.3 8B: تایبەتمەندی، پێداویستییەکانی GPU، میوانداری و جێبەجێکردن

Granite 3.3 8B is a previous General release in the IBM Granite family, certified from its immutable official source revision.

Technical deployment reference illustration for Granite 3.3 8B
Reference deployment flow; exact architecture facts are listed separately.
کۆی پارامەتەرەکان٨٫٠B
پارامەتەرە چالاکەکانمۆدێلی چڕ
پەنجەرەی کۆنتێکست١٣١٬٠٧٢ tokens
دۆخی بڵاوکردنەوەپێشوو · پێشوو
تەلارسازیDense Transformer
شێوازەکاندەق
مۆڵەتApache 2.0
دۆخی جێبەجێکردنبە ڕێکخستنی پشتڕاستکراو جێبەجێ دەکرێت
دۆخی بازرگانیبەکارهێنانی بازرگانی ڕێگەپێدراوە
بەرواری بڵاوکردنەوە2025-04-09

تەلارسازی، بەهێزییەکان و بەکارهێنان

Granite 3.3 8B is an official self-hostable IBM release in the IBM Granite General track. It uses Dense Transformer, carries 8B, supports a verified context window of 131,072 تۆکنەکان, and exposes only source-certified خاڵەکانی وەشان and ژینگەی جێبەجێکردن combinations. Its release, license and deployment facts are tied to the official repository revision rather than inferred from the family name.

Granite 3.3 8B uses Dense Transformer with 8B. The stored architecture profile records 64 layers, hidden width 8192, 64 attention heads and a 131,072 تۆکن context ceiling where the official configuration publishes those fields.

Verified Dense Transformer architecture
131,072 تۆکن certified context
Official BF16 خاڵی وەشان coverage
Private LLM inference
Agentic workflows
Long-context document processing

خاڵەکانی پشکنین و کوانتایزکردنی پشتڕاستکراو

تەنها ئەو جۆرە وردانە پیشان دەدرێن کە سەرچاوە پشتڕاستی کردوونەوە و بەو وەشانەوە بەستراونەتەوە.

granite-3.3-8b-instruct

ibm-granite/granite-3.3-8b-instruct

فەرمی · BF16 · safetensors

ژینگەی کارپێکردن پشتڕاستکراوەتەوە: Transformers

وردی / کوانتایزکردنفۆرماتبیتمتمانە بە بڵاوکەرەوەدۆخی جێبەجێکردن
BF16safetensors16فەرمیژینگەی کارپێکردن پشتڕاستکراوەتەوە

سەختەواڵەی پێشنیارکراو

Use only the listed transformers ژینگەی جێبەجێکردن configuration with the exact خاڵی وەشان precision. The recommendation engine checks weight memory, کاشی KV, ژینگەی جێبەجێکردن overhead, safety توانای زیادەی بەردەست, GPU architecture and topology before ranking rentable and reference hardware.

بیرگەی خەمڵێنراوی کێش15.35 GB
کاشی KV2 GB
پێداویستییە زیادەکانی ژینگەی کارپێکردن7.84 GB
کۆی گشتی لەگەڵ پاشەکەوتی ئاسایش31.24 GB

باشترین بەهای پێشنیارکراو

1× NVIDIA H200 SXM 141GB

141 GB کۆی VRAM · nvswitch

109.76 GB بۆشایی پاشەکەوت · توانای سنووردار

USD ٢٬٣٤٥ / مانگ

هەرزانترین هەڵبژاردەی کارا

2× NVIDIA L4 24GB

48 GB کۆی VRAM · pcie

16.76 GB بۆشایی پاشەکەوت · بەردەستە

USD ٥٠٠ / مانگ

بەرزترین کارایی

1× NVIDIA H200 SXM 141GB

141 GB کۆی VRAM · nvswitch

109.76 GB بۆشایی پاشەکەوت · توانای سنووردار

USD ٢٬٣٤٥ / مانگ

مۆڵەت و بڕیارەکانی میوانداری لەسەر خۆت

The full 8B resident weight set must fit across the selected GPUs. Context and concurrency add KV-cache memory; MoE active parameters do not replace resident-weight memory.

Granite 3.3 8B is published under Apache 2.0. The release-scoped official license link and verification date are retained with the catalogue record.

بەکارهێنانی بازرگانی ڕێگەپێدراوە. مۆڵەتی فەرمی بەکارهێنانی بازرگانی ڕێگەپێدەدات؛ پابەندییەکانی هێشتا جێبەجێ دەبن.

جێگرەوەکان و جۆرە هاوتەمەنەکان

Granite 4.2 30B, Granite 4.2 8B, Granite 4.2 3B

ڕێڕەوی کاتیی وەشان

ibm/granite/granite-3-3-8b

وردەکاریی سەرچاوە

سەرچاوەی فەرمی

وەشانی سەرچاوە: 180c386c903c1543d8c3c4f94e27491c4b6cb66fbece18abcbd198d01e320468

پرسیارە باوەکان

How much VRAM does Granite 3.3 8B require?

The exact estimate depends on خاڵی وەشان precision, context and concurrency; the page recommendation uses the certified memory engine and compatible ژینگەی جێبەجێکردن configurations.

Which ژینگەکانی جێبەجێکردن پشتگیری Granite 3.3 8B?

Certified upstream ژینگەی جێبەجێکردن evidence is available for transformers.

Can Granite 3.3 8B be used commercially?

The stored commercial classification is Commercial Use Allowed. Consult the official Apache 2.0 terms for the final obligations.

سەرچاوە فەرمییەکان

دوا جار پشتڕاستکراوەتەوە: 2026-08-26