granite-3.3-8b-instruct
ibm-granite/granite-3.3-8b-instruct
公式 · BF16 · safetensors
検証済み実行環境: Transformers
| 精度 / 量子化 | 形式 | ビット | 公開元の信頼区分 | デプロイ状態 |
|---|---|---|---|---|
| BF16 | safetensors | 16 | 公式 | 検証済み実行環境 |
IBM Granite · 汎用 · Granite 3.3
Granite 3.3 8B：仕様、GPU 要件、ホスティング、デプロイ
Granite 3.3 8B は IBM Granite の汎用系列に属する前版バージョンで、公式リビジョンから検証されています。
総パラメータ8.0B
有効パラメータ密なモデル
コンテキスト長131,072 tokens
バージョン状態前版 · 前版
アーキテクチャDense Transformer
モダリティテキスト
ライセンスApache 2.0 ライセンス
デプロイ状態認証済み構成でデプロイ可能
商用状態商用利用可
公開日2025-04-09
アーキテクチャ、強み、用途
Granite 3.3 8B は IBM の公式セルフホスト版で、IBM Granite 汎用系列、Dense Transformer、8B、検証済み 131,072 トークンコンテキストを備えます。
Granite 3.3 8B は Dense Transformer と 8B を使用します。公開されている場合は 64 層、隠れ幅 8192、注意ヘッド 64 を記録します。
検証済み Dense Transformer
131,072 トークンの検証済みコンテキスト
公式チェックポイント来歴
非公開 LLM 推論
エージェント処理
長文書処理
検証済みチェックポイントと量子化
このバージョンに紐づく、情報源で検証済みの正確なバリアントだけを表示します。
推奨ハードウェア
正確なチェックポイント精度に対応する検証済みランタイム構成だけを使用します。重み、KV キャッシュ、負荷、GPU アーキテクチャ、トポロジを確認します。
推定重みメモリ15.35 GB
KV キャッシュ2 GB
ランタイム負荷7.84 GB
安全余裕込み合計31.24 GB
推奨コストパフォーマンス
1× NVIDIA H200 SXM 141GB
141 GB 合計 VRAM · nvswitch
109.76 GB 余裕 · 容量限定
USD 2,345 / 月最安の適合構成
2× NVIDIA L4 24GB
48 GB 合計 VRAM · pcie
16.76 GB 余裕 · 利用可能
USD 500 / 月最高性能
1× NVIDIA H200 SXM 141GB
141 GB 合計 VRAM · nvswitch
109.76 GB 余裕 · 容量限定
USD 2,345 / 月ライセンスとセルフホスティング
8 B の常駐重み全体が選択 GPU に収まる必要があります。コンテキストと同時実行で KV キャッシュが増えます。
Granite 3.3 8B は Apache 2.0 ライセンスで公開され、公式 URL と検証日を保持します。
商用利用可. 公式ライセンスは商用利用を許可していますが、すべての義務は引き続き適用されます。
代替候補と同世代バリアント
Granite 4.2 30B, Granite 4.2 8B, Granite 4.2 3B
リリース履歴
ibm/granite/granite-3-3-8b
よくある質問
Granite 3.3 8B にはどの程度の VRAM が必要ですか？
精度、コンテキスト、同時実行数に依存し、認証済みデータで計算します。
Granite 3.3 8B に対応するランタイムは？
transformers の公式証拠が認証されています。
Granite 3.3 8B は商用利用できますか？
保存区分は商用利用可です。公式 Apache 2.0 ライセンス条件を確認してください。
公式情報源
最終検証日: 2026-08-26