ERNIE-4.5-21B-A3B-Thinking
baidu/ERNIE-4.5-21B-A3B-Thinking
公式 · BF16 · safetensors
検証済み実行環境: Fastdeploy vLLM Transformers
| 精度 / 量子化 | 形式 | ビット | 公開元の信頼区分 | デプロイ状態 |
|---|---|---|---|---|
| BF16 | safetensors | 16 | 公式 | 検証済み実行環境 |
ERNIE · 推論 · ERNIE 4.5 Thinking
ERNIE 4.5 21B-A3B Thinking：仕様、GPU 要件、ホスティング、デプロイ
ERNIE 4.5 21B-A3B Thinking は ERNIE の推論系列に属する現行バージョンで、公式リビジョンから検証されています。
総パラメータ21.0B
有効パラメータ3.0B
コンテキスト長131,072 tokens
バージョン状態現行 · 現行
アーキテクチャErnie4_5_MoeForCausalLM
モダリティテキスト
ライセンスapache-2.0
デプロイ状態認証済み構成でデプロイ可能
商用状態商用利用可
公開日2025-09-08
アーキテクチャ、強み、用途
ERNIE 4.5 21B-A3B Thinking は Baidu の公式セルフホスト版で、ERNIE 推論系列、Ernie4_5_MoeForCausalLM、21B / 3B MoE、検証済み 131,072 トークンコンテキストを備えます。
ERNIE 4.5 21B-A3B Thinking は Ernie4_5_MoeForCausalLM と 21B / 3B MoE を使用します。公開されている場合は 28 層、隠れ幅 2560、注意ヘッド 20 を記録します。
検証済み Ernie4_5_MoeForCausalLM
131,072 トークンの検証済みコンテキスト
公式チェックポイント来歴
非公開 LLM 推論
エージェント処理
長文書処理
検証済みチェックポイントと量子化
このバージョンに紐づく、情報源で検証済みの正確なバリアントだけを表示します。
推奨ハードウェア
正確なチェックポイント精度に対応する検証済みランタイム構成だけを使用します。重み、KV キャッシュ、負荷、GPU アーキテクチャ、トポロジを確認します。
推定重みメモリ40.29 GB
KV キャッシュ0.44 GB
ランタイム負荷12.05 GB
安全余裕込み合計65.44 GB
推奨コストパフォーマンス
1× NVIDIA H200 SXM 141GB
141 GB 合計 VRAM · nvswitch
75.56 GB 余裕 · 容量限定
USD 2,345 / 月最安の適合構成
3× NVIDIA L4 24GB
72 GB 合計 VRAM · pcie
6.56 GB 余裕 · 利用可能
USD 750 / 月最高性能
1× NVIDIA H200 SXM 141GB
141 GB 合計 VRAM · nvswitch
75.56 GB 余裕 · 容量限定
USD 2,345 / 月ライセンスとセルフホスティング
21 B の常駐重み全体が選択 GPU に収まる必要があります。コンテキストと同時実行で KV キャッシュが増えます。
ERNIE 4.5 21B-A3B Thinking は apache-2.0 で公開され、公式 URL と検証日を保持します。
商用利用可. 公式ライセンスは商用利用を許可していますが、すべての義務は引き続き適用されます。
リリース履歴
baidu/ernie/ernie-4-5-21b-a3b-thinking
よくある質問
ERNIE 4.5 21B-A3B Thinking にはどの程度の VRAM が必要ですか？
精度、コンテキスト、同時実行数に依存し、認証済みデータで計算します。
ERNIE 4.5 21B-A3B Thinking に対応するランタイムは？
fastdeploy, vllm, transformers の公式証拠が認証されています。
ERNIE 4.5 21B-A3B Thinking は商用利用できますか？
保存区分は商用利用可です。公式 apache-2.0 条件を確認してください。
公式情報源
最終検証日: 2026-09-03