NVIDIA L40S vs H100
メーカー公表仕様と現在のレンタル在庫状況を比較できます。
違いは検証済みメモリ、帯域幅、電力、形状、精度、ソフトウェア、実在庫だけから導きます。
| 項目 | NVIDIA L40S 48GB | NVIDIA H100 SXM 80GB |
|---|---|---|
| メーカー | NVIDIA | NVIDIA |
| 正確な SKU | L40S | H100 SXM |
| アーキテクチャ | Ada Lovelace | Hopper |
| 世代 | Ada データセンター向け | Hopper |
| 区分 | データセンター | データセンター |
| ライフサイクル | 現行 | 現行 |
| VRAM | 48 GB | 80 GB |
| メモリ技術 | GDDR6 ECC | HBM3 |
| 帯域幅 | 864 GB/s | 3,350 GB/s |
| 電力 | 350 W | 700 W |
| インターフェース | PCIe Gen4 x16 | PCIe Gen5 ホストインターフェース |
| フォームファクタ | 2 スロット · PCIe · アクセラレータ | SXM · モジュール |
| インターコネクト | PCIe | NVLink |
| MIG / 分割 | 対応記載なし | 対応 |
| 数値精度形式 | FP32, TF32, BF16, FP16, FP8, INT8 | FP64, FP32, TF32, BF16, FP16, FP8, INT8 |
| ランタイム環境 | cuda, vllm, sglang, tensorrt-llm | cuda, vllm, sglang, tensorrt-llm |
| レンタル提供状況 | 利用可能 | 利用可能 |
| 月額レンタル価格 | USD 506 | USD 1,860 |
検証済みの違い
- NVIDIA H100 SXM 80GB は選択内で最大の VRAM です。
- NVIDIA H100 SXM 80GB は記録上最大のメモリ帯域幅です。
- NVIDIA L40S 48GB は公表電力が最小です。
アーキテクチャの違い
情報源で検証済みの事実: NVIDIA L40S 48GB: Ada Lovelace / Ada データセンター向け / 2 スロット · PCIe · アクセラレータ · NVIDIA H100 SXM 80GB: Hopper / Hopper / SXM · モジュール
VRAM とメモリ要件
情報源で検証済みの事実: NVIDIA L40S 48GB: 48 GB / GDDR6 ECC / 864 GB/s · NVIDIA H100 SXM 80GB: 80 GB / HBM3 / 3,350 GB/s
電力と冷却
情報源で検証済みの事実: NVIDIA L40S 48GB: 350 W / 2 スロット · PCIe · アクセラレータ · NVIDIA H100 SXM 80GB: 700 W / SXM · モジュール
AI 精度対応
情報源で検証済みの事実: NVIDIA L40S 48GB: FP32, TF32, BF16, FP16, FP8, INT8 · NVIDIA H100 SXM 80GB: FP64, FP32, TF32, BF16, FP16, FP8, INT8
インターフェースと相互接続
情報源で検証済みの事実: NVIDIA L40S 48GB: PCIe Gen4 x16 / PCIe · NVIDIA H100 SXM 80GB: PCIe Gen5 ホストインターフェース / NVLink
マルチ GPU の考慮事項
大規模なモデルでは、並列実行や複数ノードが必要になる場合があります。GPU 数を決める前に、モデルの常駐メモリ、実行環境、相互接続方式、構成と容量の余裕を確認してください。
モデルとワークロードの適合性
適合性は、モデルの版、精度、実行環境、使用可能なメモリと構成によって決まります。技術的に対応していても、貸出可能な在庫があるとは限りません。
レンタル状況
情報源で検証済みの事実: NVIDIA L40S 48GB: 利用可能 / USD 506 / 月 · NVIDIA H100 SXM 80GB: 利用可能 / USD 1,860 / 月
公式情報源
最終検証日: 2026-08-25