変換前 → 変換後
基盤リリース検証済みチェックポイント
320.000B
320.000B
蒸留教師 / 生徒
品質保持目標
品質保持目標
本番アーティファクトアーティファクト
モデルの系譜とベンチマーク結果
モデルの系譜とベンチマーク結果
GPUの選定
重みとKVキャッシュエンジニアリング計測までの推定値
推定 VRAM測定および認証済みの結果はプロジェクトとともに提供されます。
ランタイムパッケージtransformers, vllm, sglang, tokenspeed, ktransformers