DeepSeek / DeepSeek V4 Pro 0813

DeepSeek V4 Pro 0813-এর জন্য মিশ্র FP4 / FP8

প্রকাশিত প্রোফাইলটি নির্দেশনামূলক; নির্বাচিত মডেল ও হার্ডওয়্যারের জন্য ইঞ্জিনিয়ারিংয়ে পরিমাপ সম্পন্ন হয়।

আগে → পরে

ভিত্তি সংস্করণযাচাইকৃত চেকপয়েন্ট
1650.498B

কোয়ান্টাইজেশনমিশ্র FP4 / FP8
মান ধরে রাখার লক্ষ্য

প্রোডাকশন পরিবেশে ব্যবহারের আর্টিফ্যাক্টআর্টিফ্যাক্ট
উৎসধারা ও মানদণ্ড পরীক্ষার প্রতিবেদন

ওয়েট ও KV ক্যাশ

ইঞ্জিনিয়ারিংয়ে পরিমাপ না হওয়া পর্যন্ত অনুমিত

আনুমানিক VRAM

পরিমাপ করা

রানটাইম প্যাকেজ তৈরি

transformers

বর্তমানে অর্ডার করা যাচ্ছে না