LongCat Flash Lite Sparse-এর জন্য production distillation package

রূপান্তরের উৎসধারা

প্যাকেজের প্রোফাইল: কাজের গতি বাড়ানোর জন্য অপ্টিমাইজ করা ডিস্টিলেশন. ইঞ্জিনিয়ারিংয়ের সময় শিক্ষার্থী মডেলের স্থাপত্য বেছে নিয়ে মানদণ্ড পরীক্ষা করা হয়; আগে থেকে তৈরি শিক্ষার্থী মডেলের চেকপয়েন্ট দেওয়া হচ্ছে, এমন দাবি করা হচ্ছে না।

উৎস চেকপয়েন্টের নির্ভুলতা

ক্যাটালগে নির্ধারিত

নিবন্ধিত উৎস চেকপয়েন্টে BF16 উল্লেখ আছে। উৎস, রিভিশন ও যাচাইয়ের তারিখ নিচে দেওয়া হয়েছে; লক্ষ্য ফরম্যাট দেখে এটি অনুমান করা হয়নি।

লক্ষ্য নির্ভুলতা

সম্মত ইঞ্জিনিয়ারিং কাজের সময় নির্ধারিত হবে

সম্মত ডিস্টিলেশন কাজের সময় স্টুডেন্ট মডেলের আর্কিটেকচার, চেকপয়েন্ট ও নির্ভুলতা নির্ধারণ করা হবে। এই তালিকা কোনো বিদ্যমান স্টুডেন্ট চেকপয়েন্ট বোঝায় না।

সরবরাহের পরিসর

সম্মত ইঞ্জিনিয়ারিং কাজের সময় নির্ধারিত হবে

এই ক্রয়ে নির্দিষ্ট রিলিজের তালিকাভুক্ত ইঞ্জিনিয়ারিং ও মূল্যায়নের কাজ নেওয়া হয়। নির্বাচিত সরবরাহের ধরন ও গৃহীত দরপত্রে হস্তান্তরের বিবরণ নির্ধারিত হয়; আগে থেকেই সম্পন্ন আর্টিফ্যাক্ট সঙ্গে সঙ্গে ডাউনলোড করার সুযোগ এটি নয়।

• যাচাইকৃত রূপান্তরিত মডেল আর্টিফ্যাক্ট
• Tokenizer ও মডেল কনফিগারেশন
• নির্বাচিত সরবরাহ-পদ্ধতির runtime কনফিগারেশন
• Checksum ও version manifest
• Benchmark প্রতিবেদন

ডাউনলোড: ইঞ্জিনিয়ারিং ও যাচাই শেষে উৎস লাইসেন্স সাপেক্ষে সম্মত মডেল আর্টিফ্যাক্ট, টোকেনাইজার/কনফিগারেশন, সংস্করণ ম্যানিফেস্ট এবং চেকসাম সরবরাহ।

হোস্ট: নির্বাচিত হোস্টিং কনফিগারেশনে সম্মত ফলাফল ডিপ্লয় করা। GPU বরাদ্দ ও পুনরাবৃত্ত চার্জ এককালীন ইঞ্জিনিয়ারিং খরচ থেকে আলাদা করে দরপত্রে দেওয়া হয়।

ডাউনলোড + হোস্ট: সম্মত আর্টিফ্যাক্ট হস্তান্তর ও হোস্ট করা ডিপ্লয়মেন্ট, যার প্রতিটির জন্য নিজস্ব লাইসেন্স ও হোস্টিং শর্ত প্রযোজ্য।

মূল্যায়ন: কনফিগার করা মূল্যায়নের কাজ ও তার প্রতিবেদন। পরিমাপের আগে কর্মক্ষমতার কোনো ফল বা মান অক্ষুণ্ণ থাকার হার নিশ্চিত করা হয় না।

লক্ষ্য GPU

এই সরবরাহে প্রযোজ্য নয়

এই ডাউনলোড কনফিগারেশনে হোস্টিং GPU অন্তর্ভুক্ত নয়। ডিপ্লয়মেন্টের লক্ষ্য আলাদাভাবে নির্ধারণ করা যায়; সব ক্ষেত্রে GPU-র সঙ্গে সামঞ্জস্য আছে বলে ধরে নেওয়া যাবে না।

মেমরিতে ধারণক্ষমতা

এই সরবরাহে প্রযোজ্য নয়

এই ডাউনলোড প্যাকেজে হোস্ট করা ডিপ্লয়মেন্ট নির্দিষ্ট নেই। গ্রাহকের নির্বাচিত রানটাইম ও ওয়ার্কলোড অনুযায়ী মেমরির প্রয়োজন মূল্যায়ন করতে হবে।

বেঞ্চমার্কের প্রমাণ

সম্মত ইঞ্জিনিয়ারিং কাজের সময় নির্ধারিত হবে

এই প্যাকেজের জন্য সম্পূর্ণ পরিমাপ করা বেঞ্চমার্ক নথিভুক্ত নেই। সম্মত মূল্যায়নে নির্দিষ্ট ফল, হার্ডওয়্যার, রানটাইম ও সেটিংস ব্যবহার করে পরিমাপ নেওয়া হবে। অনুমানকে পরিমাপ করা ফল হিসেবে দেখানো হয় না।

সরবরাহের ধরন

ক্যাটালগে নির্ধারিত

প্যাকেজ ডাউনলোড

ইঞ্জিনিয়ারিংয়ের অবস্থা কী বোঝায়

নকশা যাচাইকৃত: যোগ্য উৎস রিলিজের জন্য রূপান্তরের পদ্ধতি নির্দিষ্ট করা হয়েছে। এতে সম্পন্ন স্টুডেন্ট বা রূপান্তরিত আর্টিফ্যাক্ট কিংবা পরিমাপ করা ফল বোঝায় না।

সরবরাহের সীমাবদ্ধতা

নির্ধারিত সরবরাহ: প্যাকেজ ডাউনলোড

সরবরাহের বিকল্প: প্যাকেজ ডাউনলোড / FusionPointAI-তে হোস্টিং / ডাউনলোড + হোস্টিং

উৎস ও লাইসেন্স

প্রকাশকের অফিসিয়াল উৎস

লাইসেন্সের শর্ত

বিস্তারিত: LongCat Flash Lite Sparse

সংশ্লিষ্ট মডেলের সঙ্গে তুলনা

রূপান্তরের উৎসধারা

উৎস সংখ্যাগত প্রিসিশন: BF16

লক্ষ্য সংখ্যাগত প্রিসিশন: সম্মত ইঞ্জিনিয়ারিং কাজের সময় নির্ধারিত হবে

রূপান্তরের কার্যক্রম: ডিস্টিলেশন, মূল্যায়ন ও benchmark

GPU সংযোগবিন্যাস

লক্ষ্য GPU: এই সরবরাহে প্রযোজ্য নয়

রানটাইম প্যাকেজ তৈরি: sglang