ইঞ্জিনিয়ারিংয়ের জন্য প্রস্তুত

Devstral Small 2 24B-এর FP8 পদ্ধতিতে তৈরি উৎপাদন প্যাকেজ

Mistral / Devstral Small 2 24B · fp8 · ইঞ্জিনিয়ারিংয়ের অবস্থা: ইঞ্জিনিয়ারিংয়ের জন্য প্রস্তুত

বিস্তারিত

রূপান্তরের উৎসধারা

ভিত্তি সংস্করণDevstral Small 2 24B

মডেল ইঞ্জিনিয়ারিংFP8 কোয়ান্টাইজেশন, রানটাইম প্যাকেজ তৈরি, মূল্যায়ন ও benchmark

সরবরাহের বিকল্পপ্যাকেজ ডাউনলোড / FusionPointAI-তে হোস্টিং / ডাউনলোড + হোস্টিং

স্বচ্ছ মূল্য

দাম আপনার নির্বাচিত প্রদর্শন মুদ্রায় দেখানো হয়। এই কনফিগারেশনের মূল্যপ্রস্তাব USD-তে দেওয়া হয়েছে; গৃহীত কোটেশনে মুদ্রা, দাম ও শর্ত অপরিবর্তিত থাকবে।

ভিত্তি মডেল ইঞ্জিনিয়ারিংUSD ১৭,৪০০
FP8 কোয়ান্টাইজেশনUSD ৫,৯০০
রানটাইম প্যাকেজ তৈরিUSD ২,৮০০
মূল্যায়ন ও benchmarkUSD ৩,৬০০
প্যাকেজ ডাউনলোডUSD ১,৫০০
পরিচালিত স্থাপন কনফিগারUSD ৩,২০০
এককালীন ইঞ্জিনিয়ারিংUSD ৩৪,৪০০

মাসিক হোস্টিং

2 x NVIDIA L4 24GBUSD ৫০০
মাসিক হোস্টিংUSD ৫০০

ইঞ্জিনিয়ারিংয়ের পরিসর ও প্রমাণ

নির্দিষ্ট পরিসরের ইঞ্জিনিয়ারিং হিসেবে অর্ডারযোগ্য

আপনি এই ইঞ্জিনিয়ারিং কাজ কনফিগার করে অনুরোধ করতে পারেন। বাস্তবায়নের আগে বিদ্যমান পরিসর-পর্যালোচনা প্রক্রিয়ায় উৎস যাচাই, চূড়ান্ত ডিপ্লয়মেন্টের উপযোগিতা এবং গ্রহণযোগ্যতার মানদণ্ড নিশ্চিত করা হবে।

উৎস সংস্করণ

মডেল পরিবার: Mistral
ভিত্তি সংস্করণ: Devstral Small 2 24B
প্যাকেজের ধরন: কোয়ান্টাইজড

উৎস চেকপয়েন্টের নির্ভুলতা

ক্যাটালগে নির্ধারিত

নিবন্ধিত উৎস চেকপয়েন্টে FP8 উল্লেখ আছে। উৎস, রিভিশন ও যাচাইয়ের তারিখ নিচে দেওয়া হয়েছে; লক্ষ্য ফরম্যাট দেখে এটি অনুমান করা হয়নি।

লক্ষ্য নির্ভুলতা

ক্যাটালগে নির্ধারিত

প্যাকেজের স্পেসিফিকেশনে FP8 লক্ষ্য ফরম্যাট হিসেবে নির্ধারিত। এটি ইঞ্জিনিয়ারিং স্পেসিফিকেশন, সম্পন্ন আর্টিফ্যাক্ট বা পরিমাপ করা মানের প্রমাণ নয়।

সরবরাহের পরিসর

সম্মত ইঞ্জিনিয়ারিং কাজের সময় নির্ধারিত হবে

এই ক্রয়ে নির্দিষ্ট রিলিজের তালিকাভুক্ত ইঞ্জিনিয়ারিং ও মূল্যায়নের কাজ নেওয়া হয়। নির্বাচিত সরবরাহের ধরন ও গৃহীত দরপত্রে হস্তান্তরের বিবরণ নির্ধারিত হয়; আগে থেকেই সম্পন্ন আর্টিফ্যাক্ট সঙ্গে সঙ্গে ডাউনলোড করার সুযোগ এটি নয়।

যাচাইকৃত রূপান্তরিত মডেল আর্টিফ্যাক্ট
Tokenizer ও মডেল কনফিগারেশন
নির্বাচিত সরবরাহ-পদ্ধতির runtime কনফিগারেশন
Checksum ও version manifest
Benchmark প্রতিবেদন

ডাউনলোড: ইঞ্জিনিয়ারিং ও যাচাই শেষে উৎস লাইসেন্স সাপেক্ষে সম্মত মডেল আর্টিফ্যাক্ট, টোকেনাইজার/কনফিগারেশন, সংস্করণ ম্যানিফেস্ট এবং চেকসাম সরবরাহ।

হোস্ট: নির্বাচিত হোস্টিং কনফিগারেশনে সম্মত ফলাফল ডিপ্লয় করা। GPU বরাদ্দ ও পুনরাবৃত্ত চার্জ এককালীন ইঞ্জিনিয়ারিং খরচ থেকে আলাদা করে দরপত্রে দেওয়া হয়।

ডাউনলোড + হোস্ট: সম্মত আর্টিফ্যাক্ট হস্তান্তর ও হোস্ট করা ডিপ্লয়মেন্ট, যার প্রতিটির জন্য নিজস্ব লাইসেন্স ও হোস্টিং শর্ত প্রযোজ্য।

মূল্যায়ন: কনফিগার করা মূল্যায়নের কাজ ও তার প্রতিবেদন। পরিমাপের আগে কর্মক্ষমতার কোনো ফল বা মান অক্ষুণ্ণ থাকার হার নিশ্চিত করা হয় না।

লক্ষ্য GPU

ক্যাটালগে নির্ধারিত

কনফিগারেশনটি 2 × NVIDIA L4 24GB লক্ষ্য করে। রেফারেন্স স্পেসিফিকেশন বা আনুমানিক উপযোগিতা ভাড়ার GPU মজুত সংরক্ষণ করে না; বরাদ্দের আগে মজুত ও ডিপ্লয়মেন্টের উপযোগিতা যাচাই করা হয়।

মেমরিতে ধারণক্ষমতা

সম্মত ইঞ্জিনিয়ারিং কাজের সময় নির্ধারিত হবে

এগুলো নির্বাচিত GPU সংখ্যা, কনটেক্সট ও ওয়ার্কলোডের জন্য সংরক্ষিত আকার-সংক্রান্ত অনুমান; পরিমাপ করা ডিপ্লয়মেন্ট ফল নয়। রানটাইমের অতিরিক্ত চাহিদা ও বাস্তব ওয়ার্কলোডের আচরণ যাচাই করা দরকার।

মডেলের ওয়েটের আনুমানিক আকার: 23.47 GB

KV ক্যাশের আনুমানিক আকার: 2 GB

প্রয়োজনীয় VRAM-এর অনুমান: 35.36 GB

উপলভ্য VRAM-এর অনুমান: 48 GB

বেঞ্চমার্কের প্রমাণ

সম্মত ইঞ্জিনিয়ারিং কাজের সময় নির্ধারিত হবে

এই প্যাকেজের জন্য সম্পূর্ণ পরিমাপ করা বেঞ্চমার্ক নথিভুক্ত নেই। সম্মত মূল্যায়নে নির্দিষ্ট ফল, হার্ডওয়্যার, রানটাইম ও সেটিংস ব্যবহার করে পরিমাপ নেওয়া হবে। অনুমানকে পরিমাপ করা ফল হিসেবে দেখানো হয় না।

সরবরাহের ধরন

ক্যাটালগে নির্ধারিত

ডাউনলোড + হোস্টিং

ইঞ্জিনিয়ারিংয়ের অবস্থা কী বোঝায়

ইঞ্জিনিয়ারিংয়ের জন্য প্রস্তুত: কনফিগার করা ইঞ্জিনিয়ারিং কর্মপ্রবাহ ও বাণিজ্যিক উপাদানের পরিসর নির্ধারণ করা যায়। এর মানে ফলস্বরূপ আর্টিফ্যাক্ট ইতিমধ্যে তৈরি বা বেঞ্চমার্ক করা হয়েছে, তা নয়।