Phi-4-mini-instruct
आधिकारिक · BF16 · safetensors
सत्यापित निष्पादन परिवेश: Transformers
| प्रिसीजन / क्वांटाइज़ेशन | प्रारूप | बिट | प्रकाशक भरोसा | परिनियोजन स्थिति |
|---|---|---|---|---|
| BF16 | safetensors | 16 | आधिकारिक | सत्यापित निष्पादन परिवेश |
Phi · सामान्य · Phi-4
Phi-4 Mini: विनिर्देश, GPU आवश्यकताएँ, होस्टिंग और परिनियोजन
Phi-4 Mini, Phi परिवार की सामान्य शाखा में वर्तमान संस्करण है और आधिकारिक revision से प्रमाणित है।
कुल पैरामीटर३.८B
सक्रिय पैरामीटरघना मॉडल
संदर्भ सीमा१,३१,०७२ tokens
संस्करण स्थितिवर्तमान · वर्तमान
वास्तुकलाDense Transformer
मोडैलिटीपाठ
लाइसेंसmit
परिनियोजन स्थितिप्रमाणित कॉन्फ़िगरेशन के साथ तैनाती के लिए तैयार
वाणिज्यिक स्थितिव्यावसायिक उपयोग अनुमत
जारी होने की तारीख2025-02-19
आर्किटेक्चर, खूबियाँ और उपयोग
Phi-4 Mini, Microsoft का आधिकारिक स्व-होस्ट योग्य संस्करण है। यह Phi सामान्य शाखा में Dense Transformer, 3.8B और 131,072 टोकन सत्यापित संदर्भ उपयोग करता है।
Phi-4 Mini Dense Transformer और 3.8B उपयोग करता है। प्रकाशित होने पर 64 परतें, hidden width 8192 और 64 attention heads दर्ज हैं।
सत्यापित Dense Transformer आर्किटेक्चर
131,072 टोकन प्रमाणित संदर्भ
आधिकारिक चेकपॉइंट स्रोत
निजी LLM इन्फ़रेंस
एजेंट वर्कफ़्लो
लंबे दस्तावेज़ संसाधन
प्रमाणित चेकपॉइंट और क्वांटाइज़ेशन
केवल इस संस्करण से जुड़े सटीक और स्रोत-प्रमाणित वैरिएंट दिखाए जाते हैं।
अनुशंसित हार्डवेयर
सटीक चेकपॉइंट प्रिसीजन के साथ केवल प्रमाणित रनटाइम कॉन्फ़िगरेशन उपयोग करें। रैंकिंग वेट, केवी कैश, ओवरहेड, GPU आर्किटेक्चर और टोपोलॉजी जाँचती है।
अनुमानित वेट मेमोरी7.29 GB
केवी कैश2 GB
रनटाइम ओवरहेड6.39 GB
सुरक्षा मार्जिन सहित कुल19.45 GB
अनुशंसित सर्वोत्तम मूल्य
1× NVIDIA A100 SXM 80GB
80 GB कुल VRAM · nvlink
60.55 GB मार्जिन · उपलब्ध
USD ९१५ / माहसबसे कम लागत वाला उपयुक्त विकल्प
1× NVIDIA L4 24GB
24 GB कुल VRAM · pcie
4.55 GB मार्जिन · उपलब्ध
USD २५० / माहसर्वोच्च प्रदर्शन
1× NVIDIA H200 SXM 141GB
141 GB कुल VRAM · nvswitch
121.55 GB मार्जिन · सीमित क्षमता
USD २,३४५ / माहलाइसेंस और स्व-होस्टिंग विचार
पूरे 3.8 B निवासी वेट चयनित GPUs पर समाने चाहिए। संदर्भ और concurrency केवी कैश बढ़ाते हैं।
Phi-4 Mini mit के अंतर्गत जारी है। आधिकारिक URL और सत्यापन तारीख सुरक्षित हैं।
व्यावसायिक उपयोग अनुमत. आधिकारिक लाइसेंस व्यावसायिक उपयोग की अनुमति देता है; उसकी सभी शर्तें लागू रहती हैं।
रिलीज़ क्रम
microsoft/phi/phi-4-mini
स्रोत का विवरण
स्रोत संशोधन: f79166923a03646efde5aa2c4b86837297c6ab419752f980c51f2e0325778f1c
सामान्य प्रश्न
Phi-4 Mini को कितनी VRAM चाहिए?
अनुमान चेकपॉइंट प्रिसीजन, संदर्भ और concurrency पर निर्भर है और प्रमाणित डेटा उपयोग करता है।
कौन से रनटाइम Phi-4 Mini को समर्थन देते हैं?
transformers के लिए आधिकारिक प्रमाण सत्यापित हैं।
क्या Phi-4 Mini का वाणिज्यिक उपयोग हो सकता है?
संग्रहीत वर्गीकरण व्यावसायिक उपयोग अनुमत है। आधिकारिक mit शर्तें देखें।
आधिकारिक स्रोत
अंतिम सत्यापन: 2026-09-03