चैट कम्प्लीशन
यह OpenAI के अनुरूप एंडपॉइंट JSON POST अनुरोध लेकर चैट कम्प्लीशन लौटाता है। हर संदेश का content टेक्स्ट होना चाहिए; स्वीकार किए जाने वाले role हैं system, user और assistant।
दिया गया मॉडल आइडेंटिफ़ायर और संदेश वर्तमान में कॉन्फ़िगर किए गए डिफ़ॉल्ट AI gateway को भेजे जाते हैं। इससे किसी एक सीधे प्रदाता रूट या तय SDK की गारंटी नहीं मिलती।
POST https://fusionpointai.com/api/v1/chat/completions · ai:inference
Unlimited API कैटलॉग में दिया गया प्रदाता मॉडल आइडेंटिफ़ायर ज्यों का त्यों इस्तेमाल करें। आइडेंटिफ़ायर और उपलब्धता कैटलॉग के अनुसार बदल सकते हैं। उदाहरण में दिया गया आइडेंटिफ़ायर placeholder है, इस्तेमाल करने योग्य मॉडल ID नहीं।
अनुरोध बॉडी
यह केवल उदाहरण है। कोणीय कोष्ठकों में दिए गए मान अपनी जानकारी से बदलें। रेफ़रेंस मॉडल, प्लान और इनवॉइस के संख्यात्मक ID placeholder हैं, मौजूदा रिकॉर्ड नहीं।
{
"model": "<MODEL_ID_FROM_UNLIMITED_CATALOGUE>",
"messages": [
{
"role": "user",
"content": "<YOUR_PROMPT>"
}
],
"temperature": 0.2,
"max_tokens": 512
}
जवाब और त्रुटियाँ
सफल जवाब में id, object, created, model और प्रदाता से मिले choices तथा usage फ़ील्ड होते हैं। गलत अनुरोध बॉडी पर HTTP 400 के साथ error.message, error.type, error.code और फ़ील्ड की जानकारी मिलती है। प्रदाता विफल होने पर provider_error के साथ HTTP 500 आता है। ऑथेंटिकेशन, स्कोप और अनुरोध सीमा से जुड़ी त्रुटियाँ भी हो सकती हैं।
आम त्रुटियाँ
400 invalid_request_error ज़रूरी फ़ील्ड नहीं है या मान स्वीकृत फ़ॉर्मैट/सीमा से बाहर है।
401 Bearer कुंजी मौजूद नहीं, अमान्य, रद्द या प्रतिबंधित है।
403 कुंजी में ai:inference नहीं है या ट्रेनिंग रेफ़रेंस कुंजी किसी दूसरे मॉडल के लिए इस्तेमाल हो रही है।
429 अनुरोध सीमा पूरी हो गई है; फिर प्रयास करने से पहले प्रतीक्षा करें।
500 provider_error इन्फ़रेंस प्रदाता ने कम्प्लीशन नहीं लौटाया।
व्यावसायिक पहुँच, मॉडल ट्रेनिंग नहीं
सब्सक्रिप्शन से प्रदाता के प्लान में शामिल मॉडल इस्तेमाल किए जा सकते हैं। इन्फ़रेंस अनुरोध भेजने से मॉडल ट्रेन नहीं होता और न ही उसके वेट्स ट्रांसफ़र होते हैं। मासिक और वार्षिक रकम सक्रिय व्यावसायिक रिकॉर्ड के अनुसार हैं।
API और SDK इंटीग्रेशन
कस्टमर API कुंजी और उपलब्ध मॉडल आइडेंटिफ़ायर के साथ FusionPointAI के दस्तावेज़ित इन्फ़रेंस एंडपॉइंट का इस्तेमाल करें। SDK अनुरोध तैयार करके भेजता है; ज़रूरी नहीं कि प्रदाता का मॉडल वहीं चलता हो। लागू अनुरोध फ़ॉर्मैट और ऑथेंटिकेशन के लिए API संदर्भ देखें।
तकनीकी सीमाएँ लागू रहती हैं
व्यावसायिक रूप से असीमित पहुँच से कॉन्टेक्स्ट विंडो या आउटपुट की सीमाएँ, मॉडल-विशिष्ट इनपुट और आउटपुट प्रकार, सेवा के सुरक्षा नियंत्रण या प्रदाता की लागू नीतियाँ समाप्त नहीं होतीं। वर्कलोड डिज़ाइन करने से पहले चुने गए मॉडल और सेवा की शर्तें जाँचें।
उपलब्धता और पुराने ग्राहकों की पहुँच
केवल मौजूदा ग्राहकों वाले प्लान नए ग्राहकों के लिए उपलब्ध नहीं होते। कोई मॉडल इन्फ़रेंस के लिए उपलब्ध हो सकता है, पर ट्रेनिंग रेफ़रेंस के रूप में मंज़ूर न हो। अस्थायी ऑपरेशनल पाबंदियों से दूसरे प्रदाता मॉडल का अधिकार नहीं मिलता।
सुरक्षा और ऑपरेशनल नियंत्रण
सीमित अधिकार वाली API कुंजियाँ इस्तेमाल करें, सीक्रेट सर्वर पर रखें और अकाउंट, कुंजी बदलने तथा पहुँच नियंत्रण के दस्तावेज़ित तरीकों का पालन करें। प्रोडक्शन में इस्तेमाल से पहले वर्कलोड के डेटा प्रबंधन या सहायता संबंधी ख़ास ज़रूरतें तय करें।
सब्सक्रिप्शन से इंटीग्रेशन तक
योग्य प्लान की तुलना करें, लागू शर्तें पढ़ें, मौजूदा अकाउंट प्रक्रिया से सब्सक्रिप्शन लें, API क्रेडेंशियल प्राप्त करें और API दस्तावेज़ के अनुसार अनुरोध जाँचें।
एंटरप्राइज़ उपयोग
सपोर्टेड मॉडल दस्तावेज़ विश्लेषण, कई भाषाओं में सहायता, सॉफ़्टवेयर वर्कफ़्लो और व्यवस्थित जानकारी निकालने में मदद कर सकते हैं। मॉडल की क्षमताओं के दस्तावेज़ देखकर चुनें; यह न मानें कि हर मॉडल एक जैसे इनपुट स्वीकार करता है।