हर भाषा में कमांड और कोड अंग्रेज़ी में ही रहेंगे। बड़े अक्षरों वाले प्लेसहोल्डर को अपने खाते और भुगतान किए गए कार्य के मानों से बदलें; साझा नोटबुक या लॉग में असली कुंजियाँ न डालें।
मॉडल की अनुकूलता जाँचें
- संदर्भ तक पहुँच सेवा-प्रदाता की योजना और उपलब्ध शिक्षक
- विद्यार्थी संरचना और स्थिर भार
- विधि SFT या संगत अडैप्टर ट्रेनिंग
- निष्पादन परिवेश परिशुद्धता, मेमोरी और निर्भरताएँ
संदर्भ तक पहुँच: सेवा-प्रदाता की योजना और उपलब्ध शिक्षक. विद्यार्थी: संरचना और स्थिर भार. विधि: SFT या संगत अडैप्टर ट्रेनिंग. निष्पादन परिवेश: परिशुद्धता, मेमोरी और निर्भरताएँ
अपनी सेवा-प्रदाता योजना में से चुनें
सक्रिय सूची के संदर्भ पहचानकर्ता और कार्य तक पहुँच का विवरण इस्तेमाल करें। सत्र में उसी भुगतान किए गए सेवा-प्रदाता और स्रोत उत्पाद का वैकल्पिक reference_model_id दिया जा सकता है। खरीदा गया विद्यार्थी मॉडल और चालान जस के तस रहते हैं। तैयारी में आँकड़े बन जाने या प्रयास शुरू होने के बाद उस सत्र में संदर्भ नहीं बदला जा सकता; शिक्षक के आँकड़ों को चुपचाप न मिलाएँ।
- संदर्भ उपलब्ध रहे और खरीदी गई विधि तथा विद्यार्थी मॉडल के अनुकूल हो।
- केवल मौजूदा ग्राहकों पर लागू पाबंदियाँ जारी रहती हैं।
- दिखाया गया मॉडल नाम उसका API पहचानकर्ता होना ज़रूरी नहीं।
import os
from fusionpointai_training import TrainingClient
client = TrainingClient(api_key=os.environ["FUSIONPOINTAI_API_KEY"])
# Set this to a reference ID included in your paid provider plan.
reference_id = int(os.environ["FUSIONPOINTAI_REFERENCE_MODEL_ID"])
session = client.open_session(
os.environ["FUSIONPOINTAI_JOB_UUID"],
runtime="customer_datacenter",
reference_model_id=reference_id,
)
# Change the reference only BEFORE preparation or generation attempts.
print(session["reference_model_id"])
पिन किया स्थानीय विद्यार्थी मॉडल लोड करें
TrainingProject पंजीकृत Transformers causal-language-model adapter से स्थानीय मॉडल पथ स्वीकार करता है। मॉडल फ़ाइलें remote code बंद रखकर लोड होती हैं। प्रशिक्षण से पहले चुनी विधि के अनुसार मॉडल संरचना, tokenizer, context length, precision और डिवाइस की उपलब्ध memory जाँची जाती है। Repository ID का pinned revision project root के भीतर होना चाहिए।
- SFT योग्य model parameters अपडेट करता है; LoRA और QLoRA adapter प्रशिक्षित करते हैं।
- स्थानीय weights के साथ संगत tokenizer और model configuration चाहिए।
- केवल inference के लिए API मॉडल, ट्रेन करने योग्य student checkpoint नहीं है।
# Continue with the client and session from the quickstart.
state = client.get_session(session["id"])
configuration = state["configuration"]
print(configuration["student_checkpoint"]["repository"])
print(configuration["student_checkpoint"]["revision"])
print(configuration["method"])
print(configuration["sdk_training"])
# These values come from the approved job, not local overrides.
import os
supported_runtimes = {
"fusionpointai_hosting",
"customer_datacenter",
"colab",
}
runtime = os.environ["FUSIONPOINTAI_TRAINING_RUNTIME"]
if runtime not in supported_runtimes:
raise ValueError("Choose a supported training runtime")
print("Selected runtime:", runtime)
# Selection alone does not allocate compute or open a training session.
Adapter और runtime अनुकूलता जाँचें
पंजीकृत Transformers causal-language-model adapter चुने हुए मॉडल, विधि, परिशुद्धता, हार्डवेयर, वितरण और निर्यात संयोजन की जाँच करता है। यह हर संरचना या GPU विन्यास को समर्थित नहीं करता। असमर्थित संयोजन अनुकूलता जाँच में विफल होते हैं; कॉन्फ़िगरेशन के लेबल से हार्डवेयर या मॉडल क्षमता का अनुमान नहीं लगाया जाता।
- केवल वही मॉडल लेआउट इस्तेमाल करें जिसे adapter remote code बंद रखकर लोड कर सके।
- QLoRA के लिए संगत CUDA और bitsandbytes चाहिए।
- अनुकूलता जाँच benchmark नहीं है और दूसरे runtime पर inference सफल होने की गारंटी नहीं देती।