हर भाषा में कमांड और कोड अंग्रेज़ी में ही रहेंगे। बड़े अक्षरों वाले प्लेसहोल्डर को अपने खाते और भुगतान किए गए कार्य के मानों से बदलें; साझा नोटबुक या लॉग में असली कुंजियाँ न डालें।
चुनें कि ट्रेनिंग कहाँ करें
- प्रबंधित होस्टिंग तय FusionPointAI GPU परिवेश
- आपका डेटा केंद्र ग्राहक के नियंत्रण वाला GPU और स्टोरेज
- नोटबुक Colab के अनुरूप निष्पादन परिवेश
- स्थानीय मॉडल फ़ाइलें अनुमान चलाने से पहले निर्यात और जाँच
प्रबंधित होस्टिंग: तय FusionPointAI GPU परिवेश. आपका डेटा केंद्र: ग्राहक के नियंत्रण वाला GPU और स्टोरेज. नोटबुक: Colab के अनुरूप निष्पादन परिवेश. स्थानीय मॉडल फ़ाइलें: अनुमान चलाने से पहले निर्यात और जाँच
जहाँ प्रशिक्षण करना है वह runtime चुनें
एक ही SDK समर्थित runtime से जुड़ता है, लेकिन उसका नाम चुनने से हार्डवेयर नहीं बनता। FusionPointAI Hosting, आपका data center या संगत notebook अपने compute और storage देता है। SDK student को वहीं लोड और train करता है।
- हर runtime में software dependencies और उपलब्ध storage जाँचें।
- अस्थायी notebook बंद होने से पहले valid checkpoint स्वीकृत स्थायी storage में रखें।
- GPU compute की लागत को teacher reference access से अलग रखें।
fusionpointai_hosting -> agreed FusionPointAI compute environment
customer_datacenter -> your own compatible compute environment
colab -> compatible notebook runtime
Choose the runtime already approved for your paid job.
Selecting a runtime does not allocate GPUs or notebook credits.
# Run in a notebook terminal/shell after installing the SDK.
# Set FUSIONPOINTAI_API_KEY through the runtime's secret facility.
# The downloaded source includes the current Colab example.
curl --fail --silent --show-error \
https://fusionpointai.com/downloads/fusionpointai-training.zip \
--output fusionpointai-training.zip
unzip fusionpointai-training.zip -d fusionpointai-training-src
python fusionpointai-training-src/examples/colab_training.py \
--job "$FUSIONPOINTAI_JOB_UUID" --output /content/customer-model-run-001
# Output must be new. Save your artifact before the notebook is terminated.
import os
supported_runtimes = {
"fusionpointai_hosting",
"customer_datacenter",
"colab",
}
runtime = os.environ["FUSIONPOINTAI_TRAINING_RUNTIME"]
if runtime not in supported_runtimes:
raise ValueError("Choose a supported training runtime")
print("Selected runtime:", runtime)
# Selection alone does not allocate compute or open a training session.
from importlib.metadata import PackageNotFoundError, version
from importlib.util import find_spec
for package in ("fusionpointai-training", "httpx", "torch", "transformers", "peft"):
try:
print(f"{package}=={version(package)}")
except PackageNotFoundError:
print(f"{package}: not installed")
for module in ("torch", "transformers", "peft", "safetensors"):
print(f"{module} importable:", find_spec(module) is not None)
# The train extra includes optional model-training dependencies; inspect before use.
निर्यात की गई मॉडल फ़ाइलें जाँचें
Export मॉडल या adapter, tokenizer, प्रशिक्षण और मूल्यांकन रिपोर्ट, रन की जानकारी तथा artifact manifest को उसी run के output directory में लिखता है। Adapter को उसी base model और tokenizer की ज़रूरत होती है। Export स्थानीय फ़ाइलों की जाँच करता है; यह मॉडल package को API पर upload नहीं करता।
- Manifest में दिए file path, size और SHA-256 जाँचें।
- मॉडल और tokenizer के revision साथ रखें।
- नतीजे में API key, dataset secret या असंबंधित फ़ाइलें न रखें।
cat ./support-project/runs/support-001/training-report.json
cat ./support-project/runs/support-001/evaluation-report.json
cat ./support-project/runs/support-001/artifact-manifest.json
sha256sum ./support-project/runs/support-001/exports/safetensors/artifact-manifest.json
# Compare the digest with the value returned by project.export().
# Adapter exports also require the matching base model and tokenizer.
निर्यात किए मॉडल को स्वतंत्र रूप से चलाएँ
निर्यात किए मॉडल या adapter को संगत inference runtime में लोड करें और उपयोगकर्ताओं को देने से पहले काम की स्वीकृति जाँचें। Student स्वतंत्र रूप से तैनात हो जाने पर सामान्य inference के लिए teacher की ज़रूरत नहीं होती। Export स्थानीय फ़ाइलों की जाँच और reproducibility manifest बनाता है; यह मॉडल deploy नहीं करता और न ही हर format के हर device पर चलने की गारंटी देता है।
- तैनाती के समय tokenizer, precision और memory की अनुकूलता फिर जाँचें।
- Rollback के लिए मॉडल फ़ाइल और उसकी evaluation report रखें।
- नया मॉडल स्वीकृति जाँच पास करे, तभी मौजूदा production model बदलें।