فەرمان و کۆد لە هەموو زمانێکدا بە ئینگلیزی دەمێننەوە. جێگرەوە گەورەنووسەکان بە بەهای هەژمار و کاری پارەدراوی خۆت بگۆڕە؛ کلیلی ڕاستەقینە لە نۆتبووکی هاوبەش یان تۆمارەکاندا مەنووسە.
شوێنی ڕاهێنان هەڵبژێرە
- میوانداریی بەڕێوەبردراو ژینگەی GPUی ڕێککەوتووی FusionPointAI
- ناوەندی داتای تۆ GPU و هەڵگرتنی کۆنترۆڵکراو لەلایەن کڕیار
- نۆتبووک ژینگەی گونجاوی هاوشێوەی Colab
- بەرهەمی ناوخۆ پێش inference هەناردە و پشتڕاستی بکەرەوە
میوانداریی بەڕێوەبردراو: ژینگەی GPUی ڕێککەوتووی FusionPointAI. ناوەندی داتای تۆ: GPU و هەڵگرتنی کۆنترۆڵکراو لەلایەن کڕیار. نۆتبووک: ژینگەی گونجاوی هاوشێوەی Colab. بەرهەمی ناوخۆ: پێش inference هەناردە و پشتڕاستی بکەرەوە
ژینگەیەک هەڵبژێرە کە خۆت کۆنترۆڵی دەکەیت
TrainingProject fusionpointai_hosting، customer_datacenter یان colab وەک ناسنامەی runtime وەردەگرێت. ناسنامەکە نموونەی GPU دروست ناکات، توانای نۆتبووک نادات و گونجانی ئامێر دڵنیایی ناکات. پەیوەندییە گونجاوەکان دابمەزرێنە، کلیلەکە بپارێزە و شوێنی هەڵگرتنی بەردەوام لە ژینگەی ڕاهێنانی ناوخۆ بپشکنە.
- دانیشتنی نۆتبووک لەوانەیە کۆتایی پێبێت و هەڵگرتن کاتی بێت.
- دەستگەیشتنی APIی مامۆستا پەیوەندیی تۆڕ دەوێت؛ ڕاهێنانی ناوخۆ لە runtimeی هەڵبژێردراوە.
- توانای ژمێریاری و دەستگەیشتنی مۆدێلی سەرچاوە دوو شتی جیاوازن.
fusionpointai_hosting -> agreed FusionPointAI compute environment
customer_datacenter -> your own compatible compute environment
colab -> compatible notebook runtime
Choose the runtime already approved for your paid job.
Selecting a runtime does not allocate GPUs or notebook credits.
# Run in a notebook terminal/shell after installing the SDK.
# Set FUSIONPOINTAI_API_KEY through the runtime's secret facility.
# The downloaded source includes the current Colab example.
curl --fail --silent --show-error \
https://fusionpointai.com/downloads/fusionpointai-training.zip \
--output fusionpointai-training.zip
unzip fusionpointai-training.zip -d fusionpointai-training-src
python fusionpointai-training-src/examples/colab_training.py \
--job "$FUSIONPOINTAI_JOB_UUID" --output /content/customer-model-run-001
# Output must be new. Save your artifact before the notebook is terminated.
import os
supported_runtimes = {
"fusionpointai_hosting",
"customer_datacenter",
"colab",
}
runtime = os.environ["FUSIONPOINTAI_TRAINING_RUNTIME"]
if runtime not in supported_runtimes:
raise ValueError("Choose a supported training runtime")
print("Selected runtime:", runtime)
# Selection alone does not allocate compute or open a training session.
from importlib.metadata import PackageNotFoundError, version
from importlib.util import find_spec
for package in ("fusionpointai-training", "httpx", "torch", "transformers", "peft"):
try:
print(f"{package}=={version(package)}")
except PackageNotFoundError:
print(f"{package}: not installed")
for module in ("torch", "transformers", "peft", "safetensors"):
print(f"{module} importable:", find_spec(module) is not None)
# The train extra includes optional model-training dependencies; inspect before use.
بەرهەمی ناوخۆی پڕۆژە بپشکنە
ڕاکردنی پڕۆژە پەڕگەی مۆدێل یان ئاداپتەر، سەرچاوەی tokenizer، ڕاپۆرتی ڕاهێنان و هەڵسەنگاندن، metadataی ڕاکردن و manifestی بەرهەم لە بوخچەی دەرچوونی خاوەنداریکراو دەنووسێت. هەناردەی ئاداپتەر مۆدێلی بنەڕەت و tokenizerی وردی دەوێت. هەناردە ئەرشیف یان پاکێجی دانانەوەی ناوخۆ بۆ API بارناکات.
- ڕێڕەوی بەرهەم، قەبارەی پەڕگە و بەهای SHA-256 لە manifest پشتڕاست بکەرەوە.
- وەشانی مۆدێل و tokenizer پێکەوە بپارێزە.
- کلیلی API، نهێنیی کۆمەڵەداتا یان پەڕگەی بێپەیوەندی لە بەرهەم مەخە.
cat ./support-project/runs/support-001/training-report.json
cat ./support-project/runs/support-001/evaluation-report.json
cat ./support-project/runs/support-001/artifact-manifest.json
sha256sum ./support-project/runs/support-001/exports/safetensors/artifact-manifest.json
# Compare the digest with the value returned by project.export().
# Adapter exports also require the matching base model and tokenizer.
مۆدێلی هەناردەکراو بە سەربەخۆیی بەکاربهێنە
مۆدێل یان ئاداپتەری هەناردەکراو بە runtimeی inferenceی گونجاو باربکە و پێش خزمەتگوزاری بەکارهێنەر، تاقیکردنەوەی قبوڵکردنی ئەرک جێبەجێ بکە. دوای دانانی سەربەخۆی قوتابی، inferenceی ئاسایی پێویستی بە پەیوەندی بە مامۆستا نییە. هەناردە پەڕگەی ناوخۆ پشتڕاست دەکاتەوە و manifestی دووبارەبەرهەمهێنان دەنووسێت؛ مۆدێل دانانانێت و کارکردنی هەموو فۆرماتێک لە هەموو ئامێرێک دڵنیایی ناکات.
- لە کاتی دانانەوەدا گونجانی tokenizer، وردی و بیرگە دووبارە بپشکنە.
- بەرهەمی گەڕاندنەوە و ڕاپۆرتی هەڵسەنگاندنی بپارێزە.
- پێش تێپەڕاندنی تاقیکردنەوەی قبوڵکردن، مۆدێلی کاراکاری دانراو جێگۆڕکێ مەکە.