په ټولو ژبو کې امرونه او کوډ په انګلیسي پاتې کېږي. غټتوري ځاینښې د خپل حساب او پیسې ورکړل شوې دندې له ارزښتونو سره بدلې کړئ؛ ریښتینې کیلي په شریکو notebook-ونو یا لاګونو کې مه نښلوئ.
د ماډل د سازګارۍ کتنې
- د مرجع لاسرسی د چمتوکوونکي پلان او شته ښوونکی
- زدهکوونکی معماري او تثبیت شوي وزنونه
- طریقه SFT یا سازګاره adapter روزنه
- اجرا چاپېریال Precision، حافظه او تړاوونه
د مرجع لاسرسی: د چمتوکوونکي پلان او شته ښوونکی. زدهکوونکی: معماري او تثبیت شوي وزنونه. طریقه: SFT یا سازګاره adapter روزنه. اجرا چاپېریال: Precision، حافظه او تړاوونه
د خپل چمتوکوونکي د پلان له مخې وټاکئ
د فعال کتلاګ او خپلې دندې د لاسرسي معلوماتو مرجع پېژندونکي وکاروئ. ناسته د هماغه پیسې ورکړل شوي چمتوکوونکي او سرچینه محصول اختیاري reference_model_id مني. پېرودل شوی زدهکوونکی او بل ساتي. چې چمتووالي معلومات جوړ کړي یا هڅې پیل شي، په هماغه ناسته کې مرجع نه بدلېږي؛ د ښوونکي معلومات په پټه مه ګډوئ.
- مرجع باید شته وي او له پېرودل شوې طریقې او زدهکوونکي سره سازګاره وي.
- یوازې پخوانیو پېرودونکو ته ځانګړي محدودیتونه پر ځای پاتې کېږي.
- د ماډل د ښودلو نوم ښايي د API پېژندونکی نه وي.
import os
from fusionpointai_training import TrainingClient
client = TrainingClient(api_key=os.environ["FUSIONPOINTAI_API_KEY"])
# Set this to a reference ID included in your paid provider plan.
reference_id = int(os.environ["FUSIONPOINTAI_REFERENCE_MODEL_ID"])
session = client.open_session(
os.environ["FUSIONPOINTAI_JOB_UUID"],
runtime="customer_datacenter",
reference_model_id=reference_id,
)
# Change the reference only BEFORE preparation or generation attempts.
print(session["reference_model_id"])
تثبیت شوی محلي زدهکوونکی ماډل پورته کړئ
TrainingProject د ثبت شوي Transformers causal-language-model adapter له لارې د موجود محلي ماډل مسیر مني. د ماډل فایلونه د remote code له غیرفعالولو سره پورته کېږي. معماري، tokenizer، context اوږدوالی، precision او د وسیلې شته حافظه د روزنې مخکې د ټاکل شوې طریقې لپاره ارزول کېږي. د repository پېژند باید د پروژې دننه تثبیت شوې نسخې ته ورسېږي.
- SFT د ماډل وړ پارامېټرونه بدلوي؛ LoRA او QLoRA adapter-ونه روزي.
- له محلي وزنونو سره سازګار tokenizer او د ماډل تنظیم باید وي.
- یوازې د استنتاج API ماډل د روزلو وړ زدهکوونکی checkpoint نه دی.
# Continue with the client and session from the quickstart.
state = client.get_session(session["id"])
configuration = state["configuration"]
print(configuration["student_checkpoint"]["repository"])
print(configuration["student_checkpoint"]["revision"])
print(configuration["method"])
print(configuration["sdk_training"])
# These values come from the approved job, not local overrides.
import os
supported_runtimes = {
"fusionpointai_hosting",
"customer_datacenter",
"colab",
}
runtime = os.environ["FUSIONPOINTAI_TRAINING_RUNTIME"]
if runtime not in supported_runtimes:
raise ValueError("Choose a supported training runtime")
print("Selected runtime:", runtime)
# Selection alone does not allocate compute or open a training session.
د adapter او اجرا چاپېریال سازګاري وګورئ
ثبت شوی Transformers causal-language-model adapter د ماډل واقعي ترکیب، طریقه، precision، هارډوېیر، وېش او صادرول ارزوي. د هرې معمارۍ یا GPU تنظیم ملاتړ نه کوي. ناسم ترکیبونه د سازګارۍ په کتنه کې ناکامېږي؛ له تنظیمي نوم څخه د هارډوېیر یا ماډل وړتیا نه اټکلېږي.
- یوازې داسې ماډل ترتیب وکاروئ چې adapter یې د remote code له غیرفعالولو سره پورته کولای شي.
- QLoRA سازګار CUDA او bitsandbytes ملاتړ غواړي.
- د سازګارۍ کتنه معیارسنجونه یا په بل اجرا چاپېریال کې د بریالي استنتاج ضمانت نه دی.