اصلي منځپانګې ته ورټوپ کړئ
د روزنې لارښود څپرکي ټول اسناد

مرجع او د روزلو وړ زده‌کوونکی وټاکئ

د چمتوکوونکي لاسرسی، د زده‌کوونکي معماري، د checkpoint revision او د روزنې طریقه سره برابره کړئ.

په ټولو ژبو کې امرونه او کوډ په انګلیسي پاتې کېږي. غټ‌توري ځای‌نښې د خپل حساب او پیسې ورکړل شوې دندې له ارزښتونو سره بدلې کړئ؛ ریښتینې کیلي په شریکو notebook-ونو یا لاګونو کې مه نښلوئ.

د ماډل د سازګارۍ کتنې

د ګرانې روزنیزې اجرا تر برابرولو مخکې سازګاري تایید کړئ.
  1. د مرجع لاسرسی د چمتوکوونکي پلان او شته ښوونکی
  2. زده‌کوونکی معماري او تثبیت شوي وزنونه
  3. طریقه SFT یا سازګاره adapter روزنه
  4. اجرا چاپېریال Precision، حافظه او تړاوونه

د مرجع لاسرسی: د چمتوکوونکي پلان او شته ښوونکی. زده‌کوونکی: معماري او تثبیت شوي وزنونه. طریقه: SFT یا سازګاره adapter روزنه. اجرا چاپېریال: Precision، حافظه او تړاوونه

د خپل چمتوکوونکي د پلان له مخې وټاکئ

د فعال کتلاګ او خپلې دندې د لاسرسي معلوماتو مرجع پېژندونکي وکاروئ. ناسته د هماغه پیسې ورکړل شوي چمتوکوونکي او سرچینه محصول اختیاري reference_model_id مني. پېرودل شوی زده‌کوونکی او بل ساتي. چې چمتووالي معلومات جوړ کړي یا هڅې پیل شي، په هماغه ناسته کې مرجع نه بدلېږي؛ د ښوونکي معلومات په پټه مه ګډوئ.

  • مرجع باید شته وي او له پېرودل شوې طریقې او زده‌کوونکي سره سازګاره وي.
  • یوازې پخوانیو پېرودونکو ته ځانګړي محدودیتونه پر ځای پاتې کېږي.
  • د ماډل د ښودلو نوم ښايي د API پېژندونکی نه وي.
بېلګه · python
import os
from fusionpointai_training import TrainingClient

client = TrainingClient(api_key=os.environ["FUSIONPOINTAI_API_KEY"])
# Set this to a reference ID included in your paid provider plan.
reference_id = int(os.environ["FUSIONPOINTAI_REFERENCE_MODEL_ID"])
session = client.open_session(
    os.environ["FUSIONPOINTAI_JOB_UUID"],
    runtime="customer_datacenter",
    reference_model_id=reference_id,
)
# Change the reference only BEFORE preparation or generation attempts.
print(session["reference_model_id"])

تثبیت شوی محلي زده‌کوونکی ماډل پورته کړئ

TrainingProject د ثبت شوي Transformers causal-language-model adapter له لارې د موجود محلي ماډل مسیر مني. د ماډل فایلونه د remote code له غیرفعالولو سره پورته کېږي. معماري، tokenizer، context اوږدوالی، precision او د وسیلې شته حافظه د روزنې مخکې د ټاکل شوې طریقې لپاره ارزول کېږي. د repository پېژند باید د پروژې دننه تثبیت شوې نسخې ته ورسېږي.

  • SFT د ماډل وړ پارامېټرونه بدلوي؛ LoRA او QLoRA adapter-ونه روزي.
  • له محلي وزنونو سره سازګار tokenizer او د ماډل تنظیم باید وي.
  • یوازې د استنتاج API ماډل د روزلو وړ زده‌کوونکی checkpoint نه دی.
بېلګه · python
# Continue with the client and session from the quickstart.
state = client.get_session(session["id"])
configuration = state["configuration"]
print(configuration["student_checkpoint"]["repository"])
print(configuration["student_checkpoint"]["revision"])
print(configuration["method"])
print(configuration["sdk_training"])
# These values come from the approved job, not local overrides.
بېلګه · python
import os

supported_runtimes = {
    "fusionpointai_hosting",
    "customer_datacenter",
    "colab",
}
runtime = os.environ["FUSIONPOINTAI_TRAINING_RUNTIME"]
if runtime not in supported_runtimes:
    raise ValueError("Choose a supported training runtime")
print("Selected runtime:", runtime)
# Selection alone does not allocate compute or open a training session.

د adapter او اجرا چاپېریال سازګاري وګورئ

ثبت شوی Transformers causal-language-model adapter د ماډل واقعي ترکیب، طریقه، precision، هارډوېیر، وېش او صادرول ارزوي. د هرې معمارۍ یا GPU تنظیم ملاتړ نه کوي. ناسم ترکیبونه د سازګارۍ په کتنه کې ناکامېږي؛ له تنظیمي نوم څخه د هارډوېیر یا ماډل وړتیا نه اټکلېږي.

  • یوازې داسې ماډل ترتیب وکاروئ چې adapter یې د remote code له غیرفعالولو سره پورته کولای شي.
  • QLoRA سازګار CUDA او bitsandbytes ملاتړ غواړي.
  • د سازګارۍ کتنه معیارسنجونه یا په بل اجرا چاپېریال کې د بریالي استنتاج ضمانت نه دی.