فەرمان و کۆد لە هەموو زمانێکدا بە ئینگلیزی دەمێننەوە. جێگرەوە گەورەنووسەکان بە بەهای هەژمار و کاری پارەدراوی خۆت بگۆڕە؛ کلیلی ڕاستەقینە لە نۆتبووکی هاوبەش یان تۆمارەکاندا مەنووسە.
پشکنینی گونجانی مۆدێل
- دەستگەیشتنی سەرچاوە پلانی دابینکەر و مامۆستای بەردەست
- قوتابی تەلارسازی و کێشی revisionی دیاریکراو
- شێواز SFT یان ڕاهێنانی ئاداپتەری گونجاو
- Runtime وردی، بیرگە و پەیوەندییەکان
دەستگەیشتنی سەرچاوە: پلانی دابینکەر و مامۆستای بەردەست. قوتابی: تەلارسازی و کێشی revisionی دیاریکراو. شێواز: SFT یان ڕاهێنانی ئاداپتەری گونجاو. Runtime: وردی، بیرگە و پەیوەندییەکان
لە پلانی دابینکەرەکەتدا هەڵبژێرە
ناسنامەی سەرچاوەی کاتەلۆگی چالاک و زانیاریی دەستگەیشتنی کارت بەکاربهێنە. دانیشتن reference_model_idی هەڵبژاردەیی لە هەمان دابینکەر و بەرهەمی پارەدراو وەردەگرێت. قوتابیی کڕدراو و پسووڵەکە دەپارێزێت. کاتێک ئامادەکاری داتا بەرهەم هێنا یان هەوڵ دەستی پێکرد، لەو دانیشتنەدا سەرچاوە ناگۆڕدرێت؛ داتای مامۆستا بە نهێنی تێکەڵ مەکە.
- سەرچاوە دەبێت بەردەست و لەگەڵ شێواز و قوتابیی کڕدراو گونجاو بمێنێتەوە.
- سنووری «تەنها بۆ کڕیاری ئێستا» بەردەوام جێبەجێیە.
- ناوی پیشاندانی مۆدێل هەمیشە ناسنامەی APIی نییە.
import os
from fusionpointai_training import TrainingClient
client = TrainingClient(api_key=os.environ["FUSIONPOINTAI_API_KEY"])
# Set this to a reference ID included in your paid provider plan.
reference_id = int(os.environ["FUSIONPOINTAI_REFERENCE_MODEL_ID"])
session = client.open_session(
os.environ["FUSIONPOINTAI_JOB_UUID"],
runtime="customer_datacenter",
reference_model_id=reference_id,
)
# Change the reference only BEFORE preparation or generation attempts.
print(session["reference_model_id"])
مۆدێلی قوتابیی ناوخۆیی بە revisionی دیاریکراو باربکە
TrainingProject ڕێڕەوی مۆدێلی ناوخۆیی لە ڕێگەی ئاداپتەری تۆمارکراوی زمانی causalی Transformers وەردەگرێت. پەڕگەکانی مۆدێل بە کۆدی دەرەکیی ناچالاک بار دەکرێن. تەلارسازیی مۆدێل، tokenizer، درێژیی کۆنتێکست، وردی و بیرگەی ئامێری بەردەست پێش ڕاهێنان بەپێی شێوازی هەڵبژێردراو دەپشکنرێن. ناسنامەی repository دەبێت لە ڕەگی پڕۆژەدا بگاتە revisionێکی دیاریکراو.
- SFT پارامەتەری شایستەی مۆدێل نوێ دەکاتەوە؛ LoRA و QLoRA ئاداپتەر ڕادەهێنن.
- tokenizer و ڕێکخستنی گونجاوی مۆدێل دەبێت لەگەڵ کێشی ناوخۆ بێت.
- مۆدێلی APIی تەنها inference checkpointی قوتابیی ڕاهێنراو نییە.
# Continue with the client and session from the quickstart.
state = client.get_session(session["id"])
configuration = state["configuration"]
print(configuration["student_checkpoint"]["repository"])
print(configuration["student_checkpoint"]["revision"])
print(configuration["method"])
print(configuration["sdk_training"])
# These values come from the approved job, not local overrides.
import os
supported_runtimes = {
"fusionpointai_hosting",
"customer_datacenter",
"colab",
}
runtime = os.environ["FUSIONPOINTAI_TRAINING_RUNTIME"]
if runtime not in supported_runtimes:
raise ValueError("Choose a supported training runtime")
print("Selected runtime:", runtime)
# Selection alone does not allocate compute or open a training session.
گونجانی ئاداپتەر و ژینگە بپشکنە
ئاداپتەری تۆمارکراوی زمانی causalی Transformers مۆدێل، شێواز، وردی، ئامێر، دابەشکردن و هاوکێشەی هەناردەی ڕاستەقینە دەپشکنێت. هەموو تەلارسازی یان ڕێکخستنی GPU پشتگیری ناکات. هاوکێشەی ناگونجاو لە پشکنینی گونجانی تێدەپەڕێت؛ توانای ئامێر یان مۆدێل لە ناوی ڕێکخستنەوە گریمانە ناکرێت.
- تەنها شێوازی مۆدێل بەکاربهێنە کە ئاداپتەری Transformers بە کۆدی دەرەکیی ناچالاک باریدەکات.
- QLoRA پشتگیریی CUDA و bitsandbytesی گونجاو پێویستە.
- پشکنینی گونجانی benchmark یان دڵنیاییی inference لە ژینگەیەکی تر نییە.