تبقى الأوامر والشفرة بالإنجليزية في جميع اللغات. استبدل العناصر النائبة المكتوبة بالأحرف الكبيرة بقيم من حسابك والمهمة المدفوعة؛ ولا تضع مفاتيح حقيقية في دفاتر ملاحظات أو سجلات مشتركة.
فحوص توافق النموذج
- الوصول إلى المرجع خطة المزوّد والمعلّم المتاح
- المتعلّم البنية والأوزان المثبّتة
- الطريقة SFT أو تدريب موائم متوافق
- بيئة التشغيل الدقة والذاكرة والتبعيات
الوصول إلى المرجع: خطة المزوّد والمعلّم المتاح. المتعلّم: البنية والأوزان المثبّتة. الطريقة: SFT أو تدريب موائم متوافق. بيئة التشغيل: الدقة والذاكرة والتبعيات
اختر ضمن خطة المزوّد
استخدم معرّفات النماذج المرجعية من الكتالوج النشط وتفاصيل الوصول الخاصة بالمهمة. تقبل الجلسة reference_model_id اختياريًا من المزوّد المدفوع والمنتج المصدر نفسيهما. ويظل نموذج المتعلّم المشترى والفاتورة كما هما. بعد أن ينشئ الإعداد بيانات أو تبدأ المحاولات، لا يمكن تغيير المرجع في الجلسة؛ فلا تخلط بيانات المعلّم دون توضيح.
- يجب أن يظل المرجع متاحًا ومتوافقًا مع الطريقة ونموذج المتعلّم المشترَيين.
- تظل القيود الخاصة بالعملاء الحاليين سارية.
- قد لا يكون الاسم الظاهر للنموذج هو معرّف API الخاص به.
import os
from fusionpointai_training import TrainingClient
client = TrainingClient(api_key=os.environ["FUSIONPOINTAI_API_KEY"])
# Set this to a reference ID included in your paid provider plan.
reference_id = int(os.environ["FUSIONPOINTAI_REFERENCE_MODEL_ID"])
session = client.open_session(
os.environ["FUSIONPOINTAI_JOB_UUID"],
runtime="customer_datacenter",
reference_model_id=reference_id,
)
# Change the reference only BEFORE preparation or generation attempts.
print(session["reference_model_id"])
حمّل نموذج متعلّم محليًا وثبّت مراجعته
يقبل TrainingProject مسار نموذج محلي قائمًا عبر موائم نماذج اللغة السببية المسجل في Transformers. تُحمّل ملفات النموذج مع تعطيل الشيفرة البعيدة. وتُفحص بنية النموذج ومجزّئ الرموز وطول السياق والدقة وذاكرة الجهاز المتاحة للطريقة المختارة قبل التدريب. يجب أن يحل معرّف المستودع إلى مراجعة مثبتة داخل جذر المشروع.
- يحدّث SFT معلمات النموذج المؤهلة؛ أما LoRA وQLoRA فيدرّبان الموائمات.
- يجب أن تترافق الأوزان المحلية مع إعداد نموذج ومجزّئ رموز متوافقين.
- نموذج API المخصص للاستدلال فقط ليس نقطة تحقق لمتعلّم قابل للتدريب.
# Continue with the client and session from the quickstart.
state = client.get_session(session["id"])
configuration = state["configuration"]
print(configuration["student_checkpoint"]["repository"])
print(configuration["student_checkpoint"]["revision"])
print(configuration["method"])
print(configuration["sdk_training"])
# These values come from the approved job, not local overrides.
import os
supported_runtimes = {
"fusionpointai_hosting",
"customer_datacenter",
"colab",
}
runtime = os.environ["FUSIONPOINTAI_TRAINING_RUNTIME"]
if runtime not in supported_runtimes:
raise ValueError("Choose a supported training runtime")
print("Selected runtime:", runtime)
# Selection alone does not allocate compute or open a training session.
تحقق من توافق الموائم وبيئة التشغيل
يتحقق موائم نماذج اللغة السببية المسجل في Transformers من توافق النموذج الفعلي والطريقة والدقة والعتاد والتوزيع والتصدير. ولا يدعم جميع البنى أو إعدادات GPU. تفشل التوليفات غير المدعومة في فحوص التوافق؛ ولا تُستنتج قدرة النموذج أو العتاد من اسم في الإعداد.
- استخدم تخطيط نموذج يستطيع موائم Transformers تحميله مع تعطيل الشيفرة البعيدة.
- تتطلب QLoRA توافق CUDA وbitsandbytes.
- فحوص التوافق ليست معيار أداء ولا تضمن نجاح الاستدلال في بيئة تشغيل أخرى.