সব ভাষাতেই command ও code ইংরেজিতে থাকবে। বড় হাতের অক্ষরে লেখা placeholder নিজের account ও paid job-এর মান দিয়ে বদলান; shared notebook বা log-এ আসল key দেবেন না।
মডেলের সামঞ্জস্য যাচাই
- রেফারেন্সে প্রবেশাধিকার প্রোভাইডারের প্ল্যান ও উপলভ্য শিক্ষক মডেল
- শিক্ষার্থী মডেল স্থাপত্য ও নির্দিষ্ট সংস্করণে স্থির করা ওজন
- পদ্ধতি SFT বা সামঞ্জস্যপূর্ণ অ্যাডাপ্টার প্রশিক্ষণ
- রানটাইম সংখ্যার নির্ভুলতার ধরন, মেমোরি ও প্রয়োজনীয় সফটওয়্যার
রেফারেন্সে প্রবেশাধিকার: প্রোভাইডারের প্ল্যান ও উপলভ্য শিক্ষক মডেল. শিক্ষার্থী মডেল: স্থাপত্য ও নির্দিষ্ট সংস্করণে স্থির করা ওজন. পদ্ধতি: SFT বা সামঞ্জস্যপূর্ণ অ্যাডাপ্টার প্রশিক্ষণ. রানটাইম: সংখ্যার নির্ভুলতার ধরন, মেমোরি ও প্রয়োজনীয় সফটওয়্যার
Provider plan-এর ভেতর থেকে বেছে নিন
সক্রিয় catalogue-এর reference identifier এবং job access-এর বিবরণ ব্যবহার করুন। Session-এ একই paid provider ও source product-এর ঐচ্ছিক reference_model_id গ্রহণ করা হয়। এতে কেনা student বা invoice বদলায় না। Preparation data তৈরি বা চেষ্টা শুরু করার পর ওই session-এ reference বদলানো যায় না; নীরবে teacher data মেশাবেন না।
- Reference উপলভ্য থাকতে হবে এবং কেনা method ও student-এর সঙ্গে সামঞ্জস্যপূর্ণ হতে হবে।
- শুধু বিদ্যমান গ্রাহকের জন্য থাকা সীমা বহাল থাকে।
- Model-এর প্রদর্শিত নাম সবসময় তার API identifier নয়।
import os
from fusionpointai_training import TrainingClient
client = TrainingClient(api_key=os.environ["FUSIONPOINTAI_API_KEY"])
# Set this to a reference ID included in your paid provider plan.
reference_id = int(os.environ["FUSIONPOINTAI_REFERENCE_MODEL_ID"])
session = client.open_session(
os.environ["FUSIONPOINTAI_JOB_UUID"],
runtime="customer_datacenter",
reference_model_id=reference_id,
)
# Change the reference only BEFORE preparation or generation attempts.
print(session["reference_model_id"])
Pinned স্থানীয় student model লোড করুন
TrainingProject নিবন্ধিত Transformers causal-language-model adapter দিয়ে বিদ্যমান স্থানীয় model path গ্রহণ করে। Remote code বন্ধ রেখে model file লোড হয়। প্রশিক্ষণের আগে নির্বাচিত method অনুযায়ী architecture, tokenizer, context length, precision এবং device memory যাচাই করা হয়। Repository identifier-কে project root-এর ভেতরে pinned revision-এ resolve করতে হবে।
- SFT যোগ্য model parameter হালনাগাদ করে; LoRA ও QLoRA adapter প্রশিক্ষণ দেয়।
- স্থানীয় weight-এর সঙ্গে সামঞ্জস্যপূর্ণ tokenizer ও model configuration থাকতে হবে।
- শুধু inference-এর API model প্রশিক্ষণযোগ্য student checkpoint নয়।
# Continue with the client and session from the quickstart.
state = client.get_session(session["id"])
configuration = state["configuration"]
print(configuration["student_checkpoint"]["repository"])
print(configuration["student_checkpoint"]["revision"])
print(configuration["method"])
print(configuration["sdk_training"])
# These values come from the approved job, not local overrides.
import os
supported_runtimes = {
"fusionpointai_hosting",
"customer_datacenter",
"colab",
}
runtime = os.environ["FUSIONPOINTAI_TRAINING_RUNTIME"]
if runtime not in supported_runtimes:
raise ValueError("Choose a supported training runtime")
print("Selected runtime:", runtime)
# Selection alone does not allocate compute or open a training session.
Adapter ও runtime-এর সামঞ্জস্য যাচাই করুন
নিবন্ধিত Transformers causal-language-model adapter প্রকৃত model, method, precision, hardware, distribution ও export সমন্বয় যাচাই করে। সব architecture বা GPU configuration এতে সমর্থিত নয়। অসমর্থিত সমন্বয়ে compatibility check ব্যর্থ হয়; configuration label দেখে hardware বা model-এর ক্ষমতা ধরে নেওয়া হয় না।
- Remote code বন্ধ রেখে Transformers adapter যে model layout লোড করতে পারে সেটিই ব্যবহার করুন।
- QLoRA-র জন্য সামঞ্জস্যপূর্ণ CUDA ও bitsandbytes support লাগে।
- Compatibility check benchmark নয় এবং অন্য runtime-এ inference সফল হওয়ার নিশ্চয়তাও নয়।