মূল content-এ যান
Training guide-এর অধ্যায় সব নথিপত্র

Runtime বেছে নিয়ে model export করুন

পরিচালিত GPU, নিজের data center বা সামঞ্জস্যপূর্ণ notebook-এ চালান; ঠিক কী সরবরাহ হয় বুঝুন।

Training guide-এর অধ্যায়

সব ভাষাতেই command ও code ইংরেজিতে থাকবে। বড় হাতের অক্ষরে লেখা placeholder নিজের account ও paid job-এর মান দিয়ে বদলান; shared notebook বা log-এ আসল key দেবেন না।

কোথায় প্রশিক্ষণ চালাবেন বেছে নিন

প্রতিটি সমর্থিত রানটাইম থেকে একই SDK সংযোগ করে; নাম বাছলে হার্ডওয়্যার তৈরি হয় না।
  1. পরিচালিত হোস্টিং সম্মত FusionPointAI GPU পরিবেশ
  2. আপনার ডেটা সেন্টার গ্রাহক-নিয়ন্ত্রিত GPU ও সংরক্ষণব্যবস্থা
  3. নোটবুক সামঞ্জস্যপূর্ণ Colab-ধাঁচের রানটাইম
  4. স্থানীয় আর্টিফ্যাক্ট ইনফারেন্সের আগে রপ্তানি ও যাচাই

নিজের নিয়ন্ত্রণে থাকা runtime বেছে নিন

TrainingProject runtime identifier হিসেবে fusionpointai_hosting, customer_datacenter বা colab গ্রহণ করে। Identifier GPU instance তৈরি করে না, notebook capacity দেয় না বা device compatibility নিশ্চিত করে না। যেখানে স্থানীয় model training চলবে সেখানে সামঞ্জস্যপূর্ণ dependency ইনস্টল, key সুরক্ষিত এবং স্থায়ী storage যাচাই করুন।

  • Notebook session শেষ হয়ে যেতে পারে এবং storage অস্থায়ী হতে পারে।
  • Teacher API access-এ network connection লাগে; স্থানীয় training নির্বাচিত runtime-এ চলে।
  • Compute capacity ও reference-model access আলাদা।
উদাহরণ · text 
fusionpointai_hosting  -> agreed FusionPointAI compute environment
customer_datacenter   -> your own compatible compute environment
colab                 -> compatible notebook runtime

Choose the runtime already approved for your paid job.
Selecting a runtime does not allocate GPUs or notebook credits.
উদাহরণ · bash 
# Run in a notebook terminal/shell after installing the SDK.
# Set FUSIONPOINTAI_API_KEY through the runtime's secret facility.
# The downloaded source includes the current Colab example.
curl --fail --silent --show-error \
  https://fusionpointai.com/downloads/fusionpointai-training.zip \
  --output fusionpointai-training.zip
unzip fusionpointai-training.zip -d fusionpointai-training-src
python fusionpointai-training-src/examples/colab_training.py \
  --job "$FUSIONPOINTAI_JOB_UUID" --output /content/customer-model-run-001
# Output must be new. Save your artifact before the notebook is terminated.
উদাহরণ · python 
import os

supported_runtimes = {
    "fusionpointai_hosting",
    "customer_datacenter",
    "colab",
}
runtime = os.environ["FUSIONPOINTAI_TRAINING_RUNTIME"]
if runtime not in supported_runtimes:
    raise ValueError("Choose a supported training runtime")
print("Selected runtime:", runtime)
# Selection alone does not allocate compute or open a training session.
উদাহরণ · python 
from importlib.metadata import PackageNotFoundError, version
from importlib.util import find_spec

for package in ("fusionpointai-training", "httpx", "torch", "transformers", "peft"):
    try:
        print(f"{package}=={version(package)}")
    except PackageNotFoundError:
        print(f"{package}: not installed")

for module in ("torch", "transformers", "peft", "safetensors"):
    print(f"{module} importable:", find_spec(module) is not None)
# The train extra includes optional model-training dependencies; inspect before use.

স্থানীয় project artifact পরীক্ষা করুন

Project run নিজের output directory-তে model বা adapter file, tokenizer asset, training ও evaluation report, run metadata এবং artifact manifest লেখে। Adapter export-এর জন্য হুবহু base model ও tokenizer চাই। Export স্থানীয় model archive বা deployment package API-তে upload করে না।

  • Manifest-এ artifact path, file size ও SHA-256 মান যাচাই করুন।
  • Model ও tokenizer revision একসঙ্গে রাখুন।
  • Deliverable-এ API key, dataset secret বা সম্পর্কহীন file দেবেন না।
উদাহরণ · bash 
cat ./support-project/runs/support-001/training-report.json
cat ./support-project/runs/support-001/evaluation-report.json
cat ./support-project/runs/support-001/artifact-manifest.json
sha256sum ./support-project/runs/support-001/exports/safetensors/artifact-manifest.json
# Compare the digest with the value returned by project.export().
# Adapter exports also require the matching base model and tokenizer.

Export করা model স্বতন্ত্রভাবে ব্যবহার করুন

Export করা model বা adapter সামঞ্জস্যপূর্ণ inference runtime-এ লোড করে ব্যবহারকারীকে সেবা দেওয়ার আগে কাজের গ্রহণযোগ্যতা যাচাই করুন। Student স্বতন্ত্রভাবে deploy হলে সাধারণ inference-এ teacher call দরকার হয় না। Export স্থানীয় file যাচাই করে পুনরুৎপাদনযোগ্য manifest লেখে; model deploy করে না এবং প্রতিটি format প্রতিটি device-এ চলবে তার নিশ্চয়তাও দেয় না।

  • Deployment-এর সময় tokenizer compatibility, precision ও memory আবার দেখুন।
  • Rollback artifact ও তার evaluation report রাখুন।
  • বিকল্পটি গ্রহণযোগ্যতা পাস করার আগে চালু model-এর ওপর লিখবেন না।