মূল content-এ যান
Training guide-এর অধ্যায় সব নথিপত্র

বিশ্বস্ত প্রশিক্ষণ-ডেটা প্রস্তুত করুন

স্পষ্ট split, validation ও privacy control-সহ স্থানীয় JSONL training ও evaluation file তৈরি করুন।

সব ভাষাতেই command ও code ইংরেজিতে থাকবে। বড় হাতের অক্ষরে লেখা placeholder নিজের account ও paid job-এর মান দিয়ে বদলান; shared notebook বা log-এ আসল key দেবেন না।

প্রশিক্ষণ ও মূল্যায়ন আলাদা রাখুন

প্রশিক্ষণের লেখা এবং প্রম্পট ও কাঙ্ক্ষিত উত্তরসহ মূল্যায়নের সারিগুলো আলাদা স্থানীয় ফাইলে থাকে।
  1. উৎস অনুমোদিত প্রশিক্ষণের লেখা
  2. মান যাচাই, পর্যালোচনা ও সদৃশ অনুলিপি বাদ দেওয়া
  3. প্রশিক্ষণ ওজন হালনাগাদে ব্যবহৃত উদাহরণ
  4. যাচাই উত্তর শেখানো ছাড়াই উন্নতির দিশা
  5. চূড়ান্ত পরীক্ষা আলাদা রাখা স্থানীয় ডেটায় গ্রহণযোগ্যতা যাচাই

উৎস: অনুমোদিত প্রশিক্ষণের লেখা. মান: যাচাই, পর্যালোচনা ও সদৃশ অনুলিপি বাদ দেওয়া. প্রশিক্ষণ: ওজন হালনাগাদে ব্যবহৃত উদাহরণ. যাচাই: উত্তর শেখানো ছাড়াই উন্নতির দিশা. চূড়ান্ত পরীক্ষা: আলাদা রাখা স্থানীয় ডেটায় গ্রহণযোগ্যতা যাচাই

স্থানীয় JSONL dataset প্রস্তুত করুন

Training source-এ text field-সহ JSONL object থাকে। Evaluation JSONL row-তে prompt, target ও criterion থাকে এবং স্থানীয়ভাবে মূল্যায়ন হয়। Validation ও final-test file training ও teacher request থেকে আলাদা রাখতে হবে। Dataset preparation row যাচাই করে, কনফিগার করা থাকলে split-গুলোর মধ্যে duplicate সরায়, এবং fingerprint ও বাদ পড়া item নথিবদ্ধ করে।

  • প্রতি লাইনে একটি JSON object ও UTF-8 ব্যবহার করুন।
  • Validation বা final-test উত্তর training text-এ দেবেন না।
  • Teacher request-এ শুধু স্পষ্টভাবে অনুমোদিত training example যেতে পারে।
উদাহরণ · python
from fusionpointai_training.client import DatasetManifest

# Continue with an authenticated client and an owned session.
ready = client.prepare_session(session["id"])
for item in ready["datasets"]:
    manifest = DatasetManifest(
        split=item["split"], sha256=item["sha256"],
        bytes=item["bytes"], rows=item["rows"],
    )
    rows = client.download_dataset(ready["id"], manifest)
    print(manifest.split, len(rows), manifest.sha256)
    # Each row has a text field. Do not log private training content.
উদাহরণ · python
import os
from fusionpointai_training import TrainingClient

client = TrainingClient(api_key=os.environ["FUSIONPOINTAI_API_KEY"])
session = client.get_session(os.environ["FUSIONPOINTAI_SESSION_ID"])
for manifest in session["datasets"]:
    print(
        manifest["split"],
        "rows:", manifest["rows"],
        "bytes:", manifest["bytes"],
        "sha256:", manifest["sha256"],
    )
# These are server-provided manifest values, not a local integrity pass.
উদাহরণ · python
import hashlib
from pathlib import Path

dataset_path = Path("train.jsonl")
expected_bytes = int(input("Manifest bytes: "))
expected_rows = int(input("Manifest rows: "))
expected_sha256 = input("Manifest SHA-256: ").strip()
body = dataset_path.read_bytes()
actual_sha256 = hashlib.sha256(body).hexdigest()
actual_rows = sum(1 for line in body.splitlines() if line)
print("Byte count matches:", len(body) == expected_bytes)
print("Row count matches:", actual_rows == expected_rows)
print("SHA-256 matches:", actual_sha256 == expected_sha256)
# Use values copied from the session manifest; do not log dataset contents.

Leakage ঠেকান ও সংবেদনশীল data সুরক্ষিত রাখুন

Final acceptance-এর উপকরণ training loop-এর বাইরে রাখুন। যেখানে দরকার সংবেদনশীল ব্যক্তিগত data সরান, ব্যবহারের অধিকার নিশ্চিত করুন এবং তৈরি উদাহরণে ভুল বা ক্ষতিকর ধরন আছে কি না দেখুন। কনফিগার করা deduplication ও file fingerprint overlap শনাক্ত ও integrity বজায় রাখতে সহায়তা করে; সত্যতা প্রমাণ বা privacy review-এর বিকল্প নয়।

  • File digest integrity প্রমাণ করে, সত্যতা বা dataset-এর মান নয়।
  • Shared notebook-এর উদাহরণে প্রকৃত customer record ব্যবহার করবেন না।
  • পুনরুৎপাদনযোগ্যতার জন্য source, permission, topic ও transformation-এর ইতিহাস লিখে রাখুন।

Split ও teacher sharing স্পষ্ট রাখুন

Project স্থানীয় training ও evaluation file যাচাই করে, কনফিগার করা deduplication প্রয়োগ করে, data fingerprint নথিবদ্ধ করে এবং final test split-কে optimization-এর বাইরে রাখে। teacher_sharing approved_only হলে অনুমোদিত training text-ই শুধু অনুমোদিত teacher-কে পাঠানো যায়; none হলে customer example স্থানীয় থাকে।

  • Synthetic teacher example evaluation answer নয়, training text হিসেবে রাখা হয়।
  • Final-test path অবশ্যই rubric.final_test.path-এর সঙ্গে মিলবে।
  • Run provenance-এ dataset version ও fingerprint থাকে।