সব ভাষাতেই command ও code ইংরেজিতে থাকবে। বড় হাতের অক্ষরে লেখা placeholder নিজের account ও paid job-এর মান দিয়ে বদলান; shared notebook বা log-এ আসল key দেবেন না।
প্রশিক্ষণ ও মূল্যায়ন আলাদা রাখুন
- উৎস অনুমোদিত প্রশিক্ষণের লেখা
- মান যাচাই, পর্যালোচনা ও সদৃশ অনুলিপি বাদ দেওয়া
- প্রশিক্ষণ ওজন হালনাগাদে ব্যবহৃত উদাহরণ
- যাচাই উত্তর শেখানো ছাড়াই উন্নতির দিশা
- চূড়ান্ত পরীক্ষা আলাদা রাখা স্থানীয় ডেটায় গ্রহণযোগ্যতা যাচাই
উৎস: অনুমোদিত প্রশিক্ষণের লেখা. মান: যাচাই, পর্যালোচনা ও সদৃশ অনুলিপি বাদ দেওয়া. প্রশিক্ষণ: ওজন হালনাগাদে ব্যবহৃত উদাহরণ. যাচাই: উত্তর শেখানো ছাড়াই উন্নতির দিশা. চূড়ান্ত পরীক্ষা: আলাদা রাখা স্থানীয় ডেটায় গ্রহণযোগ্যতা যাচাই
স্থানীয় JSONL dataset প্রস্তুত করুন
Training source-এ text field-সহ JSONL object থাকে। Evaluation JSONL row-তে prompt, target ও criterion থাকে এবং স্থানীয়ভাবে মূল্যায়ন হয়। Validation ও final-test file training ও teacher request থেকে আলাদা রাখতে হবে। Dataset preparation row যাচাই করে, কনফিগার করা থাকলে split-গুলোর মধ্যে duplicate সরায়, এবং fingerprint ও বাদ পড়া item নথিবদ্ধ করে।
- প্রতি লাইনে একটি JSON object ও UTF-8 ব্যবহার করুন।
- Validation বা final-test উত্তর training text-এ দেবেন না।
- Teacher request-এ শুধু স্পষ্টভাবে অনুমোদিত training example যেতে পারে।
from fusionpointai_training.client import DatasetManifest
# Continue with an authenticated client and an owned session.
ready = client.prepare_session(session["id"])
for item in ready["datasets"]:
manifest = DatasetManifest(
split=item["split"], sha256=item["sha256"],
bytes=item["bytes"], rows=item["rows"],
)
rows = client.download_dataset(ready["id"], manifest)
print(manifest.split, len(rows), manifest.sha256)
# Each row has a text field. Do not log private training content.
import os
from fusionpointai_training import TrainingClient
client = TrainingClient(api_key=os.environ["FUSIONPOINTAI_API_KEY"])
session = client.get_session(os.environ["FUSIONPOINTAI_SESSION_ID"])
for manifest in session["datasets"]:
print(
manifest["split"],
"rows:", manifest["rows"],
"bytes:", manifest["bytes"],
"sha256:", manifest["sha256"],
)
# These are server-provided manifest values, not a local integrity pass.
import hashlib
from pathlib import Path
dataset_path = Path("train.jsonl")
expected_bytes = int(input("Manifest bytes: "))
expected_rows = int(input("Manifest rows: "))
expected_sha256 = input("Manifest SHA-256: ").strip()
body = dataset_path.read_bytes()
actual_sha256 = hashlib.sha256(body).hexdigest()
actual_rows = sum(1 for line in body.splitlines() if line)
print("Byte count matches:", len(body) == expected_bytes)
print("Row count matches:", actual_rows == expected_rows)
print("SHA-256 matches:", actual_sha256 == expected_sha256)
# Use values copied from the session manifest; do not log dataset contents.
Leakage ঠেকান ও সংবেদনশীল data সুরক্ষিত রাখুন
Final acceptance-এর উপকরণ training loop-এর বাইরে রাখুন। যেখানে দরকার সংবেদনশীল ব্যক্তিগত data সরান, ব্যবহারের অধিকার নিশ্চিত করুন এবং তৈরি উদাহরণে ভুল বা ক্ষতিকর ধরন আছে কি না দেখুন। কনফিগার করা deduplication ও file fingerprint overlap শনাক্ত ও integrity বজায় রাখতে সহায়তা করে; সত্যতা প্রমাণ বা privacy review-এর বিকল্প নয়।
- File digest integrity প্রমাণ করে, সত্যতা বা dataset-এর মান নয়।
- Shared notebook-এর উদাহরণে প্রকৃত customer record ব্যবহার করবেন না।
- পুনরুৎপাদনযোগ্যতার জন্য source, permission, topic ও transformation-এর ইতিহাস লিখে রাখুন।
Split ও teacher sharing স্পষ্ট রাখুন
Project স্থানীয় training ও evaluation file যাচাই করে, কনফিগার করা deduplication প্রয়োগ করে, data fingerprint নথিবদ্ধ করে এবং final test split-কে optimization-এর বাইরে রাখে। teacher_sharing approved_only হলে অনুমোদিত training text-ই শুধু অনুমোদিত teacher-কে পাঠানো যায়; none হলে customer example স্থানীয় থাকে।
- Synthetic teacher example evaluation answer নয়, training text হিসেবে রাখা হয়।
- Final-test path অবশ্যই rubric.final_test.path-এর সঙ্গে মিলবে।
- Run provenance-এ dataset version ও fingerprint থাকে।