मुख्य सामग्री पर जाएं
प्रशिक्षण मार्गदर्शिका के अध्याय सभी दस्तावेज़

विश्वसनीय प्रशिक्षण डेटा तैयार करें

स्पष्ट विभाजन, सत्यापन और गोपनीयता नियंत्रण के साथ स्थानीय JSONL प्रशिक्षण और मूल्यांकन फ़ाइलें तैयार करें।

प्रशिक्षण मार्गदर्शिका के अध्याय

हर भाषा में कमांड और कोड अंग्रेज़ी में ही रहेंगे। बड़े अक्षरों वाले प्लेसहोल्डर को अपने खाते और भुगतान किए गए कार्य के मानों से बदलें; साझा नोटबुक या लॉग में असली कुंजियाँ न डालें।

प्रशिक्षण और मूल्यांकन डेटा अलग रखें

प्रशिक्षण पाठ और prompt/target मूल्यांकन पंक्तियों की स्थानीय फ़ाइलें अलग होती हैं।
  1. स्रोत स्वीकृत प्रशिक्षण पाठ
  2. गुणवत्ता जाँचें, समीक्षा करें और दोहराव हटाएँ
  3. प्रशिक्षण भार अपडेट करने वाले उदाहरण
  4. सत्यापन जवाब सिखाए बिना सुधार का मार्गदर्शन
  5. अंतिम परीक्षण स्थानीय held-out स्वीकृति

स्रोत: स्वीकृत प्रशिक्षण पाठ. गुणवत्ता: जाँचें, समीक्षा करें और दोहराव हटाएँ. प्रशिक्षण: भार अपडेट करने वाले उदाहरण. सत्यापन: जवाब सिखाए बिना सुधार का मार्गदर्शन. अंतिम परीक्षण: स्थानीय held-out स्वीकृति

स्थानीय JSONL डेटा तैयार करें

ट्रेनिंग फ़ाइलों में text फ़ील्ड वाले JSONL ऑब्जेक्ट रखें। मूल्यांकन फ़ाइल की हर पंक्ति में prompt, target और criterion हों; उनका मूल्यांकन स्थानीय रूप से किया जाता है। वैलिडेशन और फ़ाइनल टेस्ट की फ़ाइलें ट्रेनिंग तथा शिक्षक के अनुरोधों से अलग रखें। तैयारी के दौरान पंक्तियाँ जाँची जाती हैं, तय नीति के अनुसार दोहराव हटता है और फ़िंगरप्रिंट तथा हटाए गए रिकॉर्ड दर्ज होते हैं।

  • हर पंक्ति में एक JSON ऑब्जेक्ट रखें और UTF-8 इस्तेमाल करें।
  • वैलिडेशन या फ़ाइनल टेस्ट के जवाब ट्रेनिंग डेटा में न रखें।
  • शिक्षक से अनुरोध करते समय केवल साफ़ तौर पर स्वीकृत ट्रेनिंग उदाहरण भेजें।
उदाहरण · python
from fusionpointai_training.client import DatasetManifest

# Continue with an authenticated client and an owned session.
ready = client.prepare_session(session["id"])
for item in ready["datasets"]:
    manifest = DatasetManifest(
        split=item["split"], sha256=item["sha256"],
        bytes=item["bytes"], rows=item["rows"],
    )
    rows = client.download_dataset(ready["id"], manifest)
    print(manifest.split, len(rows), manifest.sha256)
    # Each row has a text field. Do not log private training content.
उदाहरण · python
import os
from fusionpointai_training import TrainingClient

client = TrainingClient(api_key=os.environ["FUSIONPOINTAI_API_KEY"])
session = client.get_session(os.environ["FUSIONPOINTAI_SESSION_ID"])
for manifest in session["datasets"]:
    print(
        manifest["split"],
        "rows:", manifest["rows"],
        "bytes:", manifest["bytes"],
        "sha256:", manifest["sha256"],
    )
# These are server-provided manifest values, not a local integrity pass.
उदाहरण · python
import hashlib
from pathlib import Path

dataset_path = Path("train.jsonl")
expected_bytes = int(input("Manifest bytes: "))
expected_rows = int(input("Manifest rows: "))
expected_sha256 = input("Manifest SHA-256: ").strip()
body = dataset_path.read_bytes()
actual_sha256 = hashlib.sha256(body).hexdigest()
actual_rows = sum(1 for line in body.splitlines() if line)
print("Byte count matches:", len(body) == expected_bytes)
print("Row count matches:", actual_rows == expected_rows)
print("SHA-256 matches:", actual_sha256 == expected_sha256)
# Use values copied from the session manifest; do not log dataset contents.

डेटा लीक रोकें और संवेदनशील जानकारी सुरक्षित रखें

अंतिम स्वीकृति का डेटा प्रशिक्षण से बाहर रखें। जहाँ ज़रूरी हो निजी जानकारी हटाएँ, उपयोग के अधिकार जाँचें और बने उदाहरणों में गलतियाँ या नुकसानदेह ढर्रे देखें। तय दोहराव-हटाने की नीति और फ़ाइल फ़िंगरप्रिंट मिलते-जुलते रिकॉर्ड पहचानने और डेटा की अखंडता रखने में मदद करते हैं; वे सत्यता साबित नहीं करते और न ही निजता समीक्षा की जगह लेते हैं।

  • फ़ाइल digest अखंडता बताता है, सत्यता या डेटा की गुणवत्ता नहीं।
  • साझा notebook उदाहरणों में असली ग्राहक रिकॉर्ड न रखें।
  • दोहराए जा सकने वाले नतीजों के लिए स्रोत, अनुमति, विषय और बदलाव का इतिहास दर्ज करें।

विभाजन और शिक्षक के साथ साझा करना स्पष्ट रखें

प्रोजेक्ट स्थानीय प्रशिक्षण और मूल्यांकन फ़ाइलें जाँचता है, तय दोहराव-हटाने की नीति लागू करता है, डेटा फ़िंगरप्रिंट दर्ज करता है और अंतिम परीक्षण को अनुकूलन से बाहर रखता है। teacher_sharing को approved_only रखने पर केवल स्वीकृत प्रशिक्षण पाठ अधिकृत शिक्षक को भेजा जा सकता है; none रखने पर ग्राहक के उदाहरण स्थानीय रहते हैं।

  • शिक्षक से बने कृत्रिम उदाहरण प्रशिक्षण पाठ होते हैं, मूल्यांकन उत्तर नहीं।
  • अंतिम परीक्षण का पथ rubric.final_test.path से मेल खाना चाहिए।
  • रन के स्रोत-विवरण में डेटा संस्करण और फ़िंगरप्रिंट शामिल होते हैं।