PashtoNanoCTP

PashtoNanoCTP د پښتو ژبې لپاره یو پاک، معیاري، او لوړ کیفیت لرونکی Conversational Text Pair (CTP) ډیټاسیټ دی. دا ډیټاسیټ د PashtoNanoChat څخه اخیستل شوی، او د user → assistant دوه‑لاین جوړښت په یو واحد ماسټر فایل کې وړاندې کوي.

دا ډیټاسیټ د پښتو ژبې لپاره د LLM pretraining، continual training، او د instruction‑tuning لپاره بنسټیز مواد برابروي.

---

📦 Dataset Structure

PashtoNanoCTP/
    data/
        master_ctp.txt

master_ctp.txt د ټولو user/assistant pairs یو واحد ماسټر فایل دی، چې هر pair په لاندې بڼه دی:

user_text
assistant_text

user_text
assistant_text

...

هیڅ اضافي prefix (USER:/ASSISTANT:) نه کارول کېږي، یوازې خام متن.

---

🧠 Format Details

• هر pair دوه لاینونه لري
• د pair ترمنځ یو خالي لاین شامل دی
• UTF‑8 encoding
• د Pashto ژبې بشپړ ملاتړ
• د cleaning، normalization، او deduplication پروسس شوی

---

🎯 Use Cases

PashtoNanoCTP د لاندې کارونو لپاره مناسب دی:

• د Pashto LLM pretraining
• د continual training لپاره text‑pair corpora
• د Pashto instruction‑tuning لپاره synthetic prompts جوړول
• د Pashto embeddings او semantic similarity ماډلونو روزنه
• د Pashto chatbots او agents جوړول

---

📊 Token Count

د PashtoNanoCTP ټوکن شمېر د tokenizer پورې اړه لري، خو عمومي اندازه یې د PashtoNanoChat سره برابره ده، او د Pashto LLM لپاره کافي حجم لري.

---

🔗 Related Datasets

• PashtoNanoChat — SFT/chat format
  https://huggingface.co/datasets/nassimjp/PashtoNanoChat

PashtoNanoCTP د PashtoNanoChat د pure‑text variant دی.

---

📜 License

Apache‑2.0
دا ډیټاسیټ د خلاصې سرچینې د کارونې لپاره آزاد دی.

---

🙌 Credits

PashtoNanoCTP د Pashto LLM ecosystem د پراختیا لپاره جوړ شوی، د پښتو ژبې د ټکنالوژۍ د پرمختګ په هدف.