mahan13900/1

Pretraining Corpus (پیکره جامع پیش‌آموزش چندمنبعی)

این مجموعه‌داده شامل 13 بخش اصلی و مستقل است که از منوی کشویی Subset در بالای صفحه هاگینگ‌فیس به صورت زنده قابل انتخاب و مشاهده است:

1. long: مقالات بلند و بیمه‌شده ویکی‌پدیای فارسی (JSONL).
2. short: مقالات خرد و کوتاه ویکی‌پدیای فارسی (JSONL).
3. en_wikipedia_1B: یک میلیارد توکن مقالات بلند ویکی‌پدیای انگلیسی.
4. fineweb_edu_6B: مقالات آموزشی انگلیسی FineWeb-Edu.
5. synthetic_persian_2B: دو میلیارد توکن استدلال و حل مسئله مصنوعی ابن‌سینا.
6. parallel_mizan: یک میلیون جفت‌جمله رمان‌های چاپی میزان بسته‌بندی‌شده به صورت پاراگراف متوالی.
7. parallel_tinystories: داستان‌های دوزبانه انگلیسی-فارسی کودکان TinyStories با گرامر روان.
8. python_code_12B: ده میلیارد توکن کد پایتون ۳ با حداقل ۱ ستاره گیت‌هاب (پوشه: کد_پایتون_starcoder).
9. math_finemath_2_5B: دو و نیم میلیارد توکن ریاضیات جهانی FineMath-4+ با اولویت قطعی ۵ ستاره (پوشه: ریاضیات_جامع_مدل/finemath_english).
10. math_persian_fw2: مقالات تخصصی ریاضیات، حسابان، هندسه و آمار به زبان فارسی استخراج‌شده از FineWeb-2 (پوشه: ریاضیات_جامع_مدل/persian_math_fineweb2).
11. persian_web_clean: وب فارسی فوق‌تمیز، نرمال‌سازی‌شده و پالایش‌شده از FineWeb-2 (پوشه: وب_فارسی_فیلترشده).
12. math_persian_fw2_clean: نسخهٔ پالایش‌شدهٔ بخش ۱۰ در یک شارد واحد؛ با تشخیص‌گر ریاضی سخت‌گیرانه‌تر (شواهد واقعی ریاضی: واژگان تخصصی، LaTeX، معادله)، حذف اسپم/فارکس، صفحات فروش و تبلیغ تدریس/کنکور، دامنه‌های زباله، متن‌های انگلیسی‌غالب و تکراری‌ها، به‌علاوهٔ پاکسازی HTML و خطوط منو/برچسب (۶۵٬۳۳۰ → ۱۱٬۷۵۸ سند، ~۳۰M توکن؛ پوشه: ریاضیات_جامع_مدل/persian_math_fineweb2_clean).
13. quality_classifier_data: دادهٔ آموزش طبقه‌بند کیفیت وب فارسی (۳ کلاس hq/web/junk؛ ۲۰۵٬۳۵۷ سند: ویکی‌پدیای بلند و دادهٔ مصنوعی ابن‌سینا به‌عنوان «دانش‌محور»، وب فارسی معمولی، و اسناد بی‌ارزش بر اساس داور LLM) با تقسیم train/validation/test و نسخهٔ آمادهٔ fastText در زیرپوشهٔ fasttext_format (پوشه: داده_آموزش_کیفیت_وب_فارسی).

مدل امتیازدهی کیفیت (fastText)

پوشهٔ مدل_فست_تکست_کیفیت_وب_فارسی شامل مدل fa_web_quality_v2.ftz (۱۴ MB، کوانتیزه) و .bin، پیش‌پردازش ftnorm.py و metrics.json است. مدل روی داده‌ی بخش 13 آموزش دیده و برای هر سند سه احتمال hq / web / junk می‌دهد؛ در آزمون مستقل در برابر داور LLM دقت 0.9035 و AUC تشخیص junk برابر 0.947 دارد. کاربرد: حذف اسناد با p_junk >= 0.5 (≈۱۳٪ وب) و انتخاب زیرمجموعهٔ ممتاز با p_hq. 14. math_basic_translated_fa: مجموعهٔ ۶۰ هزارتایی آموزش گام‌به‌گام ریاضی پایه و حساب (K-10 Maths Arithmetic) ترجمه‌شده از انگلیسی به فارسی روان با حفظ کامل ساختار محاسباتی (پوشه: ریاضیات_جامع_مدل/ترجمه دیتابیس ریاضی پایه). 15. math_basic_translated_fa_1: مجموعهٔ درس‌نامه‌ها و مقالات آموزشی ریاضی و حساب پایه (K-10) ترجمه‌شده به فارسی روان با مدل quickmt/quickmt-en-fa (پوشه: ریاضیات_جامع_مدل/ترجمه_دیتابیس_ریاضی_پایه_۱). 16. persian_web_cleaned: نسخهٔ فارسیِ تمیزشدهٔ وب با امتیازدهی fastText؛ حذف موارد junk (q_junk ≥ 0.8) و تکراری‌های URL/متن و حذف مقالات ویکی‌پدیا (بر اساس دامنهٔ آدرس)، همراه امتیازهای q_junk و q_hq (JSONL خام؛ 18,779,255 سند، ~22.1B توکن؛ پوشه: وب_فارسی_فست_تکست_بدون_ویکی_پدیا).