|
Download DOMAIN_DISTRIBUTION.md from MercanAI/CPT_MASTER: direct link, hf CLI and curl.
- Browser
- Download file 4.58 kB
-
https://huggingface.co/datasets/MercanAI/CPT_MASTER/resolve/main/DOMAIN_DISTRIBUTION.md
- Command line
-
hf download hf://datasets/MercanAI/CPT_MASTER/DOMAIN_DISTRIBUTION.md
-
curl -L -o DOMAIN_DISTRIBUTION.md https://huggingface.co/datasets/MercanAI/CPT_MASTER/resolve/main/DOMAIN_DISTRIBUTION.md
4.58 kB
CPT_MASTER — Domain Distribution Report
Bu rapor yeni bir domain sınıflandırması çalıştırmaz; daha önce mevcut olan domain etiketlerini ve B için önceden üretilmiş exact block→record→domain raporunu kullanır. Etiketsiz ve UNRESOLVED kayıtlar aynen korunur.
Paket özeti
- NDSRF004 vocab SHA256:
72412d981dac65a29d1767bc98821fc2bcffc2de53c534e7c719598515bfb600 - Packing context: 8192
- Master oluştururken yeniden tokenize/repack: hayır
- İndirilebilir üç bileşenin tüm splitlerde toplam source tokenı: 8,669,093,965
- Underlying union TRAIN source tokenı: 8,620,031,310
- Gerçek B + C training exposure source tokenı: 6,437,138,130
- B actual training: exact
balanced_50_50schedule (all core + seçilmiş eski TR Dizin). - C actual continuation: delta train blocklarının tamamı bir kez.
Gerçek B + C training exposure — ilk 25 domain
| Domain (mevcut etiket) | Source token | Pay |
|---|---|---|
10_teknoloji_muhendislik |
666,514,250 | 10.354% |
Dünya ve Genel Bilgi |
556,854,427 | 8.651% |
Kültür, Sanat ve Beşerî Bilimler |
529,517,946 | 8.226% |
14_kultur_sanat_beseri |
506,563,479 | 7.869% |
04_saglik_insan |
480,839,363 | 7.470% |
Sosyal Bilimler |
471,835,908 | 7.330% |
12_tarim_gida_cevre |
428,223,439 | 6.652% |
Türkiye Bilgisi |
387,823,037 | 6.025% |
08_egitim_ders_bilgisi |
337,964,597 | 5.250% |
06_ekonomi_finans_is |
317,166,357 | 4.927% |
Referans ve Yapılandırılmış Bilgi |
232,228,469 | 3.608% |
03_fen_doga_bilimleri |
227,549,299 | 3.535% |
Eğitim |
187,452,127 | 2.912% |
07_hukuk_kamu |
176,470,504 | 2.741% |
09_turkce_dil_edebiyat |
169,465,474 | 2.633% |
Fen ve Doğa Bilimleri |
137,932,100 | 2.143% |
02_dunya_genel_bilgi |
132,533,685 | 2.059% |
Teknoloji ve Mühendislik |
129,775,376 | 2.016% |
Sağlık ve İnsan |
63,159,187 | 0.981% |
Türkçe, Dil ve Edebiyat |
59,851,457 | 0.930% |
Etiketsiz |
57,930,479 | 0.900% |
11_matematik_nicel |
48,719,555 | 0.757% |
Ekonomi, Finans ve İş Hayatı |
41,567,598 | 0.646% |
Hukuk ve Kamu |
22,998,323 | 0.357% |
Pratik Yaşam ve Common Sense |
22,544,607 | 0.350% |
Underlying downloadable union TRAIN — ilk 25 domain
| Domain (mevcut etiket) | Source token | Pay |
|---|---|---|
04_saglik_insan |
902,440,974 | 10.469% |
Sosyal Bilimler |
807,908,377 | 9.372% |
10_teknoloji_muhendislik |
806,826,276 | 9.360% |
08_egitim_ders_bilgisi |
631,492,228 | 7.326% |
06_ekonomi_finans_is |
596,541,285 | 6.920% |
Dünya ve Genel Bilgi |
556,854,427 | 6.460% |
14_kultur_sanat_beseri |
540,674,505 | 6.272% |
Kültür, Sanat ve Beşerî Bilimler |
529,517,946 | 6.143% |
Türkiye Bilgisi |
449,541,359 | 5.215% |
12_tarim_gida_cevre |
428,223,439 | 4.968% |
03_fen_doga_bilimleri |
425,198,108 | 4.933% |
07_hukuk_kamu |
329,759,283 | 3.825% |
09_turkce_dil_edebiyat |
317,864,811 | 3.688% |
02_dunya_genel_bilgi |
249,371,927 | 2.893% |
Referans ve Yapılandırılmış Bilgi |
232,228,469 | 2.694% |
Eğitim |
187,452,127 | 2.175% |
Fen ve Doğa Bilimleri |
137,932,100 | 1.600% |
Teknoloji ve Mühendislik |
129,775,376 | 1.506% |
Sağlık ve İnsan |
63,159,187 | 0.733% |
Türkçe, Dil ve Edebiyat |
59,851,457 | 0.694% |
Etiketsiz |
57,930,479 | 0.672% |
11_matematik_nicel |
48,719,555 | 0.565% |
Ekonomi, Finans ve İş Hayatı |
41,567,598 | 0.482% |
Hukuk ve Kamu |
22,998,323 | 0.267% |
Pratik Yaşam ve Common Sense |
22,544,607 | 0.262% |
C delta TRAIN — exact
| Domain (mevcut etiket) | Source token | Pay |
|---|---|---|
10_teknoloji_muhendislik |
505,157,278 | 34.834% |
11_matematik_nicel |
48,719,555 | 3.359% |
12_tarim_gida_cevre |
428,223,439 | 29.529% |
14_kultur_sanat_beseri |
468,103,009 | 32.278% |
Cross-component exact dedup kontrolü
core_cpt__trdizin_baseortakdedup_sha256: 0core_cpt__trdizin_deltaortakdedup_sha256: 0trdizin_base__trdizin_deltaortakdedup_sha256: 0
Dosya yapısı
CPT_MASTER/
├── data/
│ ├── core_cpt_8k_packed/
│ ├── trdizin_base_8k_packed/
│ └── trdizin_delta_8k_packed/
├── B_TRAINING_PROFILE/
├── C_TRAINING_PROFILE/
├── MASTER_MANIFEST.json
├── DOMAIN_DISTRIBUTION.json
└── DOMAIN_DISTRIBUTION.md
JSON raporu tüm raw domain etiketlerini içerir; Markdown okunabilirlik için ilk 25’i gösterir.