CPT_MASTER / DOMAIN_DISTRIBUTION.md
Mandotosh's picture
Add DOMAIN_DISTRIBUTION.md
e67bc45 verified
|
Raw History Blame Contribute Delete
4.58 kB
# CPT_MASTER — Domain Distribution Report
Bu rapor yeni bir domain sınıflandırması çalıştırmaz; daha önce mevcut olan domain etiketlerini ve B için önceden üretilmiş exact block→record→domain raporunu kullanır. `Etiketsiz` ve `UNRESOLVED` kayıtlar aynen korunur.
## Paket özeti
- NDSRF004 vocab SHA256: `72412d981dac65a29d1767bc98821fc2bcffc2de53c534e7c719598515bfb600`
- Packing context: **8192**
- Master oluştururken yeniden tokenize/repack: **hayır**
- İndirilebilir üç bileşenin tüm splitlerde toplam source tokenı: **8,669,093,965**
- Underlying union TRAIN source tokenı: **8,620,031,310**
- Gerçek B + C training exposure source tokenı: **6,437,138,130**
- B actual training: exact `balanced_50_50` schedule (all core + seçilmiş eski TR Dizin).
- C actual continuation: delta train blocklarının tamamı bir kez.
## Gerçek B + C training exposure — ilk 25 domain
| Domain (mevcut etiket) | Source token | Pay |
|---|---:|---:|
| `10_teknoloji_muhendislik` | 666,514,250 | 10.354% |
| `Dünya ve Genel Bilgi` | 556,854,427 | 8.651% |
| `Kültür, Sanat ve Beşerî Bilimler` | 529,517,946 | 8.226% |
| `14_kultur_sanat_beseri` | 506,563,479 | 7.869% |
| `04_saglik_insan` | 480,839,363 | 7.470% |
| `Sosyal Bilimler` | 471,835,908 | 7.330% |
| `12_tarim_gida_cevre` | 428,223,439 | 6.652% |
| `Türkiye Bilgisi` | 387,823,037 | 6.025% |
| `08_egitim_ders_bilgisi` | 337,964,597 | 5.250% |
| `06_ekonomi_finans_is` | 317,166,357 | 4.927% |
| `Referans ve Yapılandırılmış Bilgi` | 232,228,469 | 3.608% |
| `03_fen_doga_bilimleri` | 227,549,299 | 3.535% |
| `Eğitim` | 187,452,127 | 2.912% |
| `07_hukuk_kamu` | 176,470,504 | 2.741% |
| `09_turkce_dil_edebiyat` | 169,465,474 | 2.633% |
| `Fen ve Doğa Bilimleri` | 137,932,100 | 2.143% |
| `02_dunya_genel_bilgi` | 132,533,685 | 2.059% |
| `Teknoloji ve Mühendislik` | 129,775,376 | 2.016% |
| `Sağlık ve İnsan` | 63,159,187 | 0.981% |
| `Türkçe, Dil ve Edebiyat` | 59,851,457 | 0.930% |
| `Etiketsiz` | 57,930,479 | 0.900% |
| `11_matematik_nicel` | 48,719,555 | 0.757% |
| `Ekonomi, Finans ve İş Hayatı` | 41,567,598 | 0.646% |
| `Hukuk ve Kamu` | 22,998,323 | 0.357% |
| `Pratik Yaşam ve Common Sense` | 22,544,607 | 0.350% |
## Underlying downloadable union TRAIN — ilk 25 domain
| Domain (mevcut etiket) | Source token | Pay |
|---|---:|---:|
| `04_saglik_insan` | 902,440,974 | 10.469% |
| `Sosyal Bilimler` | 807,908,377 | 9.372% |
| `10_teknoloji_muhendislik` | 806,826,276 | 9.360% |
| `08_egitim_ders_bilgisi` | 631,492,228 | 7.326% |
| `06_ekonomi_finans_is` | 596,541,285 | 6.920% |
| `Dünya ve Genel Bilgi` | 556,854,427 | 6.460% |
| `14_kultur_sanat_beseri` | 540,674,505 | 6.272% |
| `Kültür, Sanat ve Beşerî Bilimler` | 529,517,946 | 6.143% |
| `Türkiye Bilgisi` | 449,541,359 | 5.215% |
| `12_tarim_gida_cevre` | 428,223,439 | 4.968% |
| `03_fen_doga_bilimleri` | 425,198,108 | 4.933% |
| `07_hukuk_kamu` | 329,759,283 | 3.825% |
| `09_turkce_dil_edebiyat` | 317,864,811 | 3.688% |
| `02_dunya_genel_bilgi` | 249,371,927 | 2.893% |
| `Referans ve Yapılandırılmış Bilgi` | 232,228,469 | 2.694% |
| `Eğitim` | 187,452,127 | 2.175% |
| `Fen ve Doğa Bilimleri` | 137,932,100 | 1.600% |
| `Teknoloji ve Mühendislik` | 129,775,376 | 1.506% |
| `Sağlık ve İnsan` | 63,159,187 | 0.733% |
| `Türkçe, Dil ve Edebiyat` | 59,851,457 | 0.694% |
| `Etiketsiz` | 57,930,479 | 0.672% |
| `11_matematik_nicel` | 48,719,555 | 0.565% |
| `Ekonomi, Finans ve İş Hayatı` | 41,567,598 | 0.482% |
| `Hukuk ve Kamu` | 22,998,323 | 0.267% |
| `Pratik Yaşam ve Common Sense` | 22,544,607 | 0.262% |
## C delta TRAIN — exact
| Domain (mevcut etiket) | Source token | Pay |
|---|---:|---:|
| `10_teknoloji_muhendislik` | 505,157,278 | 34.834% |
| `11_matematik_nicel` | 48,719,555 | 3.359% |
| `12_tarim_gida_cevre` | 428,223,439 | 29.529% |
| `14_kultur_sanat_beseri` | 468,103,009 | 32.278% |
## Cross-component exact dedup kontrolü
- `core_cpt__trdizin_base` ortak `dedup_sha256`: **0**
- `core_cpt__trdizin_delta` ortak `dedup_sha256`: **0**
- `trdizin_base__trdizin_delta` ortak `dedup_sha256`: **0**
## Dosya yapısı
```text
CPT_MASTER/
├── data/
│ ├── core_cpt_8k_packed/
│ ├── trdizin_base_8k_packed/
│ └── trdizin_delta_8k_packed/
├── B_TRAINING_PROFILE/
├── C_TRAINING_PROFILE/
├── MASTER_MANIFEST.json
├── DOMAIN_DISTRIBUTION.json
└── DOMAIN_DISTRIBUTION.md
```
JSON raporu tüm raw domain etiketlerini içerir; Markdown okunabilirlik için ilk 25’i gösterir.