Add NedoLM_CPT_Technical_Report_Updated_PreSFT_20260927.md

NedoLM_CPT_Technical_Report_Updated_PreSFT_20260927.md

@@ -0,0 +1,1068 @@
+# NedoLM-0.8B Türkçe Continued Pretraining (CPT)
+## Veri Toplama, Korpus Yapısı ve Eğitim Altyapısı Teknik Raporu — Güncellenmiş Pre-SFT Sürümü
+
+**Tarih:** 27 Eylül 2026  
+**Durum:** Ana B checkpoint'i `step_00010397.pt` seviyesinde SFT tabanı olarak hazırlanmış ve vocab-resize dönüşümü tensor düzeyinde audit edilmiştir. Nihai benchmark/evaluation sonuçları bu sürümün kapsamına dahil edilmemiştir.  
+**Kapsam:** Korpus oluşturma, kaynak seçimi, filtreleme, domain yapısı, tokenizasyon/paketleme, eğitim veri karışımı, model ve training altyapısı, TRUBA reprodüksiyon yolları.
+
+---
+
+## 1. Raporun amacı ve kapsam sınırı
+
+Bu rapor, NedoLM-0.8B modelinin Türkçe bilgi kapasitesini ve uzun-bağlam kullanımını güçlendirmek amacıyla hazırlanan Continued Pretraining (CPT) çalışmasının **veri** ve **model eğitimi** kollarını teknik olarak belgelendirir.
+
+Çalışmanın bu aşamasında ana eğitim henüz tamamlanmadığından aşağıdaki sonuçlar bu sürüme bilinçli olarak dahil edilmemiştir:
+
+- nihai benchmark sonuçları,
+- MMLU-benzeri değerlendirmeler,
+- Türkçe knowledge benchmarkları,
+- uzun-context kullanım testleri,
+- pre-CPT / post-CPT karşılaştırmaları,
+- downstream görev karşılaştırmaları.
+
+Bu bölümler model eğitimi tamamlandıktan sonra ayrı bir evaluation/benchmark bölümü olarak eklenecektir. Bu nedenle bu sürüm **sonuç raporu değil, veri ve eğitim metodolojisi raporudur**.
+
+---
+
+# PART I — DATA / CORPUS CONSTRUCTION
+
+## 2. Veri stratejisinin genel tasarımı
+
+CPT korpusu tek bir web dump veya tek bir kaynak üzerine kurulmadı. Korpus, birbirini tamamlayan birkaç ana veri ailesinden oluşturuldu:
+
+1. **TR Dizin akademik makaleleri**
+2. **Türkçe Wikipedia**
+3. **Wikimedia ailesi**
+4. **Türkiye odaklı ansiklopedi ve referans kaynakları**
+5. **MEB ve eğitim/kurumsal metinler**
+6. **Türkçe eğitim YouTube transkriptleri**
+7. **Genel Türkçe YouTube ve bilimsel/popüler bilim içerikleri**
+8. Küçük fakat yüksek bilgi yoğunluklu kurumsal kaynaklar
+
+Temel tasarım ilkesi şuydu:
+
+> Büyük kaynaklar korpusun hacim ve bilgi omurgasını oluştururken, daha küçük kaynaklar belirli bilgi boşluklarını, Türkiye bilgisini, ders içeriğini, akademik çeşitliliği veya dilsel çeşitliliği tamamlar.
+
+Bu nedenle bütün kaynakların domain dağılımını aynı ayrıntıda raporlamak anlamlı değildir. Domain analizi özellikle büyük iki kaynak üzerinde önemlidir:
+
+- TR Dizin
+- Wikipedia TR
+
+MEB, ATAM, TTK, TDK, TÜBA Açık Ders, TÜBİTAK, YEK, ANKADEM, Wikimedia alt projeleri ve YouTube kaynaklarında ise kaynak/provenance ve token katkısı esas raporlama eksenidir.
+
+---
+
+## 3. Canonical veri modeli ve veri izlenebilirliği
+
+Kaynaklar farklı formatlarda gelmesine rağmen training-ready aşamasında ortak bir canonical şemaya normalize edildi. Temel alanlar arasında şunlar bulunmaktadır:
+
+- `record_id`
+- `source_family`
+- `source`
+- `source_record_id`
+- `training_text`
+- `title`
+- `language`
+- `domain`
+- `subdomain`
+- `subject`
+- `grade`
+- `date`
+- `quality`
+- `license`
+- `rights_status`
+- `training_eligibility`
+- `source_url`
+- `split_group`
+- `text_sha256`
+- `dedup_sha256`
+- `raw_record_sha256`
+- `estimated_tokens`
+- `word_count`
+- `char_count`
+- `raw_source_path`
+- `raw_locator`
+- `source_metadata_json`
+- `canonical_version`
+
+YouTube-derived veriler için video ve section metadata alanları ayrıca korunmuştur.
+
+Modelin doğrudan gördüğü ana alan `training_text`tir. Dosya yolu, provenance, lisans, domain, crawl bilgisi gibi metadata eğitim metnine zorla eklenmemiştir. Bu karar modelin pipeline metadata'sını doğal dilmiş gibi öğrenmesini engellemek amacıyla alınmıştır.
+
+Exact text deduplication için kullanılan temel normalizasyon:
+
+`SHA256(NFKC(text), Unicode-whitespace collapsed, stripped)`
+
+şeklindedir; case korunur.
+
+---
+
+# 4. TR Dizin akademik korpusu
+
+## 4.1 Neden TR Dizin?
+
+TR Dizin, Türkçe akademik makale verisi açısından korpusun en önemli knowledge-heavy kaynağıdır. Sağlık, sosyal bilimler, eğitim, ekonomi, hukuk, fen, mühendislik, dil/edebiyat, tarım ve beşerî bilimler gibi çok sayıda alana yayılan uzun biçimli akademik metin sağlar.
+
+Ancak TR Dizin acquisition süreci, “tüm metadata kayıtlarını indir ve kullan” kadar basit değildir. Üç ayrı problemle karşılaşıldı:
+
+- bütün kayıtların PDF/full-text erişimi aynı hızda veya aynı yöntemle mümkün değildi,
+- full-text elde edilen kayıtların tümü Türkçe değildi,
+- teknik olarak indirilebilir görünen bazı kayıtlar bozuk PDF, kısa metin, title mismatch veya HTTP hataları nedeniyle elendi.
+
+Bu nedenle TR Dizin süreci **metadata/candidate → full-text acquisition → validation → language audit → canonical dedup → tokenization** zinciri olarak yürütüldü.
+
+---
+
+## 4.2 Fast/direct ve yavaş erişim ayrımı
+
+İlk hızlı acquisition katmanında doğrudan/OPEN erişilebilen adaylar önceliklendirildi.
+
+Phase-A tarafında:
+
+- direct/OPEN candidate: **517.545**
+- acquisition raporlarında işlenen: **517.545**
+- validated full-text: **497.741**
+- teknik başarısızlık: **19.804**
+
+Başlıca teknik failure nedenleri:
+
+| Failure tipi | Kayıt |
+|---|---:|
+| short_text | 11.355 |
+| title_mismatch | 6.175 |
+| not_pdf | 1.358 |
+| pdf_read_failed | 245 |
+| getfile_http_404 | 240 |
+| duplicate | 172 |
+| extract_error | 122 |
+| getfile_timeout | 111 |
+| pdf_http_404 | 26 |
+
+Bu sonuç, teorik metadata havuzu ile fiilen training-ready full-text korpusunun aynı olmadığını gösterir. Hızlı/direct erişim havuzu verimli biçimde tüketilebilirken, kalan yavaş erişim katmanı aynı throughput ile çekilemedi. Bu nedenle çalışma yalnız “TR Dizin’de kaç makale var?” sorusuyla değil, **kaç tanesine güvenilir full-text erişilebildiği** sorusuyla yönetildi.
+
+---
+
+## 4.3 Dil filtresi ve ilk TR Dizin korpusu
+
+İlk language-audit snapshot'ı **405.885** validated kaydı kapsadı:
+
+- Türkçe: **241.771**
+- English/non-TR: **159.368**
+- uncertain: **4.746**
+
+Dolayısıyla full-text bulunmuş olması tek başına CPT'ye dahil edilme anlamına gelmedi. Türkçe odaklı CPT için non-TR ve uncertain kayıtlar ana Türkçe korpustan ayrıldı.
+
+Daha sonra full sweep direct/generic katmanlarından ek Türkçe kayıtlar geldi. İlk canonical TR Dizin build'i:
+
+- input rows: **259.827**
+- canonical unique rows: **259.716**
+- exact duplicate removed: **111**
+- existing core CPT exact overlap: **0**
+- train: **258.394**
+- validation: **1.322**
+- unique word count: **1.947.060.481**
+- unique character count: **15.004.622.015**
+
+Kaynak bucket'ları:
+
+| Bucket | Input | Kept |
+|---|---:|---:|
+| Phase-A Turkish | 241.771 | 241.681 |
+| Full-sweep direct | 17.963 | 17.942 |
+| Full-sweep generic | 93 | 93 |
+
+Split, DOI mevcutsa DOI group; değilse article ID üzerinden deterministik yaklaşık %0,5 validation politikasıyla yapılmıştır. Split-group overlap sıfırdır.
+
+---
+
+## 4.4 İlk snapshot dışında kalan 91.856 kayıt ve Türkçe delta
+
+Acquisition klasöründeki accepted chunk'ların bir bölümü ilk language-audit snapshot'ına zamanında girmemişti. Sonradan belirlenen bu delta:
+
+- toplam: **91.856**
+- Türkçe: **59.788**
+- non-TR/English: **31.241**
+- uncertain: **827**
+
+Bu 59.788 Türkçe kaydın kalıcı row-level manifesti oluşturuldu ve sonraki işlemler bu manifest üzerinden gerçekleştirildi.
+
+Kalıcı manifest:
+
+`/arf/scratch/egitimg16/CPT_PAPER_DERIVED/TRDIZIN_DELTA_TR_MANIFEST_V1/turkish_manifest.jsonl`
+
+Delta canonicalization sonucu:
+
+- input Turkish: **59.788**
+- kept unique: **59.730**
+- mevcut core/TR Dizin overlap removed: **35**
+- delta içi duplicate removed: **23**
+- train: **59.449**
+- validation: **281**
+
+Delta'nın kayıt bazlı domain yapısı:
+
+| Domain | Unique kayıt |
+|---|---:|
+| Teknoloji ve Mühendislik | 13.528 |
+| Matematik ve Nicel | 2.605 |
+| Tarım, Gıda ve Çevre | 19.491 |
+| Kültür, Sanat ve Beşerî | 24.106 |
+
+Bu delta ana balanced run hazırlandıktan sonra bulunduğu için mevcut çalışan dataset'e live-inject edilmedi. Dataset ve run fingerprint'ini bozmak yerine ayrı, immutable continuation corpusu olarak hazırlandı.
+
+---
+
+## 4.5 TR Dizin tokenizasyon ve 8K packing
+
+Ana TR Dizin canonical build'i NDSRF004 ile tokenize edildi:
+
+- toplam source token: **4.699.971.864**
+- EOS dahil gerçek token: **4.700.231.580**
+- train source token: **4.676.661.834**
+- train block: **571.601**
+- train packing efficiency: **%99,88**
+- missing records: **0**
+- truncated records: **0**
+- unmapped source tokens: **0**
+- source-token coverage: **%100**
+
+Uzun akademik makaleler 8K input'a sığmadığında kaynak metin kaybı yapılmadı. Kayıtlar **8191 source token + EOS** mantığıyla lossless fragment'lere ayrıldı.
+
+TR Dizin'in önemli bir özelliği budur: orijinal makalelerin büyük bölümü 8K'dan uzundur. İlk train build'deki orijinal uzunluk dağılımında en büyük hacim 8K–32K ve 32K+ belgelerden gelmektedir. Dolayısıyla makale sayısı ile packed 8K block sayısı aynı kavram değildir.
+
+Örneğin **304.798**, production mix'te seçilen TR Dizin makale sayısı değil, **8K packed block sayısıdır**.
+
+Delta Türkçe corpus için:
+
+- toplam source token: **1.457.671.415**
+- EOS dahil gerçek token: **1.457.731.145**
+- train source token: **1.450.203.281**
+- train block: **177.295**
+- validation block: **924**
+- train packing efficiency: yaklaşık **%99,85**
+
+---
+
+# 5. Wikipedia TR
+
+## 5.1 Wikipedia'yı düz makale dump'ı olarak kullanmama nedeni
+
+Wikipedia TR veri kolu yalnız “makaleleri çek, concatenate et” yaklaşımıyla hazırlanmadı. Makale/topic/category ilişkileri kullanılarak topic-cluster tabanlı bir yapı üretildi. Domain sınıflandırmasında:
+
+- topic labels,
+- source subcategory,
+- article titles,
+- doğrudan Wikipedia categories,
+- one-hop category ancestry
+
+kullanıldı. QID ise article identity metadata olarak korundu.
+
+V3 domain sınıflandırması deterministik weak-supervision taxonomy classifier ile üretildi.
+
+---
+
+## 5.2 Wikipedia selection ve tekrar kontrolü
+
+Ham cluster havuzu:
+
+- input raw clusters: **518.627**
+- input rough tokens: **2.732.687.312**
+
+Curation sırasında:
+
+- meta dropped: **5.354**
+- exact document-set duplicate dropped: **9.518**
+- article reuse cap: **20**
+- reuse-cap nedeniyle dropped cluster: **169.520**
+
+Final curated Wikipedia:
+
+- curated clusters: **334.235**
+- curated rough tokens: **1.743.301.711**
+- memberships: **1.374.515**
+- unique articles: **193.256**
+- TIGHT clusters: **132.760**
+- MEDIUM clusters: **201.475**
+- unresolved curated clusters: yalnızca **91**
+
+Buradaki “rough token” Wikipedia curation aşamasında kullanılan yaklaşık metriktir. Final NDSRF004 packing'de gerçek tokenizer token sayısı farklıdır.
+
+Final core packed corpus içindeki **Wikipedia_TR train katkısı 2.201.679.062 gerçek NDSRF004 source token**dır.
+
+---
+
+## 5.3 Wikipedia TR domain dağılımı
+
+Aşağıdaki oranlar final curated Wikipedia'nın **1.743B rough-token** hacmi üzerinden hesaplanmıştır; yeniden domain sınıflandırması yapılmamıştır, mevcut V3 domain etiketleri kullanılmıştır.
+
+| Domain | Rough token | Pay |
+|---|---:|---:|
+| Dünya ve Genel Bilgi | 445,4M | %25,55 |
+| Kültür, Sanat ve Beşerî Bilimler | 408,5M | %23,43 |
+| Türkiye Bilgisi | 262,0M | %15,03 |
+| Referans ve Yapılandırılmış Bilgi | 155,8M | %8,94 |
+| Fen ve Doğa Bilimleri | 105,4M | %6,04 |
+| Teknoloji ve Mühendislik | 104,5M | %5,99 |
+| Sosyal Bilimler | 72,8M | %4,18 |
+| Sağlık ve İnsan | 47,8M | %2,74 |
+| Türkçe, Dil ve Edebiyat | 45,9M | %2,63 |
+| Ekonomi, Finans ve İş Hayatı | 33,2M | %1,91 |
+| Hukuk ve Kamu | 18,6M | %1,07 |
+| Pratik Yaşam ve Common Sense | 18,3M | %1,05 |
+| Matematik ve Nicel Bilgi | 13,6M | %0,78 |
+| Tarım, Gıda ve Çevresel Üretim | 7,2M | %0,41 |
+| Eğitim ve Ders Bilgisi | 4,0M | %0,23 |
+| Unresolved | 0,48M | %0,03 |
+
+Bu dağılım Wikipedia'nın özellikle genel dünya bilgisi, kültür/beşerî bilimler, Türkiye bilgisi ve referans bilgisinde güçlü olduğunu; matematik, eğitim, tarım gibi alanların ise Wikipedia'da doğal olarak daha küçük kaldığını göstermektedir. TR Dizin ve eğitim kaynakları bu dengesizliği tamamlayan ana kaynaklardır.
+
+Wikipedia ana corpus:
+
+`/arf/scratch/egitimg16u5/nedolm_wiki_bulk/processed/curated/wikipedia_cpt_v1.jsonl.gz`
+
+Hazır domain raporu:
+
+`/arf/scratch/egitimg16u5/nedolm_wiki_bulk/analysis/cpt_domain_distribution_v3.json`
+
+Final stats:
+
+`/arf/scratch/egitimg16u5/nedolm_wiki_bulk/manifests/wikipedia_cpt_v1_stats.json`
+
+---
+
+# 6. Wikimedia ve ansiklopedi ailesi
+
+Core corpus yalnız Türkçe Wikipedia'dan oluşmamaktadır.
+
+Wikimedia ailesindeki train source-token katkıları:
+
+| Kaynak | NDSRF004 train source token |
+|---|---:|
+| Wiktionary | 10,998M |
+| Wikisource | 15,883M |
+| Wikiquote | 3,971M |
+| Wikibooks | 1,769M |
+| Wikivoyage | 0,254M |
+| Wikinews | 0,389M |
+| **Toplam Wikimedia family** | **33,263M** |
+
+Referans/ansiklopedi kolunda ayrıca:
+
+| Kaynak | NDSRF004 train source token |
+|---|---:|
+| Atatürk Ansiklopedisi | 4,624M |
+| Türk Dünyası Ansiklopedisi | 1,878M |
+| Türk Maarif Ansiklopedisi | 3,041M |
+| TÜBİTAK Sosyal Bilimler Ansiklopedisi | 1,552M |
+| **Ansiklopedi family toplamı** | **11,095M** |
+
+Referans kaynaklarının ana TRUBA kökü:
+
+`/arf/scratch/egitimg16u5/nedolm_reference_sources_v1/`
+
+Wikimedia family processed:
+
+`/arf/scratch/egitimg16u5/nedolm_reference_sources_v1/processed/wikimedia_family/`
+
+TÜBİTAK SBA:
+
+`/arf/scratch/egitimg16u5/nedolm_reference_sources_v1/processed/tubitak_sba/TUBITAK_Sosyal_Bilimler_Ansiklopedisi.parquet`
+
+---
+
+# 7. MEB, eğitim ve kurumsal kaynaklar
+
+MEB_Agent final v8, yalnız klasik MEB ders kitaplarından oluşmaz. Kaynak-bazlı final yapı 11 ana kaynağı kapsar:
+
+- ANKADEM
+- ATAM
+- KTB
+- MEB_AOL_MAOL
+- MEB_Meslek
+- MEB_TYMM
+- TDK
+- TTK
+- TÜBA Açık Ders
+- TÜBİTAK Akademik
+- YEK
+
+Final source-only MEB_Agent export:
+
+- toplam kayıt: **20.725**
+- tahmini rough token: **105.893.553**
+- train kayıt: **19.737**
+- validation: **988**
+- source sayısı: **11**
+- split-group overlap: **0**
+- cross-split exact-text overlap: **0**
+- QA: **PASS**
+
+Final core NDSRF004 packed dataset içinde `meb_education` family train katkısı:
+
+**112.604.433 source token**
+
+Öne çıkan packed source katkıları:
+
+| Kaynak | NDSRF004 train source token |
+|---|---:|
+| MEB_Meslek | 33,450M |
+| ATAM | 24,299M |
+| YEK | 20,752M |
+| ANKADEM | 17,978M |
+| TTK | 7,687M |
+| MEB_TYMM | 5,221M |
+| TÜBA Açık Ders | 1,479M |
+| TÜBİTAK Akademik | 0,926M |
+| TDK | 0,435M |
+| MEB_AOL_MAOL | 0,221M |
+| KTB | 0,158M |
+
+Bu kaynaklarda hacimden önce kalite hedeflendi. Soru/test, cevap anahtarı, öğrenci yönergesi, Moodle/UI kabuğu, web boilerplate, OCR çöpü, tekrar eden footer/header ve bağlamsız kısa parçalar mümkün olduğunca dışarıda bırakıldı.
+
+Ana kök:
+
+`/arf/scratch/egitimg16u5/meb_tymm_20260912/`
+
+Training-ready:
+
+`/arf/scratch/egitimg16u5/meb_tymm_20260912/cpt_pipeline/training_ready_global_final_v8/`
+
+Final source-only export:
+
+`/arf/scratch/egitimg16u5/meb_tymm_20260912/hf_export/Meb_Agent_source_only_final_v8/`
+
+---
+
+# 8. YouTube ve diğer tamamlayıcı kaynaklar
+
+Eğitim YouTube corpusu matematik, fizik, kimya, biyoloji, Türkçe, coğrafya ve sınav/ders anlatım kanallarından oluşturuldu.
+
+Core packed train contribution:
+
+- `youtube_education`: **86.719.575 source token**
+- `youtube_general`: **47.805.215 source token**
+
+Ayrıca `EvrimAgaci_Sectioned` 6.653 unique section ile core'a eklendi; train tarafındaki gerçek NDSRF004 katkısı yaklaşık **2,071M token**dır.
+
+Eğitim YouTube kaynaklarında örnek kanallar:
+
+- Hocalara Geldik
+- Biosem Biyoloji
+- Rehber Matematik
+- Özcan Aykın FİZİK
+- Paraksilen Kimya
+- Dr. Biyoloji
+- Coğrafyanın Kodları
+- Rüştü Hoca ile Türkçe
+- Deniz Hoca
+- Benim Hocam
+- Mert Hoca
+- Eyüp B. Matematik Geometri
+- Altuğ Güneş FİZİK
+- Tonguç Konu Anlatımı
+
+Bu kaynakların tek tek domain yüzdeleri raporun ana konusu değildir; toplam corpus içindeki payları TR Dizin ve Wikipedia'ya göre daha küçüktür.
+
+Ana YouTube çalışma kökü:
+
+`/arf/home/egitimg16u5/edu_corpus/`
+
+Merged clean:
+
+`/arf/home/egitimg16u5/edu_corpus/Turkish_Edu_Clean/all_clean.jsonl`
+
+Tonguç:
+
+`/arf/home/egitimg16u5/tonguc_hf/`
+
+---
+
+# 9. Core corpusun gerçek NDSRF004 bileşimi
+
+Training-ready core pack'in train split'i:
+
+- records: **739.330**
+- source tokens: **2.493.166.195**
+- EOS dahil real tokens: **2.493.905.525**
+- 8K blocks: **360.607**
+
+Family bazında train source token:
+
+| Family | Token |
+|---|---:|
+| Wikipedia TR | 2.201.679.062 |
+| MEB / education | 112.604.433 |
+| Education YouTube | 86.719.575 |
+| General YouTube | 47.805.215 |
+| Wikimedia family | 33.262.825 |
+| Encyclopedias | 11.095.085 |
+
+Core build tüm source tokenları lossless olarak map etmiştir:
+
+- missing records: 0
+- truncated records: 0
+- unmapped source tokens: 0
+- coverage: %100
+
+---
+
+# 10. Ana production mix
+
+İki büyük packed corpus:
+
+### Core
+`/arf/scratch/egitimg16/CPT_MASTER_DERIVED/CPT_TRAIN_READY_V2_8K_PACKED`
+
+### TR Dizin
+`/arf/scratch/egitimg16/CPT_PAPER_DERIVED/TRDIZIN_CPT_8K_PACKED_V1`
+
+Virtual combined dataset:
+
+`/arf/scratch/egitimg16/CPT_MASTER_DERIVED/CPT_COMBINED_8K_V1/`
+
+Ana production profili `balanced_50_50` olarak tanımlandı.
+
+Politika:
+
+> Bütün core train block'larını bir kez gör + TR Dizin'den replacement olmadan, core'un real-token exposure'ına eşit olacak miktarda block seç.
+
+Sonuç:
+
+| Metrik | Core | TR Dizin selected |
+|---|---:|---:|
+| Train blocks | 360.607 | 304.798 |
+| Real token exposure | 2.493.905.525 | 2.493.906.259 |
+| Pay | %49,99999 | %50,00001 |
+
+Toplam production schedule:
+
+- train blocks: **665.405**
+- exact source tokens: **4.986.934.849**
+- replacement: **yok**
+- bütün core blocks: **görülüyor**
+- TR Dizin full pool'un tamamı: **ana balanced epoch'ta görülmüyor**
+
+`natural_full` profili ise bütün core + bütün ilk TR Dizin train blocks'larını kapsar:
+
+- train blocks: **932.208**
+- train source tokens: **7.169.828.029**
+- validation dahil toplam source tokens: **7.211.422.550**
+
+---
+
+# 11. Production domain dağılımı
+
+Domain raporu packed train sequences üzerinden exact source-token attribution ile üretildi.
+
+Rapor:
+
+`/arf/scratch/egitimg16/CPT_MASTER_DERIVED/CPT_COMBINED_8K_V1/reports/DOMAIN_DISTRIBUTION_EXACT_20260921.json`
+
+Farklı kaynak pipeline'larının tarihsel etiket isimleri nedeniyle aynı domain bazen Türkçe label, bazen `03_fen_doga_bilimleri` gibi slug halinde bulunuyordu. Aşağıdaki tablo semantik olarak aynı label'ların canonical birleştirilmiş görünümüdür.
+
+| Canonical domain | Yaklaşık source token | Production pay |
+|---|---:|---:|
+| Dünya ve Genel Bilgi | 689,4M | %13,82 |
+| Kültür, Sanat ve Beşerî Bilimler | 568,0M | %11,39 |
+| Sağlık ve İnsan | 544,0M | %10,91 |
+| Sosyal Bilimler | 471,8M | %9,46 |
+| Türkiye Bilgisi | 387,8M | %7,78 |
+| Fen ve Doğa Bilimleri | 365,5M | %7,33 |
+| Ekonomi, Finans ve İş Hayatı | 358,7M | %7,19 |
+| Eğitim ve Ders Bilgisi | 344,6M | %6,91 |
+| Teknoloji ve Mühendislik | 291,1M | %5,84 |
+| Referans ve Yapılandırılmış Bilgi | 232,2M | %4,66 |
+| Türkçe, Dil ve Edebiyat | 229,3M | %4,60 |
+| Hukuk ve Kamu | 199,5M | %4,00 |
+| Eğitim (legacy label) | 187,5M | %3,76 |
+| Etiketsiz | 57,9M | %1,16 |
+| Pratik Yaşam / Common Sense | 22,5M | %0,45 |
+| Matematik ve Nicel Bilgi | 17,3M | %0,35 |
+| Tarım/Gıda/Çevresel Üretim | 9,3M | %0,19 |
+
+Küçük mesleki domain label'ları toplamın küçük bir bölümünü oluşturur.
+
+Önemli metodolojik not: explicit `Matematik ve Nicel Bilgi` etiketi matematik içeriğinin tamamını temsil etmez. Matematik içeriğinin bir bölümü eğitim, fen, mühendislik veya ilgili kaynak label'ları altında da bulunur.
+
+---
+
+# 12. Tokenizer ve packing
+
+Bütün production corpusu aynı tokenizer ile hazırlanmıştır:
+
+**NDSRF004**
+
+Vocabulary fingerprint:
+
+`72412d981dac65a29d1767bc98821fc2bcffc2de53c534e7c719598515bfb600`
+
+Tokenizer asset:
+
+`/arf/scratch/egitimg16u5/NedoTokenizer/assets/surface-vocab.bin`
+
+Packing politikasının kritik özellikleri:
+
+- context block: **8192**
+- her original record/fragment sonunda EOS
+- source text mutate edilmez
+- title otomatik olarak training text'e inject edilmez
+- uzun kayıtlar lossless exact token boundary'de parçalanır
+- bağımsız semantic sequences `cu_seqlens` ile attention açısından izole edilir
+- position IDs her bağımsız sequence başında sıfırlanır
+- cross-sequence target ve padding target maskelenir
+- source token coverage %100 olarak doğrulanır
+
+Bu tasarımda physical 8K packing yalnız compute verimliliği sağlar; bağımsız belgeler birbirine yanlışlıkla attention vermez.
+
+---
+
+# PART II — MODEL / CONTINUED PRETRAINING
+
+# 13. Başlangıç modeli
+
+CPT doğrudan eski 4K base checkpoint'ten değil, daha önce uzun-context adaptasyonu yapılmış NedoLM-0.8B checkpoint'inden başlatılmıştır:
+
+`/arf/scratch/egitimg16/nedolm_0p8b/runs/nedolm-0p8b-cpt32k-natural-long-repair-v5/checkpoints/step_00000320.pt`
+
+Model yaklaşık **823M parametre** düzeyindedir.
+
+Ana mimari:
+
+| Parametre | Değer |
+|---|---:|
+| vocab_size | 32.000 |
+| d_model | 1.536 |
+| layers | 24 |
+| attention heads | 12 |
+| KV heads | 4 |
+| head_dim | 128 |
+| FFN dim | 5.632 |
+| RoPE theta | 1.000.000 |
+| base max_seq_len | 32.768 |
+| base sliding_window | 32.768 |
+| global_attn_every_n | 0 |
+| attention implementation | FlashAttention |
+| tied embeddings | true |
+
+Model config:
+
+`/arf/scratch/egitimg16/nedolm_0p8b/configs/nedolm_0p8b_longbase32k_model.yaml`
+
+---
+
+# 14. 32K base model üzerinde 8K CPT
+
+Base model 32K context için yapılandırılmış olsa da production CPT trainer:
+
+`max_seq_len = 8192`
+
+olarak çalışır.
+
+Base config'teki `sliding_window=32768` korunur. Input yalnızca 8192 token olduğundan pratikte her packed semantic sequence için **full 8K causal attention** mümkündür. Böylece CPT fazı 8K block'larla verimli yürütülürken modelin 32K RoPE/context altyapısı yapısal olarak değiştirilmez.
+
+Bu kararın sonucu:
+
+- CPT compute maliyeti 32K training'e göre belirgin biçimde düşer,
+- model 8K içinde tam attention kullanır,
+- 32K kapasite mimariden silinmez,
+- ancak 32K kullanım kalitesinin post-CPT benchmark ile ayrıca doğrulanması gerekir.
+
+Bu son madde evaluation aşamasına bırakılmıştır.
+
+---
+
+# 15. Packed FlashAttention semantiği
+
+Training batch'i fiziksel olarak 8K bloklardan oluşur; ancak bir block içinde birden fazla bağımsız sequence olabilir.
+
+Loader model tarafına esas olarak:
+
+- `input_ids`
+- `labels`
+- `position_ids`
+- `cu_seqlens`
+- `max_seqlen`
+
+verir.
+
+`cu_seqlens`, bağımsız semantic sequence sınırlarını FlashAttention varlen kernel'ine taşır. Böylece bir fiziksel block'a birlikte pack edilen bağımsız makaleler birbirini göremez.
+
+Position ID her sequence'de yeniden 0'dan başlar.
+
+Bu, yüksek packing efficiency ile veri semantiğini birbirinden ayırmayı aynı anda mümkün kılar.
+
+---
+
+# 16. Objective ve loss normalization
+
+CPT bir SFT görevi değildir.
+
+Kullanılan objective:
+
+**full causal language modeling**
+
+Training text içindeki doğal tokenlar next-token prediction loss'una katılır. Assistant-only masking uygulanmaz.
+
+DDP + gradient accumulation altında loss normalization özel olarak düzeltildi. Trainer her rank'in local summed token loss'unu kullanır; global trainable target token sayısı `all_reduce` ile hesaplanır ve gradient:
+
+`world_size / global_targets`
+
+ölçeğiyle normalize edilir.
+
+Böylece optimizer gradient'i yaklaşık batch ortalaması değil, matematiksel olarak:
+
+**bütün GPU'lar ve bütün accumulation microbatch'leri üzerindeki exact global trainable-target-token mean**
+
+objective'ine karşılık gelir.
+
+Trainer contract version:
+
+`nedolm_cpt_packed8k_v2_token_exact_20260921`
+
+Trainer:
+
+`/arf/scratch/egitimg16/nedolm_0p8b/nedolm/cpt_train.py`
+
+---
+
+# 17. Ana production training config
+
+Production config:
+
+`/arf/scratch/egitimg16/nedolm_0p8b/configs/nedolm_0p8b_cpt8k_prod.yaml`
+
+Temel hyperparameter'lar:
+
+| Parametre | Değer |
+|---|---:|
+| GPU | 4 × H200 |
+| context | 8192 |
+| micro batch / GPU | 4 blocks |
+| grad accumulation | 4 |
+| global blocks / optimizer step | 64 |
+| physical context tokens / full step | 524.288 |
+| LR | 2e-5 |
+| min LR ratio | 0,1 |
+| betas | 0,9 / 0,95 |
+| weight decay | 0,1 |
+| grad clip | 1,0 |
+| schedule | cosine |
+| warmup | 100 steps |
+| grad checkpointing | off |
+| dataloader workers / rank | 4 |
+| eval interval | 500 |
+| checkpoint interval | 500 |
+| keep_last | 3 |
+| keep_every | 2000 |
+
+665.405 block'luk schedule 4-rank sampler'a bölünürken yalnızca **3 deterministic tail block** padding tekrarına ihtiyaç duyar. Bu nedenle fiziksel olarak işlenen block sayısı yaklaşık 665.408'dir.
+
+Bir balanced epoch için otomatik optimizer step hedefi:
+
+**10.397 step**
+
+---
+
+# 18. DDP, checkpoint ve resume güvenliği
+
+Production trainer yalnız training loss'u hesaplayan basit bir loop değildir. Run'ın yanlış veri veya yanlış config ile sessizce resume edilmesini önlemek için fail-closed contract kullanılır.
+
+Contract/fingerprint içine dahil edilenler:
+
+- combined dataset manifest SHA
+- deterministic schedule SHA
+- combined loader SHA
+- packed loader SHA
+- source assembly manifest SHA
+- loader QA SHA
+- source file manifests
+- model config
+- optimizer config
+- world size
+- micro batch
+- grad accumulation
+- seed
+- code dosyalarının SHA'ları
+- morphology code SHA
+- role table SHA
+- base checkpoint identity
+- base checkpoint SHA256
+- objective semantics
+- keep/checkpoint semantics
+
+Resume checkpoint'inde ayrıca exact:
+
+`local_samples_consumed`
+
+cursor'ı tutulur.
+
+Run contract değişirse trainer unsafe resume'u reddeder.
+
+Source shard'lar production başında full SHA256 verification'dan geçirilir.
+
+---
+
+# 19. Validation yapısı
+
+Validation tek bir aggregate sayıdan ibaret değildir.
+
+Ana run'da source-stratified validation tutulmuştur:
+
+- `core_cpt`
+- `trdizin_articles`
+- token-weighted combined
+
+Validation subset'leri deterministik, seeded ve source-specific olarak seçilir.
+
+Bu yapı özellikle akademik TR Dizin loss'u ile core/general knowledge loss'unun eğitim sırasında birbirinden ayrı izlenmesine olanak tanır.
+
+Nihai evaluation/benchmark sonuçları bu rapor sürümüne dahil edilmemiştir; burada yalnız training-time validation altyapısı belgelenmektedir.
+
+---
+
+# 20. TRUBA production job
+
+SLURM:
+
+`/arf/scratch/egitimg16/nedolm_0p8b/jobs/cpt8k_prod_4h200.slurm`
+
+Run directory:
+
+`/arf/scratch/egitimg16/nedolm_0p8b/runs/cpt-balanced8k-v1/`
+
+Checkpoint directory:
+
+`/arf/scratch/egitimg16/nedolm_0p8b/runs/cpt-balanced8k-v1/checkpoints/`
+
+Ana job kaynakları:
+
+- partition: `kolyoz-cuda`
+- constraint: H200
+- 1 node
+- 4 tasks/node
+- 16 CPU/task
+- 4 GPU
+- 128 GB host memory
+- 12 saat SLURM limit
+- `USR1@300` pre-timeout signal
+
+Trainer signal aldığında bütün DDP rank'larında stop flag senkronize edilir ve optimizer step sonrasında checkpoint alarak çıkar.
+
+---
+
+# 21. İkinci faz: TR Dizin Türkçe delta continuation
+
+Ana balanced dataset hazırlandıktan sonra bulunan 1,45B-token Türkçe delta mevcut çalışan dataset'e live-inject edilmemiştir.
+
+Bunun yerine ayrı immutable continuation dataset hazırlanmıştır:
+
+Packed delta:
+
+`/arf/scratch/egitimg16/CPT_PAPER_DERIVED/TRDIZIN_DELTA_TR_8K_PACKED_V1/`
+
+Single-source training wrapper:
+
+`/arf/scratch/egitimg16/CPT_MASTER_DERIVED/CPT_TRDIZIN_DELTA_SINGLE_8K_V1/`
+
+Continuation config:
+
+`/arf/scratch/egitimg16/nedolm_0p8b/configs/nedolm_0p8b_cpt8k_trd_delta_v1.yaml`
+
+SLURM:
+
+`/arf/scratch/egitimg16/nedolm_0p8b/jobs/cpt8k_trd_delta_4h200.slurm`
+
+Bu faz:
+
+- ana run final checkpoint'i `step_00010397.pt` olmadan başlamaz,
+- 4×H200 kullanır,
+- 177.295 delta train block'un tamamını deterministic shuffle ile bir kez görür,
+- global batch yapısını korur,
+- LR'ı yeni dar continuation fazında **1e-5** olarak başlatır,
+- optimizer state'i yeni CPT fazı için reset eder.
+
+Bu ikinci fazın amacı ilk language-audit snapshot'ı dışında kalan yüksek hacimli Türkçe akademik veriyi modelden mahrum bırakmamaktır.
+
+---
+
+# 22. Data ve model kod yolları — reprodüksiyon özeti
+
+## Ana canonical core
+
+`/arf/scratch/egitimg16u5/CPT_MASTER/builds/CPT_TRAIN_READY_V2/`
+
+## Packed core
+
+`/arf/scratch/egitimg16/CPT_MASTER_DERIVED/CPT_TRAIN_READY_V2_8K_PACKED/`
+
+## TR Dizin canonical
+
+`/arf/scratch/egitimg16/CPT_PAPER_DERIVED/TRDIZIN_CPT_CANONICAL_V1/`
+
+## TR Dizin packed
+
+`/arf/scratch/egitimg16/CPT_PAPER_DERIVED/TRDIZIN_CPT_8K_PACKED_V1/`
+
+## Combined production dataset
+
+`/arf/scratch/egitimg16/CPT_MASTER_DERIVED/CPT_COMBINED_8K_V1/`
+
+## Delta manifest
+
+`/arf/scratch/egitimg16/CPT_PAPER_DERIVED/TRDIZIN_DELTA_TR_MANIFEST_V1/turkish_manifest.jsonl`
+
+## Delta packed
+
+`/arf/scratch/egitimg16/CPT_PAPER_DERIVED/TRDIZIN_DELTA_TR_8K_PACKED_V1/`
+
+## Wikipedia
+
+`/arf/scratch/egitimg16u5/nedolm_wiki_bulk/`
+
+## Reference/encyclopedia sources
+
+`/arf/scratch/egitimg16u5/nedolm_reference_sources_v1/`
+
+## MEB / institutional
+
+`/arf/scratch/egitimg16u5/meb_tymm_20260912/`
+
+## Trainer
+
+`/arf/scratch/egitimg16/nedolm_0p8b/nedolm/cpt_train.py`
+
+## Main CPT config
+
+`/arf/scratch/egitimg16/nedolm_0p8b/configs/nedolm_0p8b_cpt8k_prod.yaml`
+
+## Base model config
+
+`/arf/scratch/egitimg16/nedolm_0p8b/configs/nedolm_0p8b_longbase32k_model.yaml`
+
+---
+
+# 23. Kalite ve veri güvenliği ilkeleri
+
+Bu ��alışmada corpus hacmini büyütmek tek hedef değildir. Aşağıdaki prensipler uygulanmıştır:
+
+1. **Türkçe filtresi:** Özellikle akademik acquisition'da non-TR ve uncertain kayıtlar Türkçe ana korpustan ayrıldı.
+2. **Exact dedup:** canonical metin hash'i üzerinden duplicate kontrolü.
+3. **Cross-corpus dedup:** yeni TR Dizin delta eski core ve eski TR Dizin'e karşı kontrol edildi.
+4. **Split-group güvenliği:** DOI/video/book/topic benzeri group'ların split'ler arasında dağılması engellendiği yerlerde group-aware split kullanıldı.
+5. **Lossless tokenization:** source token coverage %100 doğrulandı.
+6. **Immutable builds:** final canonical/packed dataset'ler çalışan job sırasında mutate edilmedi.
+7. **Provenance:** raw locator, source URL ve metadata korunur.
+8. **Training integrity:** shard SHA256 ve run contract doğrulaması.
+9. **Metadata/model-text ayrımı:** provenance bilgileri `training_text` içine zorla yazılmaz.
+10. **Physical packing ≠ semantic merging:** bağımsız belgeler attention açısından izole edilir.
+
+---
+
+# 24. Bilinen sınırlamalar ve raporlanması gereken nüanslar
+
+### 24.1 TR Dizin tüm metadata evreninin tamamı değildir
+
+Korpus yalnız TR Dizin'in teorik toplam makale sayısı olarak sunulmamalıdır. Fast/direct erişim, teknik PDF doğrulama, language filtering ve acquisition throughput nedeniyle kullanılabilir full-text alt kümesi elde edilmiştir.
+
+### 24.2 İngilizce akademik kayıtlar bilinçli olarak dışarıda bırakılmıştır
+
+TR Dizin full-text havuzunda kayda değer İngilizce/non-TR içerik bulunmaktadır. Bunlar Türkçe CPT ana korpusuna otomatik alınmamıştır.
+
+### 24.3 Wikipedia rough token ile gerçek tokenizer tokenı farklıdır
+
+Wikipedia curation raporundaki ~1,743B “rough token” ile final NDSRF004 train source tokenı ~2,202B farklı metriklerdir. Paper'da bunlar aynı sayı türüymüş gibi karşılaştırılmamalıdır.
+
+### 24.4 Domain label namespace'i tamamen tekilleştirilmemiştir
+
+Farklı pipeline dönemlerinden gelen bazı domainler human-readable ad, bazıları slug veya meslek alanı adı olarak saklanmıştır. Exact report ham label'ları korur; paper tablosu semantik canonicalization ile sunulmalıdır.
+
+### 24.5 Explicit math domain payı toplam matematik sinyalini eksik sayar
+
+Matematik içeriği yalnız `Matematik ve Nicel Bilgi` label'ında değildir; eğitim, fen, mühendislik ve ders anlatımı verilerinde de bulunur.
+
+### 24.6 8K CPT, 32K kalitesinin garantisi değildir
+
+Model 32K altyapısından gelmektedir; 8K CPT bunun mimari kapasitesini silmez. Ancak post-CPT 32K kullanım kalitesi ancak benchmark ile doğrulanabilir.
+
+---
+
+
+# 25. SFT base hazırlığı ve 32.002-vocab resize audit
+
+Ana CPT sonrasında B checkpoint'inin SFT/chat formatına hazırlanması sırasında vocabulary boyutu **32.000 → 32.002** olacak şekilde iki yeni özel token eklenmiştir. Bu işlem sonrasında model dönüşümü tensor düzeyinde ayrıca audit edilmiştir.
+
+Audit sonucu:
+
+**PASS**
+
+ve hata listesi boştur.
+
+Doğrulanan invariant'lar:
+
+- Kaynak checkpoint gerçekten ana B run'ının **step 10.397** checkpoint'idir:
+
+  `/arf/scratch/egitimg16/nedolm_0p8b/runs/cpt-balanced8k-v1/checkpoints/step_00010397.pt`
+
+- Dönüştürülmüş model checkpoint kimliğinde de **step 10.397** korunmuştur.
+- Modelde toplam **236 tensor** bulunmaktadır.
+- Yalnızca beklenen **19 tensor** değişmiştir:
+  - `embed_tokens.weight`
+  - 18 adet `layers.X.ffn.token_roles`
+- Bunun dışındaki bütün tensorlar **bitwise birebir aynı** kalmıştır.
+- Eski vocabulary'ye karşılık gelen ilk **32.000 embedding satırı bitwise aynıdır**.
+- Yeni `32000` ve `32001` token embedding'leri, SFT hazırlığında tanımlanan aynı deterministik formülle üretilmiştir.
+- Eski 32.000 token-role değeri birebir korunmuştur.
+- İki yeni token için role girişleri doğru şekilde `0` olarak eklenmiştir.
+- Beklenmeyen herhangi bir tensor değişikliği gözlenmemiştir.
+
+Dönüştürülmüş SFT base modeli:
+
+`/arf/scratch/egitimg16/nedolm_0p8b/sft_im_special_v1/base_B_step10397_vocab32002_modelonly.pt`
+
+Tensor-level audit raporu:
+
+`/arf/scratch/egitimg16/nedolm_0p8b/sft_im_special_v1/BASE_B_STEP10397_RESIZE_AUDIT.json`
+
+Audit sırasında raporlanan SHA256:
+
+`d7f897891754c9b39128568b74306d16e37c7d20c80f43d75729923345eba272`
+
+Bu doğrulama, SFT hazırlığı için yapılan vocabulary genişletmesinin **B checkpoint'inin CPT sırasında öğrendiği mevcut ağırlıkları değiştirmediğini**; değişikliklerin yalnızca iki yeni chat/special tokenın desteklenmesi için gerekli embedding ve token-role yapılarıyla sınırlı kaldığını göstermektedir.
+
+---
+
+# 26. Evaluation aşamasında eklenecek bölümler
+
+Eğitim tamamlandıktan sonra teknik rapora aşağıdaki blokların eklenmesi planlanmaktadır:
+
+- pre-CPT vs post-CPT Türkçe knowledge benchmark,
+- farklı akademik alanlarda knowledge testi,
+- MMLU/Türkçe benzeri çok-alanlı benchmarklar,
+- kısa-context ve uzun-context karşılaştırması,
+- farklı derslerde long-context evidence kullanım testi,
+- 8K ve mümkünse 16K/32K context değerlendirmesi,
+- catastrophic forgetting kontrolü,
+- TR Dizin held-out akademik validation analizi,
+- core/general validation karşılaştırması,
+- qualitative generation örnekleri.
+
+Bu sonuçlar gelmeden corpus veya training metodolojisinden model performansı hakkında nihai başarı iddiası çıkarılmamalıdır.
+
+---
+
+# 27. Sonuç
+
+NedoLM-0.8B CPT çalışması, yaklaşık 823M parametreli Türkçe odaklı bir modelin knowledge yoğunluğunu artırmak için iki ana büyük veri omurgasını birleştirmektedir:
+
+- geniş ve genel bilgi sağlayan **Wikipedia TR merkezli core corpus**,
+- uzun biçimli uzmanlık ve akademik bilgi sağlayan **TR Dizin**.
+
+Core train corpusu yaklaşık **2,493B NDSRF004 source token**, balanced production için seçilen TR Dizin bölümü yaklaşık **2,494B source token** sağlamaktadır. Böylece ilk ana production epoch'u yaklaşık **4,987B exact source tokenlık 50/50 exposure** ile tasarlanmıştır.
+
+Buna ek olarak ilk language-audit snapshot'ı dışında kalan **59.730 unique Türkçe TR Dizin makalesinden yaklaşık 1,458B tokenlık ikinci akademik delta corpus** hazırlanmıştır ve ana run finalinden sonra ayrı continuation phase olarak eğitilecektir.
+
+Corpus; Wikipedia, Wikimedia, ansiklopediler, MEB ve kurumsal eğitim kaynakları, eğitim YouTube kanalları ve daha küçük uzman kaynaklarla desteklenmiştir. NDSRF004 tokenizasyonu, lossless 8K packing, `cu_seqlens` attention isolation, exact global target-token loss normalization, deterministic schedule, SHA256 source verification ve fail-closed resume contract ile veri ve training reproducibility'si korunmuştur.
+
+Ana B checkpoint'inin SFT hazırlığı için yapılan **32.000→32.002 vocabulary genişletmesi** ayrıca tensor düzeyinde audit edilmiş ve **PASS** almıştır. İlk 32.000 embedding satırı ile yeni tokenlar dışında kalan bütün model tensorlarının bitwise korunması, CPT ile öğrenilen ağırlıkların SFT-base dönüşümü sırasında değiştirilmediğini doğrulamaktadır.
+
+Bu sürümün odak noktası **“model ne kadar iyi oldu?”** sorusu değil, **“hangi veriyle, hangi filtrelerle, hangi domain yapısıyla ve hangi training semantiğiyle eğitildi?”** sorusudur. Model tamamlandığında ikinci rapor katmanı benchmark ve evaluation sonuçlarıyla bu metodolojinin etkisini ölçecektir.