--- license: mit language: - tr task_categories: - text-generation tags: - code - turkish - pretraining size_categories: - n<1K configs: - config_name: default data_files: - split: train path: data/train-*.parquet --- # TR Coding Data (v0.2) **[English](#english) | [Türkçe](#türkçe)** - Documents / Doküman: **28** - Tokens / Token: **317,427** (`Qwen/Qwen3-0.6B` tokenizer) ```python from datasets import load_dataset ds = load_dataset("TozAI/TR-coding-data", split="train") ``` ## English Raw-text documents that explain programming in **Turkish** with embedded code, intended for pretraining / mid-training of language models. Each row is one self-contained document (tutorial, project walkthrough, debugging session, ...). ### How it was made Documents were generated with the help of AI models (Qwen, GLM, Claude, ChatGPT, Gemini), then manually reviewed and edited (chat artifacts such as greetings and citation markers were removed). Not every code sample has been executed and verified; please run your own checks before relying on them. ### Changelog - **v0.2**: One document per row (fixes the broken CSV-derived parquet in v0.1); added metadata columns (`id`, `konu`, `ana_dil`, `diller`, `token_count`, ...); removed chat artifacts (greetings, filler openers, search citation markers); added new documents (~80K → ~318K tokens). - **v0.1**: Initial release (~80K tokens). Available via `revision="v0.1"`. ## Türkçe Türkçe anlatımlı, kod içeren ham metin dokümanları. Dil modellerinin pretraining / mid-training aşaması için hazırlanmıştır. Her satır kendi başına bir dokümandır (rehber, proje anlatımı, hata ayıklama vb.). ### Nasıl üretildi Dokümanlar yapay zeka modelleri (Qwen, GLM, Claude, ChatGPT, Gemini) yardımıyla üretilmiş, ardından elle gözden geçirilip düzenlenmiştir (sohbet ifadeleri ve araç artıkları temizlenmiştir). Kodların tamamı çalıştırılarak doğrulanmamıştır; kullanmadan önce kendi kontrollerinizi yapmanız önerilir. ### Sürüm notları - **v0.2**: Her doküman tek satır (v0.1'deki CSV kaynaklı bozuk parquet düzeltildi); `id`, `konu`, `ana_dil`, `diller`, `token_count` gibi metadata kolonları eklendi; sohbet artıkları (hitaplar, "Tamam/Harika" açılışları, arama atıfları) temizlendi; yeni dokümanlar eklendi (~80K → ~318K token). - **v0.1**: İlk sürüm (~80K token). `revision="v0.1"` ile erişilebilir. ## Columns / Kolonlar | Column | Description | Açıklama | |---|---|---| | `id` | Document ID | Doküman kimliği | | `konu` | Topic | Konu | | `ana_dil` | Dominant programming language | Baskın programlama dili | | `diller` | All languages in the document | Dokümanda geçen tüm diller | | `etiketler` | Free-form tags | Serbest etiketler | | `lang` | Natural language (FineWeb-2 code) | Doğal dil (FineWeb-2 kodu) | | `token_count` | Token count | Token sayısı | | `karakter` | Character count | Karakter sayısı | | `kod_orani` | Share of text inside code blocks | Kod bloklarının metne oranı | | `text` | Raw text | Ham metin | ## Language distribution / Dil dağılımı Token-weighted, by dominant language / Token ağırlıklı, ana dile göre. | Language / Dil | Share / Pay | |---|---| | python | 25.2% | | html | 20.8% | | rust | 19.1% | | java | 17.3% | | cpp | 10.8% | | css | 2.8% | | javascript | 1.3% | | typescript | 0.9% | | bash | 0.9% | | go | 0.9% |