Datasets:
File size: 3,446 Bytes
ab91b7d 8f02dcb ab91b7d 8f02dcb 4986015 8f02dcb 4986015 8f02dcb 4986015 8f02dcb 4986015 8f02dcb 4986015 8f02dcb 4986015 8f02dcb 4986015 8f02dcb | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 | ---
license: mit
language:
- tr
task_categories:
- text-generation
tags:
- code
- turkish
- pretraining
size_categories:
- n<1K
configs:
- config_name: default
data_files:
- split: train
path: data/train-*.parquet
---
# TR Coding Data (v0.2)
**[English](#english) | [Türkçe](#türkçe)**
- Documents / Doküman: **28**
- Tokens / Token: **317,427** (`Qwen/Qwen3-0.6B` tokenizer)
```python
from datasets import load_dataset
ds = load_dataset("TozAI/TR-coding-data", split="train")
```
## English
Raw-text documents that explain programming in **Turkish** with embedded code,
intended for pretraining / mid-training of language models. Each row is one
self-contained document (tutorial, project walkthrough, debugging session, ...).
### How it was made
Documents were generated with the help of AI models (Qwen, GLM, Claude, ChatGPT, Gemini), then manually
reviewed and edited (chat artifacts such as greetings and citation markers were
removed). Not every code sample has been executed and verified; please run your
own checks before relying on them.
### Changelog
- **v0.2**: One document per row (fixes the broken CSV-derived parquet in v0.1);
added metadata columns (`id`, `konu`, `ana_dil`, `diller`, `token_count`, ...);
removed chat artifacts (greetings, filler openers, search citation markers);
added new documents (~80K → ~318K tokens).
- **v0.1**: Initial release (~80K tokens). Available via `revision="v0.1"`.
## Türkçe
Türkçe anlatımlı, kod içeren ham metin dokümanları. Dil modellerinin pretraining /
mid-training aşaması için hazırlanmıştır. Her satır kendi başına bir dokümandır
(rehber, proje anlatımı, hata ayıklama vb.).
### Nasıl üretildi
Dokümanlar yapay zeka modelleri (Qwen, GLM, Claude, ChatGPT, Gemini) yardımıyla üretilmiş, ardından elle
gözden geçirilip düzenlenmiştir (sohbet ifadeleri ve araç artıkları temizlenmiştir).
Kodların tamamı çalıştırılarak doğrulanmamıştır; kullanmadan önce kendi
kontrollerinizi yapmanız önerilir.
### Sürüm notları
- **v0.2**: Her doküman tek satır (v0.1'deki CSV kaynaklı bozuk parquet düzeltildi);
`id`, `konu`, `ana_dil`, `diller`, `token_count` gibi metadata kolonları eklendi;
sohbet artıkları (hitaplar, "Tamam/Harika" açılışları, arama atıfları) temizlendi;
yeni dokümanlar eklendi (~80K → ~318K token).
- **v0.1**: İlk sürüm (~80K token). `revision="v0.1"` ile erişilebilir.
## Columns / Kolonlar
| Column | Description | Açıklama |
|---|---|---|
| `id` | Document ID | Doküman kimliği |
| `konu` | Topic | Konu |
| `ana_dil` | Dominant programming language | Baskın programlama dili |
| `diller` | All languages in the document | Dokümanda geçen tüm diller |
| `etiketler` | Free-form tags | Serbest etiketler |
| `lang` | Natural language (FineWeb-2 code) | Doğal dil (FineWeb-2 kodu) |
| `token_count` | Token count | Token sayısı |
| `karakter` | Character count | Karakter sayısı |
| `kod_orani` | Share of text inside code blocks | Kod bloklarının metne oranı |
| `text` | Raw text | Ham metin |
## Language distribution / Dil dağılımı
Token-weighted, by dominant language / Token ağırlıklı, ana dile göre.
| Language / Dil | Share / Pay |
|---|---|
| python | 25.2% |
| html | 20.8% |
| rust | 19.1% |
| java | 17.3% |
| cpp | 10.8% |
| css | 2.8% |
| javascript | 1.3% |
| typescript | 0.9% |
| bash | 0.9% |
| go | 0.9% |
|