Datasets:
license: mit
language:
- tr
task_categories:
- text-generation
tags:
- code
- turkish
- pretraining
size_categories:
- n<1K
configs:
- config_name: default
data_files:
- split: train
path: data/train-*.parquet
TR Coding Data (v0.2)
- Documents / Doküman: 28
- Tokens / Token: 317,427 (
Qwen/Qwen3-0.6Btokenizer)
from datasets import load_dataset
ds = load_dataset("TozAI/TR-coding-data", split="train")
English
Raw-text documents that explain programming in Turkish with embedded code, intended for pretraining / mid-training of language models. Each row is one self-contained document (tutorial, project walkthrough, debugging session, ...).
How it was made
Documents were generated with the help of AI models (Qwen, GLM, Claude, ChatGPT, Gemini), then manually reviewed and edited (chat artifacts such as greetings and citation markers were removed). Not every code sample has been executed and verified; please run your own checks before relying on them.
Changelog
- v0.2: One document per row (fixes the broken CSV-derived parquet in v0.1);
added metadata columns (
id,konu,ana_dil,diller,token_count, ...); removed chat artifacts (greetings, filler openers, search citation markers); added new documents (~80K → ~318K tokens). - v0.1: Initial release (~80K tokens). Available via
revision="v0.1".
Türkçe
Türkçe anlatımlı, kod içeren ham metin dokümanları. Dil modellerinin pretraining / mid-training aşaması için hazırlanmıştır. Her satır kendi başına bir dokümandır (rehber, proje anlatımı, hata ayıklama vb.).
Nasıl üretildi
Dokümanlar yapay zeka modelleri (Qwen, GLM, Claude, ChatGPT, Gemini) yardımıyla üretilmiş, ardından elle gözden geçirilip düzenlenmiştir (sohbet ifadeleri ve araç artıkları temizlenmiştir). Kodların tamamı çalıştırılarak doğrulanmamıştır; kullanmadan önce kendi kontrollerinizi yapmanız önerilir.
Sürüm notları
- v0.2: Her doküman tek satır (v0.1'deki CSV kaynaklı bozuk parquet düzeltildi);
id,konu,ana_dil,diller,token_countgibi metadata kolonları eklendi; sohbet artıkları (hitaplar, "Tamam/Harika" açılışları, arama atıfları) temizlendi; yeni dokümanlar eklendi (~80K → ~318K token). - v0.1: İlk sürüm (~80K token).
revision="v0.1"ile erişilebilir.
Columns / Kolonlar
| Column | Description | Açıklama |
|---|---|---|
id |
Document ID | Doküman kimliği |
konu |
Topic | Konu |
ana_dil |
Dominant programming language | Baskın programlama dili |
diller |
All languages in the document | Dokümanda geçen tüm diller |
etiketler |
Free-form tags | Serbest etiketler |
lang |
Natural language (FineWeb-2 code) | Doğal dil (FineWeb-2 kodu) |
token_count |
Token count | Token sayısı |
karakter |
Character count | Karakter sayısı |
kod_orani |
Share of text inside code blocks | Kod bloklarının metne oranı |
text |
Raw text | Ham metin |
Language distribution / Dil dağılımı
Token-weighted, by dominant language / Token ağırlıklı, ana dile göre.
| Language / Dil | Share / Pay |
|---|---|
| python | 25.2% |
| html | 20.8% |
| rust | 19.1% |
| java | 17.3% |
| cpp | 10.8% |
| css | 2.8% |
| javascript | 1.3% |
| typescript | 0.9% |
| bash | 0.9% |
| go | 0.9% |