--- license: cc-by-sa-3.0 language: - en - tr task_categories: - translation - text-generation size_categories: - n<1K tags: - turkish - tr - english - en - wikipedia - parallel-corpus - translation - text pretty_name: Simple English → Türkçe Çeviri Veri Seti --- # Simple English → Türkçe Çeviri Veri Seti Simple English Wikipedia'nın Türkçe çevirisi. 500 belge; her biri özgün İngilizce metin ve Türkçe çeviriyi bir arada tutuyor. Her modelle (BERT, GPT, T5, Llama vb.) uyumlu, **düz metin (JSONL + TXT)** formatında. ## İçerik | Dosya | Format | Boyut | Açıklama | |-------|--------|-------|----------| | `simple_en_tr.jsonl` | JSONL (UTF-8) | ~1 MB | 500 belge, her satır bir JSON nesnesi (id, source, title, text_en, text_tr) | | `simple_en_tr.txt` | Düz metin (UTF-8) | ~0.5 MB | 500 çevrilmiş cümle, her biri bir satırda | ## Neden Düz Metin (.jsonl + .txt)? `.bin` (uint16 packed token) sadece **bu özel model**le uyumludur. Diğer tüm modellerle (BERT, GPT, T5, Llama vb.) çalışabilmek için **düz metin** formatı kullanılmıştır. **Düz metin avantajları:** - ✅ Her modelle uyumlu (HF, PyTorch, TensorFlow, JAX vb.) - ✅ İnsan tarafından direkt okunabilir - ✅ Her editörde açılabilir - ✅ Çeviri, düzenleme, filtreleme kolay - ✅ JSONL formatı yapılandırılmış veri içerir (kaynak, başlık, İngilizce ve Türkçe metin) ## Nasıl Kullanılır? ### JSONL formatı (yapılandırılmış): ```python import json from huggingface_hub import hf_hub_download path = hf_hub_download( repo_id="root-sys-n/simple-wikipedia-tr", repo_type="dataset", filename="simple_en_tr.jsonl" ) records = [] with open(path, encoding="utf-8") as f: for line in f: records.append(json.loads(line)) print(f"Toplam: {len(records)} belge") print(f"Örnek EN: {records[0]['text_en'][:200]}") print(f"Örnek TR: {records[0]['text_tr'][:200]}") ``` ### TXT formatı (sadece çeviri): ```python from huggingface_hub import hf_hub_download path = hf_hub_download( repo_id="root-sys-n/simple-wikipedia-tr", repo_type="dataset", filename="simple_en_tr.txt" ) with open(path, encoding="utf-8") as f: lines = [l.strip() for l in f if l.strip()] print(f"Toplam: {len(lines)} cümle") print(lines[0]) ``` ## JSONL Şeması | Alan | Tip | Açıklama | |------|-----|----------| | `id` | string | Benzersiz kimlik (simple_en_XXXXXX) | | `source` | string | Kaynak (simple_english_wikipedia) | | `title` | string | Wikipedia makale başlığı | | `text_en` | string | Orijinal Simple English metni | | `text_tr` | string | Türkçe çeviri | ## Etiketler (Opsiyonel) Eğitim verisine şu özel token'lar eklenebilir (model tokenizasyonu sırasında): | Token | Anlamı | |-------|--------| | `<|cls:konu|>` | Konu etiketi başlangıcı | | `<|cls:duygu|>` | Duygu etiketi başlangıcı | | `<|cls:gorev|>` | Görev türü etiketi başlangıcı | | `|` | Cümle başlangıcı | | `|` | Cümle sonu | | `<|pad|>` | Dolgu | ## Kaynak - Simple English Wikipedia (wikimedia/wikipedia, 20231101.simple) - Çeviri: Helsinki-NLP/opus-mt-tc-big-en-tr ## Lisans Bu veri seti araştırma ve eğitim amaçlıdır. Orijinal Wikipedia içeriği Creative Commons Attribution-ShareAlike 3.0 Unported lisansı kapsamındadır. ## İletişim Sorularınız için HF üzerinden issue açabilirsiniz.