|
Download README.md from root-sys-n/simple-wikipedia-tr: direct link, hf CLI and curl.
- Browser
- Download file 3.38 kB
-
https://huggingface.co/datasets/root-sys-n/simple-wikipedia-tr/resolve/main/README.md
- Command line
-
hf download hf://datasets/root-sys-n/simple-wikipedia-tr/README.md
-
curl -L -o README.md https://huggingface.co/datasets/root-sys-n/simple-wikipedia-tr/resolve/main/README.md
3.38 kB
metadata
license: cc-by-sa-3.0
language:
- en
- tr
task_categories:
- translation
- text-generation
size_categories:
- n<1K
tags:
- turkish
- tr
- english
- en
- wikipedia
- parallel-corpus
- translation
- text
pretty_name: Simple English → Türkçe Çeviri Veri Seti
Simple English → Türkçe Çeviri Veri Seti
Simple English Wikipedia'nın Türkçe çevirisi. 500 belge; her biri özgün İngilizce metin ve Türkçe çeviriyi bir arada tutuyor. Her modelle (BERT, GPT, T5, Llama vb.) uyumlu, düz metin (JSONL + TXT) formatında.
İçerik
| Dosya | Format | Boyut | Açıklama |
|---|---|---|---|
simple_en_tr.jsonl |
JSONL (UTF-8) | ~1 MB | 500 belge, her satır bir JSON nesnesi (id, source, title, text_en, text_tr) |
simple_en_tr.txt |
Düz metin (UTF-8) | ~0.5 MB | 500 çevrilmiş cümle, her biri bir satırda |
Neden Düz Metin (.jsonl + .txt)?
.bin (uint16 packed token) sadece bu özel modelle uyumludur. Diğer tüm modellerle (BERT, GPT, T5, Llama vb.) çalışabilmek için düz metin formatı kullanılmıştır.
Düz metin avantajları:
- ✅ Her modelle uyumlu (HF, PyTorch, TensorFlow, JAX vb.)
- ✅ İnsan tarafından direkt okunabilir
- ✅ Her editörde açılabilir
- ✅ Çeviri, düzenleme, filtreleme kolay
- ✅ JSONL formatı yapılandırılmış veri içerir (kaynak, başlık, İngilizce ve Türkçe metin)
Nasıl Kullanılır?
JSONL formatı (yapılandırılmış):
import json
from huggingface_hub import hf_hub_download
path = hf_hub_download(
repo_id="root-sys-n/simple-wikipedia-tr", repo_type="dataset",
filename="simple_en_tr.jsonl"
)
records = []
with open(path, encoding="utf-8") as f:
for line in f:
records.append(json.loads(line))
print(f"Toplam: {len(records)} belge")
print(f"Örnek EN: {records[0]['text_en'][:200]}")
print(f"Örnek TR: {records[0]['text_tr'][:200]}")
TXT formatı (sadece çeviri):
from huggingface_hub import hf_hub_download
path = hf_hub_download(
repo_id="root-sys-n/simple-wikipedia-tr", repo_type="dataset",
filename="simple_en_tr.txt"
)
with open(path, encoding="utf-8") as f:
lines = [l.strip() for l in f if l.strip()]
print(f"Toplam: {len(lines)} cümle")
print(lines[0])
JSONL Şeması
| Alan | Tip | Açıklama |
|---|---|---|
id |
string | Benzersiz kimlik (simple_en_XXXXXX) |
source |
string | Kaynak (simple_english_wikipedia) |
title |
string | Wikipedia makale başlığı |
text_en |
string | Orijinal Simple English metni |
text_tr |
string | Türkçe çeviri |
Etiketler (Opsiyonel)
Eğitim verisine şu özel token'lar eklenebilir (model tokenizasyonu sırasında):
| Token | Anlamı |
|---|---|
| `< | cls:konu |
| `< | cls:duygu |
| `< | cls:gorev |
| ` | ` |
| ` | ` |
| `< | pad |
Kaynak
- Simple English Wikipedia (wikimedia/wikipedia, 20231101.simple)
- Çeviri: Helsinki-NLP/opus-mt-tc-big-en-tr
Lisans
Bu veri seti araştırma ve eğitim amaçlıdır. Orijinal Wikipedia içeriği Creative Commons Attribution-ShareAlike 3.0 Unported lisansı kapsamındadır.
İletişim
Sorularınız için HF üzerinden issue açabilirsiniz.