simple-wikipedia-tr / README.md
root-sys-n's picture
docs: add frontmatter metadata (license, tags, categories)
aba1539
|
Raw History Blame Contribute Delete
3.38 kB
metadata
license: cc-by-sa-3.0
language:
  - en
  - tr
task_categories:
  - translation
  - text-generation
size_categories:
  - n<1K
tags:
  - turkish
  - tr
  - english
  - en
  - wikipedia
  - parallel-corpus
  - translation
  - text
pretty_name: Simple English → Türkçe Çeviri Veri Seti

Simple English → Türkçe Çeviri Veri Seti

Simple English Wikipedia'nın Türkçe çevirisi. 500 belge; her biri özgün İngilizce metin ve Türkçe çeviriyi bir arada tutuyor. Her modelle (BERT, GPT, T5, Llama vb.) uyumlu, düz metin (JSONL + TXT) formatında.

İçerik

Dosya Format Boyut Açıklama
simple_en_tr.jsonl JSONL (UTF-8) ~1 MB 500 belge, her satır bir JSON nesnesi (id, source, title, text_en, text_tr)
simple_en_tr.txt Düz metin (UTF-8) ~0.5 MB 500 çevrilmiş cümle, her biri bir satırda

Neden Düz Metin (.jsonl + .txt)?

.bin (uint16 packed token) sadece bu özel modelle uyumludur. Diğer tüm modellerle (BERT, GPT, T5, Llama vb.) çalışabilmek için düz metin formatı kullanılmıştır.

Düz metin avantajları:

  • ✅ Her modelle uyumlu (HF, PyTorch, TensorFlow, JAX vb.)
  • ✅ İnsan tarafından direkt okunabilir
  • ✅ Her editörde açılabilir
  • ✅ Çeviri, düzenleme, filtreleme kolay
  • ✅ JSONL formatı yapılandırılmış veri içerir (kaynak, başlık, İngilizce ve Türkçe metin)

Nasıl Kullanılır?

JSONL formatı (yapılandırılmış):

import json
from huggingface_hub import hf_hub_download

path = hf_hub_download(
    repo_id="root-sys-n/simple-wikipedia-tr",    repo_type="dataset",
    filename="simple_en_tr.jsonl"
)

records = []
with open(path, encoding="utf-8") as f:
    for line in f:
        records.append(json.loads(line))

print(f"Toplam: {len(records)} belge")
print(f"Örnek EN: {records[0]['text_en'][:200]}")
print(f"Örnek TR: {records[0]['text_tr'][:200]}")

TXT formatı (sadece çeviri):

from huggingface_hub import hf_hub_download

path = hf_hub_download(
    repo_id="root-sys-n/simple-wikipedia-tr",    repo_type="dataset",
    filename="simple_en_tr.txt"
)

with open(path, encoding="utf-8") as f:
    lines = [l.strip() for l in f if l.strip()]

print(f"Toplam: {len(lines)} cümle")
print(lines[0])

JSONL Şeması

Alan Tip Açıklama
id string Benzersiz kimlik (simple_en_XXXXXX)
source string Kaynak (simple_english_wikipedia)
title string Wikipedia makale başlığı
text_en string Orijinal Simple English metni
text_tr string Türkçe çeviri

Etiketler (Opsiyonel)

Eğitim verisine şu özel token'lar eklenebilir (model tokenizasyonu sırasında):

Token Anlamı
`< cls:konu
`< cls:duygu
`< cls:gorev
` `
` `
`< pad

Kaynak

  • Simple English Wikipedia (wikimedia/wikipedia, 20231101.simple)
  • Çeviri: Helsinki-NLP/opus-mt-tc-big-en-tr

Lisans

Bu veri seti araştırma ve eğitim amaçlıdır. Orijinal Wikipedia içeriği Creative Commons Attribution-ShareAlike 3.0 Unported lisansı kapsamındadır.

İletişim

Sorularınız için HF üzerinden issue açabilirsiniz.