Datasets:

Languages:
Turkish
ArXiv:
License:
Dataset Viewer
The dataset viewer is not available for this subset.
Cannot get the split names for the config 'default' of the dataset.
Exception:    SplitsNotFoundError
Message:      The split names could not be parsed from the dataset config.
Traceback:    Traceback (most recent call last):
                File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 286, in get_dataset_config_info
                  for split_generator in builder._split_generators(
                                         ~~~~~~~~~~~~~~~~~~~~~~~~~^
                      StreamingDownloadManager(base_path=builder.base_path, download_config=download_config)
                      ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                  )
                  ^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/webdataset/webdataset.py", line 84, in _split_generators
                  raise ValueError(
                  ...<2 lines>...
                  )
              ValueError: The TAR archives of the dataset should be in WebDataset format, but the files in the archive don't share the same prefix or the same types.
              
              The above exception was the direct cause of the following exception:
              
              Traceback (most recent call last):
                File "/src/services/worker/src/worker/job_runners/config/split_names.py", line 68, in compute_split_names_from_streaming_response
                  for split in get_dataset_split_names(
                               ~~~~~~~~~~~~~~~~~~~~~~~^
                      path=dataset,
                      ^^^^^^^^^^^^^
                      config_name=config,
                      ^^^^^^^^^^^^^^^^^^^
                      token=hf_token,
                      ^^^^^^^^^^^^^^^
                  )
                  ^
                File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 340, in get_dataset_split_names
                  info = get_dataset_config_info(
                      path,
                  ...<6 lines>...
                      **config_kwargs,
                  )
                File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 291, in get_dataset_config_info
                  raise SplitsNotFoundError("The split names could not be parsed from the dataset config.") from err
              datasets.inspect.SplitsNotFoundError: The split names could not be parsed from the dataset config.

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

Not: Bu veri setinin dokümantasyonu Türk yapay zeka topluluğuna katkı sağlamak amacıyla VeriPazarı tarafından Türkçeye çevrilmiştir. Orijinal veri seti alisafaya tarafından geliştirilmiş olup, VeriPazarı tarafından Türk AI ekosistemi için arşivlenmiştir.

🔗 Orijinal Kaynak: alisafaya/mukayese 🔗 Derleyen Platform: VeriPazarı

Mukayese: Turkish NLP Strikes Back

Türkçe Doğal Dil İşleme (NLP), organize kıyaslama (benchmark) ve temel modellerin (baseline) eksikliği nedeniyle güncel sistemler geliştirme konusunda geride kalmaktadır. Bu boşluğu, çeşitli Türkçe NLP görevleri için kapsamlı bir veri seti ve kıyaslama seti olan Mukayese ile dolduruyoruz. Tüm veri setleri ve kodlar bu depoda herkese açık hale getirilmiştir.

Ali Safaya, Emirhan Kurtuluş, Arda Goktogan ve Deniz Yuret. 2022. Mukayese: Turkish NLP Strikes Back. In Findings of the Association for Computational Linguistics: ACL 2022, pages 846–863, Dublin, Ireland. Association for Computational Linguistics.

Güncellemeler

  • (25/05/2022) Makale, Findings of ACL'22'ye kabul edildi.
  • (22/03/2022) Özetleme modelleri Huggingface'te yayında! Buradan indirebilirsiniz.
  • (01/03/2022) Makale ArXiv'de. Buradan görüntüleyebilirsiniz.
  • (25/02/2022) Veri setleri v0.0.1 ön sürümü ile erişime açıldı.

Mukayese ile neler yapabilirsiniz?

Araştırmacılar Mukayese ile şunları yapabilecekler:

  • Mevcut yöntemlerin performanslarını liderlik tablolarında karşılaştırmak.
  • NLP temel modellerinin (baseline) mevcut uygulamalarına erişmek.
  • Kendi yöntemlerini ilgili test veri setleri üzerinde değerlendirmek.
  • Kendi çalışmalarını liderlik tablolarımıza eklenmesi için göndermek.

Mukayese'nin Misyonu

Mukayese'nin en önemli amacı, Türkçe NLP yöntemlerinin karşılaştırılmasını ve değerlendirilmesini standartlaştırmaktır. Kıyaslama için bir platformun eksikliği nedeniyle, Türkçe NLP araştırmacıları modellerini mevcut olanlarla karşılaştırmakta zorlanmaktadır.

Sorumlular

  • Ali Safaya - @alisafaya
  • Emirhan Kurtuluş - @ekurtulus
  • Arda Göktoğan - @ardofski

Mukayese Görevleri

Mukayese için temel modelleri yeniden üretmeye yönelik dokümantasyonumuzu bu depoda topluyoruz. Temel modeller, aşağıdaki görevlere göre listelenmiştir:

Dil Modelleme (Language Modeling)

Veri Setleri

Temel Modeller

Makine Çevirisi (EN/TR):

Veri Setleri

Temel Modeller

Varlık İsmi Tanıma (Named Entity Recognition)

Veri Setleri

Temel Modeller

Cümle Bölütleme (Sentence Segmentation)

Veri Setleri

Temel Modeller

Yazım Denetimi ve Düzeltme (Spell-checking and Correction)

Veri Setleri

Temel Modeller

Özetleme (Summarization)

Veri Setleri

Temel Modeller

Eğitilmiş modelleri buradan indirebilirsiniz.

Kullanım

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

tokenizer = AutoTokenizer.from_pretrained("mukayese/mt5-base-turkish-sum")
model = AutoModelForSeq2SeqLM.from_pretrained("mukayese/mt5-base-turkish-sum")

article = """Fransız devi PSG'nin üzerindeki kara bulutlar dağılmıyor. 
Devler Ligi'nde Real Madrid'e olaylı şekilde boyun eğen başkent temsilcisinde oyuncuların gruplaşmaya başladığı öne sürüldü. 
Güney Amerikalılar ve Fransızca konuşanlar olarak ikiye ayrılan oyuncuların saha içerisinde de birbirlerine uzak olduğu iddia edildi. 
İşte PSG'de soyunma odasında yaşananlar ve 20 milyon avroluk tazminat ihtimali... 
UEFA Şampiyonlar Ligi'nde Real Madrid'e sansasyonel bir şekilde elenen Paris Saint Germain'de Kylian Mbappe haricindeki tüm oyunculara yönelik taraftar tepkisinin devam etmesi başkent temsilcisindeki krizi derinleştirdi.
RMC Sport'ta yer alan haberde;
Paris Saint Germain'in soyunma odasında işlerin yolunda gitmediği ve futbolcuların iki gruba ayrıldığı öne sürüldü. İddiaya göre oyuncular gruplaşmaya başladı ve aralarındaki iletişim her geçen gün zayıflıyor."""

inputs = tokenizer([article], max_length=1024, return_tensors="pt")
summary_ids = model.generate(inputs["input_ids"], num_beams=6, max_length=100)
tokenizer.batch_decode(summary_ids, skip_special_tokens=True)[0]

>>> "UEFA Şampiyonlar Ligi'nde Real Madrid'e olaylı şekilde boyun eğen Paris Saint Germain'de oyuncuların gruplaşmaya başladığı öne sürüldü."

Metin Sınıflandırma (Text Classification)

Veri Setleri

Temel Modeller

Atıf

@inproceedings{safaya-etal-2022-mukayese,
    title = "Mukayese: {T}urkish {NLP} Strikes Back",
    author = "Safaya, Ali  and
      Kurtulu{\c{s}}, Emirhan  and
      Goktogan, Arda  and
      Yuret, Deniz",
    booktitle = "Findings of the Association for Computational Linguistics: ACL 2022",
    month = may,
    year = "2022",
    address = "Dublin, Ireland",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2022.findings-acl.69",
    doi = "10.18653/v1/2022.findings-acl.69",
    pages = "846--863"
}

Bu dosya veripazari.com.tr topluluğu tarafından Hugging Face altyapısında barındırılmaktadır. Orijinal emeğe saygı gereği lisans, metadata ve kaynak referansları korunmuştur.

Downloads last month
5

Paper for veripazari/mukayese