The dataset viewer is not available for this subset.
Exception: SplitsNotFoundError
Message: The split names could not be parsed from the dataset config.
Traceback: Traceback (most recent call last):
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 286, in get_dataset_config_info
for split_generator in builder._split_generators(
~~~~~~~~~~~~~~~~~~~~~~~~~^
StreamingDownloadManager(base_path=builder.base_path, download_config=download_config)
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
)
^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/webdataset/webdataset.py", line 84, in _split_generators
raise ValueError(
...<2 lines>...
)
ValueError: The TAR archives of the dataset should be in WebDataset format, but the files in the archive don't share the same prefix or the same types.
The above exception was the direct cause of the following exception:
Traceback (most recent call last):
File "/src/services/worker/src/worker/job_runners/config/split_names.py", line 68, in compute_split_names_from_streaming_response
for split in get_dataset_split_names(
~~~~~~~~~~~~~~~~~~~~~~~^
path=dataset,
^^^^^^^^^^^^^
config_name=config,
^^^^^^^^^^^^^^^^^^^
token=hf_token,
^^^^^^^^^^^^^^^
)
^
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 340, in get_dataset_split_names
info = get_dataset_config_info(
path,
...<6 lines>...
**config_kwargs,
)
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 291, in get_dataset_config_info
raise SplitsNotFoundError("The split names could not be parsed from the dataset config.") from err
datasets.inspect.SplitsNotFoundError: The split names could not be parsed from the dataset config.Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
Not: Bu veri setinin dokümantasyonu Türk yapay zeka topluluğuna katkı sağlamak amacıyla VeriPazarı tarafından Türkçeye çevrilmiştir. Orijinal veri seti alisafaya tarafından geliştirilmiş olup, VeriPazarı tarafından Türk AI ekosistemi için arşivlenmiştir.
🔗 Orijinal Kaynak: alisafaya/mukayese 🔗 Derleyen Platform: VeriPazarı
Mukayese: Turkish NLP Strikes Back
Türkçe Doğal Dil İşleme (NLP), organize kıyaslama (benchmark) ve temel modellerin (baseline) eksikliği nedeniyle güncel sistemler geliştirme konusunda geride kalmaktadır. Bu boşluğu, çeşitli Türkçe NLP görevleri için kapsamlı bir veri seti ve kıyaslama seti olan Mukayese ile dolduruyoruz. Tüm veri setleri ve kodlar bu depoda herkese açık hale getirilmiştir.
Ali Safaya, Emirhan Kurtuluş, Arda Goktogan ve Deniz Yuret. 2022. Mukayese: Turkish NLP Strikes Back. In Findings of the Association for Computational Linguistics: ACL 2022, pages 846–863, Dublin, Ireland. Association for Computational Linguistics.
Güncellemeler
- (25/05/2022) Makale, Findings of ACL'22'ye kabul edildi.
- (22/03/2022) Özetleme modelleri Huggingface'te yayında! Buradan indirebilirsiniz.
- (01/03/2022) Makale ArXiv'de. Buradan görüntüleyebilirsiniz.
- (25/02/2022) Veri setleri v0.0.1 ön sürümü ile erişime açıldı.
Mukayese ile neler yapabilirsiniz?
Araştırmacılar Mukayese ile şunları yapabilecekler:
- Mevcut yöntemlerin performanslarını liderlik tablolarında karşılaştırmak.
- NLP temel modellerinin (baseline) mevcut uygulamalarına erişmek.
- Kendi yöntemlerini ilgili test veri setleri üzerinde değerlendirmek.
- Kendi çalışmalarını liderlik tablolarımıza eklenmesi için göndermek.
Mukayese'nin Misyonu
Mukayese'nin en önemli amacı, Türkçe NLP yöntemlerinin karşılaştırılmasını ve değerlendirilmesini standartlaştırmaktır. Kıyaslama için bir platformun eksikliği nedeniyle, Türkçe NLP araştırmacıları modellerini mevcut olanlarla karşılaştırmakta zorlanmaktadır.
Sorumlular
- Ali Safaya - @alisafaya
- Emirhan Kurtuluş - @ekurtulus
- Arda Göktoğan - @ardofski
Mukayese Görevleri
Mukayese için temel modelleri yeniden üretmeye yönelik dokümantasyonumuzu bu depoda topluyoruz. Temel modeller, aşağıdaki görevlere göre listelenmiştir:
Dil Modelleme (Language Modeling)
Veri Setleri
Temel Modeller
- SHARNN: Single Headed Attention - Recurrent Neural Networks
- Adaptive-Span: Adaptive Attention Span for Transformers
Makine Çevirisi (EN/TR):
Veri Setleri
Temel Modeller
- Fairseq: Convolutional Sequence to Sequence Learning
- Transformer: Attention is all You Need
- mBART50: Multilingual Translation with Extensible Multilingual Pretraining and Finetuning
Varlık İsmi Tanıma (Named Entity Recognition)
Veri Setleri
Temel Modeller
- BiLSTM-CRF: Bi-directional Long Short Term Memory with Conditional Random Field
- BERT: Pretrained Bi-directional Transformers
- BERT-CRF: Pretrained Bi-directional Transformers with Conditional Random Field
Cümle Bölütleme (Sentence Segmentation)
Veri Setleri
Temel Modeller
Yazım Denetimi ve Düzeltme (Spell-checking and Correction)
Veri Setleri
Temel Modeller
Özetleme (Summarization)
Veri Setleri
Temel Modeller
Eğitilmiş modelleri buradan indirebilirsiniz.
Kullanım
from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
tokenizer = AutoTokenizer.from_pretrained("mukayese/mt5-base-turkish-sum")
model = AutoModelForSeq2SeqLM.from_pretrained("mukayese/mt5-base-turkish-sum")
article = """Fransız devi PSG'nin üzerindeki kara bulutlar dağılmıyor.
Devler Ligi'nde Real Madrid'e olaylı şekilde boyun eğen başkent temsilcisinde oyuncuların gruplaşmaya başladığı öne sürüldü.
Güney Amerikalılar ve Fransızca konuşanlar olarak ikiye ayrılan oyuncuların saha içerisinde de birbirlerine uzak olduğu iddia edildi.
İşte PSG'de soyunma odasında yaşananlar ve 20 milyon avroluk tazminat ihtimali...
UEFA Şampiyonlar Ligi'nde Real Madrid'e sansasyonel bir şekilde elenen Paris Saint Germain'de Kylian Mbappe haricindeki tüm oyunculara yönelik taraftar tepkisinin devam etmesi başkent temsilcisindeki krizi derinleştirdi.
RMC Sport'ta yer alan haberde;
Paris Saint Germain'in soyunma odasında işlerin yolunda gitmediği ve futbolcuların iki gruba ayrıldığı öne sürüldü. İddiaya göre oyuncular gruplaşmaya başladı ve aralarındaki iletişim her geçen gün zayıflıyor."""
inputs = tokenizer([article], max_length=1024, return_tensors="pt")
summary_ids = model.generate(inputs["input_ids"], num_beams=6, max_length=100)
tokenizer.batch_decode(summary_ids, skip_special_tokens=True)[0]
>>> "UEFA Şampiyonlar Ligi'nde Real Madrid'e olaylı şekilde boyun eğen Paris Saint Germain'de oyuncuların gruplaşmaya başladığı öne sürüldü."
Metin Sınıflandırma (Text Classification)
Veri Setleri
Temel Modeller
- Sentence Convolutional Neural Networks
- Bi-directional Long Short Term Memory
- BERT: Pretrained Bi-directional Transformers
Atıf
@inproceedings{safaya-etal-2022-mukayese,
title = "Mukayese: {T}urkish {NLP} Strikes Back",
author = "Safaya, Ali and
Kurtulu{\c{s}}, Emirhan and
Goktogan, Arda and
Yuret, Deniz",
booktitle = "Findings of the Association for Computational Linguistics: ACL 2022",
month = may,
year = "2022",
address = "Dublin, Ireland",
publisher = "Association for Computational Linguistics",
url = "https://aclanthology.org/2022.findings-acl.69",
doi = "10.18653/v1/2022.findings-acl.69",
pages = "846--863"
}
Bu dosya veripazari.com.tr topluluğu tarafından Hugging Face altyapısında barındırılmaktadır. Orijinal emeğe saygı gereği lisans, metadata ve kaynak referansları korunmuştur.
- Downloads last month
- 5
