Til Flagship Datasets
Collection
Core datasets for pretraining, instruction tuning, speech and language tasks. Основные датасеты для предобучения, инструкций, речи и языковых задач. • 8 items • Updated
You need to agree to share your contact information to access this dataset
This repository is publicly accessible, but you have to accept the conditions to access its files and content.
Бұл репозиторийге қолжетімділік өтінім бойынша беріледі. Өзіңіз туралы және деректерді қалай қолданатыңыз туралы жазыңыз — өтінімді TilQazyna командасы қарайды. · Доступ к репозиторию выдаётся по заявке. Расскажите о себе и о том, как собираетесь использовать данные — заявку рассматривает команда TilQazyna. · Access to this repository is granted on request. Tell us who you are and how you plan to use the material; the TilQazyna team reviews each application.
Log in or Sign Up to review the conditions and access this dataset content.
DEPRECATED
Этот датасет не следует использовать для обучения GEC. 39% строк () — это параллельный корпус переводов kk↔ru и kk↔en с задачей и пустыми . Он попал в сборку из — претрейн-микса, а не GEC-набора. Обучение без фильтра учит модель переводить вместо того, чтобы исправлять. Внутри также лежат строки публичного бенчмарка (), что делает любую оценку без явной деконтаминации недействительной.
Преемники:
- — только коррекция, без переводов и без бенчмарка (2 860 104 строки по трём конфигурациям);
- — выделенный параллельный корпус (1 760 880 строк).
Датасет сохранён, а не удалён: на нём стоит провенанс exp085 и exp087, и без него их результаты стали бы невоспроизводимыми.
Til-GEC
Грамматикалық қателерді түзету деректері · Данные для исправления грамматических ошибок · Grammatical error correction data
Қазақша
Til-GEC — грамматикалық қателерді түзету модельдерін оқытуға арналған 1.23 ГБ параллель мәтіндер жинағы. raw конфигінде 1 791 666 жол бар; сапа бағасына қарай одан clean және premium деңгейлері бөлінген.
Құрамы
Жазбалар қате мәтінді, түзетілген нұсқаны, қате белгілерін, тапсырманы, дереккөзді және бөлім атауын сақтайды. Қосымша бағандарда сапа ұпайы, тақырыптық санат және төреші анықтаған тіл берілген.
| Конфиг | Жол саны |
|---|---|
raw |
1 791 666 |
clean |
1 684 579 |
premium |
1 148 303 |
Үш деңгейдегі жолдардың жиынтық саны — 4 624 548. Тіл бойынша есептелген 1 791 666 жолдың 1 464 716-сы қазақша, 175 734-і ағылшынша, 134 614-і орысша және 16 350-і басқа тілдерде.
Үш конфиг деректерді сапа шегіне қарай бөлек зерттеуге арналған.
| Сапа ұпайы | Жол саны |
|---|---|
0 |
16 294 |
1 |
86 643 |
2 |
4 150 |
3 |
536 276 |
4 |
430 167 |
5 |
718 136 |
Қалай жүктеуге болады
from datasets import load_dataset
ds = load_dataset("TilQazyna/Til-GEC", "premium", split="train", streaming=True)
print(next(iter(ds)))
Қолжетімділік
Репозиторий карточкасы мен файлдар тізімі бәріне көрінеді. Файлдарды алу үшін «Request access» арқылы өтінім жіберіледі, оны TilQazyna командасы тексереді.
Байланысты репозиторийлер
Деректер Til-Core-1B-GEC, Til-Core-0.5B-QazGramma-GEC, Til-mini-1B-GEC, Til-2B-GEC, Til-1B-multilingual-base-GEC, Til-kk-0.5B-256k-gec-exp085 және Til-GEC-Gemma4-exp087 модельдерін оқытуға беріледі.
Русский
Til-GEC — набор параллельных текстов объёмом 1.23 ГБ для обучения моделей исправления грамматических ошибок. Конфиг raw содержит 1 791 666 строк; из него по оценке качества выделены уровни clean и premium.
Что внутри
Записи хранят ошибочный текст, исправленный вариант, метки ошибок, задачу, источник и название раздела. Дополнительные столбцы содержат оценку качества, тематическую категорию и язык, определённый моделью-судьёй.
| Конфиг | Строк |
|---|---|
raw |
1 791 666 |
clean |
1 684 579 |
premium |
1 148 303 |
Суммарно по трём уровням учтено 4 624 548 строк. Из 1 791 666 строк в языковой статистике 1 464 716 относятся к казахскому, 175 734 — к английскому, 134 614 — к русскому и 16 350 — к другим языкам.
| Оценка качества | Строк |
|---|---|
0 |
16 294 |
1 |
86 643 |
2 |
4 150 |
3 |
536 276 |
4 |
430 167 |
5 |
718 136 |
Как загрузить
from datasets import load_dataset
ds = load_dataset("TilQazyna/Til-GEC", "premium", split="train", streaming=True)
print(next(iter(ds)))
Доступ
Карточка и список файлов открыты для просмотра. Скачивание доступно после одобрения заявки, отправленной кнопкой «Request access»; решение принимает команда TilQazyna.
Связанные репозитории
На наборе обучаются Til-Core-1B-GEC, Til-Core-0.5B-QazGramma-GEC, Til-mini-1B-GEC, Til-2B-GEC, Til-1B-multilingual-base-GEC, Til-kk-0.5B-256k-gec-exp085 и Til-GEC-Gemma4-exp087.
English
Til-GEC is a 1.23 GB parallel-text dataset for training grammatical error correction models. Its raw configuration contains 1,791,666 rows, with clean and premium tiers selected from it by quality score.
Dataset contents
Records contain an erroneous input, its corrected target, error tags, task, source, and split. Additional columns provide a quality score, topical category, and language assigned by the judge model.
| Configuration | Rows |
|---|---|
raw |
1,791,666 |
clean |
1,684,579 |
premium |
1,148,303 |
The three tiers account for 4,624,548 rows in total. Of the 1,791,666 rows covered by the language statistics, 1,464,716 are Kazakh, 175,734 English, 134,614 Russian, and 16,350 other languages.
| Quality score | Rows |
|---|---|
0 |
16,294 |
1 |
86,643 |
2 |
4,150 |
3 |
536,276 |
4 |
430,167 |
5 |
718,136 |
Loading the dataset
from datasets import load_dataset
ds = load_dataset("TilQazyna/Til-GEC", "premium", split="train", streaming=True)
print(next(iter(ds)))
Access
The card and file list remain visible to everyone. Downloads are enabled after the TilQazyna team approves a request submitted with the “Request access” button.
Related repositories
This dataset feeds Til-Core-1B-GEC, Til-Core-0.5B-QazGramma-GEC, Til-mini-1B-GEC, Til-2B-GEC, Til-1B-multilingual-base-GEC, Til-kk-0.5B-256k-gec-exp085, and Til-GEC-Gemma4-exp087.
Лицензия · License: apache-2.0 · TilQazyna
- Downloads last month
- 36