cyrillic / README.md
Timka28's picture
Update README.md
adf3f88 verified
|
Raw History Blame Contribute Delete
3.77 kB
# Cyrillic Handwriting Mixed Dataset
Крупный объединённый датасет рукописного кириллического текста. Подходит для HWR/OCR, мультимодальных моделей и исследований рукописи.
---
## Общая статистика
- **Всего образцов:** 155 963
- **Итоговые сплиты:** train — 130 025, test — 25 938
- **Поля:**
- `image` — изображение (datasets.Image / Pillow)
- `text` — транскрипция
- `dataset` — источник
- `split` — итоговый сплит (train/test)
- `source_split` — сплит в исходном датасете (если был)
---
## Источники данных
| Dataset | Samples | Comment | Link |
|--------|---------|---------|---------|
| cyrillic-handwriting-dataset | 73 830 | Взят полностью | https://www.kaggle.com/datasets/constantinwerner/cyrillic-handwriting-dataset |
| handwritten_ru_letters | 58 822 | Взят полностью | https://www.kaggle.com/datasets/olgabelitskaya/handwritten-russian-letters |
| comnist | 15 480 | Вщят полностью | https://www.kaggle.com/datasets/gregvial/comnist |
| synthetic_cyrillic_large_00_02 | 5 000 | Взяты 5000 элементов из первой папки | https://huggingface.co/datasets/pumb-ai/synthetic-cyrillic-large |
| school_notebooks | 1 857 | Взят полностью | https://huggingface.co/datasets/ai-forever/school_notebooks_RU/tree/main |
| HWR200 | 816 | Взяты папки 0-4 | https://huggingface.co/datasets/AntiplagiatCompany/HWR200 |
| handwritten_essay | 158 | Взят полностью | https://data.mendeley.com/datasets/vs44v8r3nf/1 |
---
## Правила формирования train/test
- Сохраняем исходные сплиты: handwritten_essay (train/test), cyrillic-handwriting-dataset (train/test), school_notebooks (val объединён в test).
- HWR200: папка `4` → test, остальные папки → train.
- comnist, handwritten_ru_letters, synthetic_cyrillic_large_00_02: случайное разбиение 70/30 (сид 42).
`split` хранит итоговое разбиение, `source_split` — исходное.
---
## Статистика текста
- **Min длина:** 1 символ
- **Max длина:** 3 730 символов
- **Средняя:** 24.5
- **Медиана:** 4
---
## Пример записи
```json
{
"image": "<image_bytes>",
"text": "пример",
"dataset": "cyrillic-handwriting-dataset",
"split": "train",
"source_split": "train"
}
```
---
## Как скачать с HF
1. `pip install -U datasets huggingface_hub`
2. Загрузить публичный датасет:
```python
from datasets import load_dataset
ds_dict = load_dataset("Timka28/cyrillic") # DatasetDict со сплитами train/test
ds_train = load_dataset("Timka28/cyrillic", split="train")
ds_test = load_dataset("Timka28/cyrillic", split="test")
```
Доступ открыт публично, токен не нужен.***
---
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
- split: test
path: data/test-*
dataset_info:
features:
- name: image
dtype: image
- name: text
dtype: string
- name: dataset
dtype: string
- name: split
dtype: string
- name: source_split
dtype: string
splits:
- name: train
num_bytes: 230652746967
num_examples: 130025
- name: test
num_bytes: 13974200520
num_examples: 25938
download_size: 8921749267
dataset_size: 244626947487
---