anekdot / README.md
d0rj's picture
Publish anekdots and stratified memes with original embedded media
62e91b8 verified
|
Raw History Blame Contribute Delete
2.71 kB
---
language: [ru]
tags: [humor, regression, multimodal]
configs:
- config_name: anekdots
default: true
data_files:
- split: train
path: data/anekdots/train-*.parquet
- split: val
path: data/anekdots/val-*.parquet
- split: test
path: data/anekdots/test-*.parquet
- config_name: memes
data_files:
- split: train
path: data/memes/train-*.parquet
- split: val
path: data/memes/val-*.parquet
- split: test
path: data/memes/test-*.parquet
---
# anekdot
Источник: [anekdot.ru](https://www.anekdot.ru/). Русскоязычные анекдоты и мемы с голосами читателей.
| Subset | train | val | test |
|---|---:|---:|---:|
| anekdots | 618470 | 77308 | 77310 |
| memes | 161274 | 20159 | 20160 |
`text` — исходный текст/подпись; пустые подписи сохранены. `images` — исходные
байты картинок/GIF, `videos` — MP4/WebM. Без изменения размеров, перекодирования
и OCR. Элементы медиа: `bytes`, `path=None`; декодирование по умолчанию отключено.
`media_type`: image/gif/video/mixed. Анимированные изображения учитываются как GIF.
`media` содержит URL источника, SHA-256, размер и предупреждения декодера.
`target = (votes_for + kappa * mu) / (votes_for + votes_against + kappa)` —
сглаженная доля положительных голосов. mu=0.5585487495567671, kappa=4.704882402974252,
оценены только на anekdots/train. `sample_weight=1`.
anekdots: 773088 строк, разбиение 80/10/10 по группам точных и лексически
близких текстов со стратификацией по длине, target, году, числу голосов и выпуску.
memes: 80/10/10,
стратификация по типу медиа, наличию подписи, target, году, числу голосов и длине
подписи. Одинаковые SHA-256 не пересекают split; визуально похожие версии могут
пересекаться. Точные повторы, недоступные медиа и записи без направленных голосов
исключены. Счётчики исключений и распределения: `metadata/release.json`.
```python
from datasets import load_dataset
anekdots = load_dataset("d0rj/anekdot", "anekdots")
memes = load_dataset("d0rj/anekdot", "memes", streaming=True)
```