|
Download README.md from rustemgareev/plots-characters: direct link, hf CLI and curl.
- Browser
- Download file 3.94 kB
-
https://huggingface.co/datasets/rustemgareev/plots-characters/resolve/main/README.md
- Command line
-
hf download hf://datasets/rustemgareev/plots-characters/README.md
-
curl -L -o README.md https://huggingface.co/datasets/rustemgareev/plots-characters/resolve/main/README.md
3.94 kB
metadata
dataset_info:
- config_name: en_characters
features:
- name: ID
dtype: int64
- name: Lang
dtype: string
- name: Title
dtype: string
- name: Characters
dtype: string
- name: CharactersLinks
dtype: string
- name: SourceLink
dtype: string
splits:
- name: train
num_bytes: 12992020
num_examples: 46731
download_size: 5568872
dataset_size: 12992020
- config_name: en_plots
features:
- name: ID
dtype: int64
- name: Lang
dtype: string
- name: Link
dtype: string
- name: Title
dtype: string
- name: Text
dtype: string
- name: categories
dtype: string
splits:
- name: train
num_bytes: 179051319
num_examples: 59198
download_size: 100841651
dataset_size: 179051319
- config_name: ru_characters
features:
- name: ID
dtype: int64
- name: Lang
dtype: string
- name: Title
dtype: string
- name: Characters
dtype: string
- name: CharactersLinks
dtype: string
- name: SourceLink
dtype: string
splits:
- name: train
num_bytes: 8321293
num_examples: 18622
download_size: 3089807
dataset_size: 8321293
- config_name: ru_plots
features:
- name: ID
dtype: int64
- name: Lang
dtype: string
- name: Link
dtype: string
- name: Title
dtype: string
- name: Text
dtype: string
- name: categories
dtype: string
splits:
- name: train
num_bytes: 120989289
num_examples: 30070
download_size: 55751582
dataset_size: 120989289
configs:
- config_name: en_characters
data_files:
- split: train
path: en_characters/train-*
- config_name: en_plots
data_files:
- split: train
path: en_plots/train-*
- config_name: ru_characters
data_files:
- split: train
path: ru_characters/train-*
- config_name: ru_plots
data_files:
- split: train
path: ru_plots/train-*
plots-characters
Сюжеты и персонажи из Википедии (en + ru), четыре конфига, данные без изменений — только переименована колонка Сategories → categories (в исходниках в заголовке была кириллическая «С»).
| Конфиг | Строк | Что внутри |
|---|---|---|
en_plots |
59 198 | синопсисы статей en.wikipedia, HTML-абзацы <p> |
ru_plots |
30 070 | то же на ru.wikipedia |
en_characters |
46 731 | по одной строке на персонажа, 3 107 произведений |
ru_characters |
18 622 | то же, 1 463 произведения |
Схема *_plots: ID, Lang, Link, Title, Text, categories.
Схема *_characters: ID, Lang, Title, Characters, CharactersLinks, SourceLink.
ID общ для обоих конфигов одного языка — персонажи join'ятся к синопсису напрямую, orphan'ов нет (пересечение 100%).
from datasets import load_dataset
plots = load_dataset("rustemgareev/plots-characters", "en_plots", split="train")
chars = load_dataset("rustemgareev/plots-characters", "en_characters", split="train")
Заметки по качеству
Text— это только<p>-теги, без<ref>,[1], HTML-сущностей и битых символов; stripping сводится к удалению тегов.- В
en_charactersколонкаCharactersLinksпустая целиком (46 731/46 731), вru_charactersзаполнена у 7 691 строки. - Заглушек мало в синопсисах (41 en, 23 ru короче 50 симв.) и заметно среди персонажей (31% en, 36% ru короче 50 симв.).
- В
categoriesпопадаются служебные категории вики-шаблонов, не только тематические.