| --- |
| dataset_info: |
| - config_name: en_characters |
| features: |
| - name: ID |
| dtype: int64 |
| - name: Lang |
| dtype: string |
| - name: Title |
| dtype: string |
| - name: Characters |
| dtype: string |
| - name: CharactersLinks |
| dtype: string |
| - name: SourceLink |
| dtype: string |
| splits: |
| - name: train |
| num_bytes: 12992020 |
| num_examples: 46731 |
| download_size: 5568872 |
| dataset_size: 12992020 |
| - config_name: en_plots |
| features: |
| - name: ID |
| dtype: int64 |
| - name: Lang |
| dtype: string |
| - name: Link |
| dtype: string |
| - name: Title |
| dtype: string |
| - name: Text |
| dtype: string |
| - name: categories |
| dtype: string |
| splits: |
| - name: train |
| num_bytes: 179051319 |
| num_examples: 59198 |
| download_size: 100841651 |
| dataset_size: 179051319 |
| - config_name: ru_characters |
| features: |
| - name: ID |
| dtype: int64 |
| - name: Lang |
| dtype: string |
| - name: Title |
| dtype: string |
| - name: Characters |
| dtype: string |
| - name: CharactersLinks |
| dtype: string |
| - name: SourceLink |
| dtype: string |
| splits: |
| - name: train |
| num_bytes: 8321293 |
| num_examples: 18622 |
| download_size: 3089807 |
| dataset_size: 8321293 |
| - config_name: ru_plots |
| features: |
| - name: ID |
| dtype: int64 |
| - name: Lang |
| dtype: string |
| - name: Link |
| dtype: string |
| - name: Title |
| dtype: string |
| - name: Text |
| dtype: string |
| - name: categories |
| dtype: string |
| splits: |
| - name: train |
| num_bytes: 120989289 |
| num_examples: 30070 |
| download_size: 55751582 |
| dataset_size: 120989289 |
| configs: |
| - config_name: en_characters |
| data_files: |
| - split: train |
| path: en_characters/train-* |
| - config_name: en_plots |
| data_files: |
| - split: train |
| path: en_plots/train-* |
| - config_name: ru_characters |
| data_files: |
| - split: train |
| path: ru_characters/train-* |
| - config_name: ru_plots |
| data_files: |
| - split: train |
| path: ru_plots/train-* |
| --- |
| |
| # plots-characters |
|
|
| Сюжеты и персонажи из Википедии (en + ru), четыре конфига, данные без изменений — только переименована колонка `Сategories` → `categories` (в исходниках в заголовке была кириллическая «С»). |
|
|
| | Конфиг | Строк | Что внутри | |
| |---|---|---| |
| | `en_plots` | 59 198 | синопсисы статей en.wikipedia, HTML-абзацы `<p>` | |
| | `ru_plots` | 30 070 | то же на ru.wikipedia | |
| | `en_characters` | 46 731 | по одной строке на персонажа, 3 107 произведений | |
| | `ru_characters` | 18 622 | то же, 1 463 произведения | |
|
|
| Схема `*_plots`: `ID`, `Lang`, `Link`, `Title`, `Text`, `categories`. |
| Схема `*_characters`: `ID`, `Lang`, `Title`, `Characters`, `CharactersLinks`, `SourceLink`. |
|
|
| `ID` общ для обоих конфигов одного языка — персонажи join'ятся к синопсису напрямую, orphan'ов нет (пересечение 100%). |
|
|
| ```python |
| from datasets import load_dataset |
| |
| plots = load_dataset("rustemgareev/plots-characters", "en_plots", split="train") |
| chars = load_dataset("rustemgareev/plots-characters", "en_characters", split="train") |
| ``` |
|
|
| ## Заметки по качеству |
|
|
| - `Text` — это только `<p>`-теги, без `<ref>`, `[1]`, HTML-сущностей и битых символов; stripping сводится к удалению тегов. |
| - В `en_characters` колонка `CharactersLinks` пустая целиком (46 731/46 731), в `ru_characters` заполнена у 7 691 строки. |
| - Заглушек мало в синопсисах (41 en, 23 ru короче 50 симв.) и заметно среди персонажей (31% en, 36% ru короче 50 симв.). |
| - В `categories` попадаются служебные категории вики-шаблонов, не только тематические. |
|
|
