plots-characters / README.md
rustemgareev's picture
Add dataset card
73c3af7 verified
|
Raw History Blame Contribute Delete
3.94 kB
metadata
dataset_info:
  - config_name: en_characters
    features:
      - name: ID
        dtype: int64
      - name: Lang
        dtype: string
      - name: Title
        dtype: string
      - name: Characters
        dtype: string
      - name: CharactersLinks
        dtype: string
      - name: SourceLink
        dtype: string
    splits:
      - name: train
        num_bytes: 12992020
        num_examples: 46731
    download_size: 5568872
    dataset_size: 12992020
  - config_name: en_plots
    features:
      - name: ID
        dtype: int64
      - name: Lang
        dtype: string
      - name: Link
        dtype: string
      - name: Title
        dtype: string
      - name: Text
        dtype: string
      - name: categories
        dtype: string
    splits:
      - name: train
        num_bytes: 179051319
        num_examples: 59198
    download_size: 100841651
    dataset_size: 179051319
  - config_name: ru_characters
    features:
      - name: ID
        dtype: int64
      - name: Lang
        dtype: string
      - name: Title
        dtype: string
      - name: Characters
        dtype: string
      - name: CharactersLinks
        dtype: string
      - name: SourceLink
        dtype: string
    splits:
      - name: train
        num_bytes: 8321293
        num_examples: 18622
    download_size: 3089807
    dataset_size: 8321293
  - config_name: ru_plots
    features:
      - name: ID
        dtype: int64
      - name: Lang
        dtype: string
      - name: Link
        dtype: string
      - name: Title
        dtype: string
      - name: Text
        dtype: string
      - name: categories
        dtype: string
    splits:
      - name: train
        num_bytes: 120989289
        num_examples: 30070
    download_size: 55751582
    dataset_size: 120989289
configs:
  - config_name: en_characters
    data_files:
      - split: train
        path: en_characters/train-*
  - config_name: en_plots
    data_files:
      - split: train
        path: en_plots/train-*
  - config_name: ru_characters
    data_files:
      - split: train
        path: ru_characters/train-*
  - config_name: ru_plots
    data_files:
      - split: train
        path: ru_plots/train-*

plots-characters

Сюжеты и персонажи из Википедии (en + ru), четыре конфига, данные без изменений — только переименована колонка Сategories → categories (в исходниках в заголовке была кириллическая «С»).

Конфиг Строк Что внутри
en_plots 59 198 синопсисы статей en.wikipedia, HTML-абзацы <p>
ru_plots 30 070 то же на ru.wikipedia
en_characters 46 731 по одной строке на персонажа, 3 107 произведений
ru_characters 18 622 то же, 1 463 произведения

Схема *_plots: ID, Lang, Link, Title, Text, categories. Схема *_characters: ID, Lang, Title, Characters, CharactersLinks, SourceLink.

ID общ для обоих конфигов одного языка — персонажи join'ятся к синопсису напрямую, orphan'ов нет (пересечение 100%).

from datasets import load_dataset

plots = load_dataset("rustemgareev/plots-characters", "en_plots", split="train")
chars = load_dataset("rustemgareev/plots-characters", "en_characters", split="train")

Заметки по качеству

  • Text — это только <p>-теги, без <ref>, [1], HTML-сущностей и битых символов; stripping сводится к удалению тегов.
  • В en_characters колонка CharactersLinks пустая целиком (46 731/46 731), в ru_characters заполнена у 7 691 строки.
  • Заглушек мало в синопсисах (41 en, 23 ru короче 50 симв.) и заметно среди персонажей (31% en, 36% ru короче 50 симв.).
  • В categories попадаются служебные категории вики-шаблонов, не только тематические.