bl4ckse4m/wikontic-lite-teacher-data

Teacher Triples from HotpotQA and MuSiQue

Синтетические извлечения фактов из англоязычных контекстов HotpotQA и MuSiQue. Набор содержит триплеты «субъект — отношение — объект», типы сущностей и дополнительные уточнения — qualifiers.

Данные предназначены для исследования извлечения информации, построения графов знаний и обучения компактных моделей на ответах моделей-учителей.

Это синтетическая разметка, а не независимый эталон. Извлечения могут содержать неподтверждённые связи, пропуски и ошибки нормализации.

Состав

Файл	QA-записей	Контекстных записей	Триплетов в triplets
kg_dump_hotpot_gpt4_1_onto_triplets.json	200	1 999	22 312
kg_dump_musique_gpt4_1_onto_triplets.json	200	3 996	38 217
kg_dump_triplets_musique_train_split_occ_openai_gpt_oss_120b_onto.json	1 645	32 844	329 814

Всего — 2 045 QA-записей, 38 839 контекстных записей и 390 343 триплетные записи.

Числа включают повторы и не равны количеству независимых документов или проверенных истинных фактов.

Формат

Файлы представляют собой вложенные JSON-словари:

QA ID
  └── индекс контекста
        ├── triplets
        ├── initial_triplets              # присутствует не во всех файлах
        ├── ontology_filtered_triplets
        └── filtered_triplets

Основные извлечения находятся в triplets.

Каждый триплет обычно содержит:

Поле	Значение
subject	Субъект
relation	Отношение
object	Объект
subject_type	Тип субъекта
object_type	Тип объекта
qualifiers	Дополнительные уточнения, например время или условие

Другие массивы относятся к стадиям обработки извлечений. Их не следует автоматически объединять с triplets как независимые обучающие факты.

Исходные тексты и проверенные evidence-фрагменты в дампы не включены. Тексты можно восстановить по идентификаторам и индексам контекстов из соответствующих QA-источников.

Источники и сопоставление

HotpotQA

kg_dump_hotpot_gpt4_1_onto_triplets.json сопоставлен с HotpotQA distractor validation.

Ключ верхнего уровня соответствует QA ID источника. Вложенный числовой ключ — позиции контекста в записи.

Найдены все 200 QA-записей и 1 999 указанных контекстов.

MuSiQue-Ans

kg_dump_musique_gpt4_1_onto_triplets.json сопоставлен с MuSiQue-Ans v1.0 dev.

Используются QA ID и поле paragraphs[].idx. Найдены все 200 QA-записей и 3 996 контекстов.

MuSiQue-Full

kg_dump_triplets_musique_train_split_occ_openai_gpt_oss_120b_onto.json сопоставлен с MuSiQue-Full v1.0 train.

Ключи имеют вид:

<source_id>_Answerable
<source_id>_Unanswerable

Суффикс соответствует полю answerable источника. Его необходимо учитывать: один базовый QA ID может иметь ответимый и неответимый варианты с разными контекстами.

Найдены все 1 645 записей: 831 ответимая и 814 неответимых. Восстановлены все 32 844 контекста.

Неответимость QA-вопроса не означает отсутствия фактов в его контекстах.

Подготовка данных

Дампы содержат результаты извлечения триплетов языковыми моделями и последующей онтологической обработки.

Это производные синтетические извлечения, а не оригинальная SPO-разметка HotpotQA или MuSiQue. Онтологическая обработка не гарантирует смысловую правильность каждого факта.

Имена файлов отражают обозначения учителей, использовавшиеся при подготовке данных. Точные версии моделей, промпты и параметры генерации не полностью восстановлены.

При публикации содержимое JSON-файлов сохранено без изменений.

Контрольные суммы

SHA-256 файлов:

Файл	SHA-256
kg_dump_hotpot_gpt4_1_onto_triplets.json	b3236aa32c173890d9b52b4eec8a823ae8cf2b1692c2d2eff128f1c8a8d258ae
kg_dump_musique_gpt4_1_onto_triplets.json	6797816003c371dd23356d335eba327de6fea913108a2c79b2e63376628bf914
kg_dump_triplets_musique_train_split_occ_openai_gpt_oss_120b_onto.json	ca8079821803cc43cfbc4eeb746af50910a034bffdaf4c4ab6111e580cdae85d

Изменение форматирования JSON также изменяет контрольную сумму. Для воспроизводимости следует закреплять конкретную ревизию HF Dataset.

Пример чтения

import json
from pathlib import Path

path = Path("kg_dump_hotpot_gpt4_1_onto_triplets.json")

with path.open(encoding="utf-8") as stream:
    data = json.load(stream)

for sample_id, contexts in data.items():
    for context_id, entry in contexts.items():
        triples = entry.get("triplets", [])
        print(sample_id, context_id, len(triples))

Это чтение сохранённых извлечений. Исходные тексты получаются отдельно из соответствующего QA-датасета.

Ограничения

Качество извлечений

Структурная проверка выявила:

• 37 SPO-записей с пустым обязательным полем;
• 4 пустых целевых ответа;
• 3 некорректных элемента qualifiers;
• отсутствие evidence во всех учительских целях.

В извлечениях встречаются неправильные отношения, потеря модальности, условий, временных уточнений и неоднозначная интерпретация таблиц.

Совпадение имён субъекта и объекта не всегда является ошибкой: например, песня и одноимённый альбом могут быть разными сущностями.

Отсутствие буквального имени в тексте также не доказывает галлюцинацию: возможны нормализация, кореференция и варианты написания.

Повторы и разделение выборок

Между двумя MuSiQue-дампами обнаружено 514 одинаковых текстов. После нормализации пробелов найдены дополнительные пересечения HotpotQA с MuSiQue.

Поэтому:

• случайное разбиение строк или QA ID не гарантирует независимости выборок;
• повторяющиеся контексты и связанные статьи необходимо группировать до разбиения;
• официальные названия train/dev не отменяют пересечений;
• использованные при обучении данные нельзя считать независимым тестом.

Набор не содержит готового независимого gold-test. Учительские ответы не следует использовать как единственный эталон качества модели.

Привязка к источнику

Совпадение QA ID и индекса контекста позволяет восстановить источник, но не доказывает, что учитель видел побайтно тот же входной текст.

Полный восстановленный абзац не является автоматически корректным evidence для каждого извлечённого триплета.

Домен

Источники основаны на Wikipedia QA и охватывают биографии, географию, историю, спорт и другие темы.

Качество переноса на специализированные или закрытые предметные корпуса отдельно не установлено.

Персональные и чувствительные сведения

Хотя источники публичны, извлечения могут содержать имена, биографические и потенциально чувствительные сведения.

Исчерпывающая privacy-проверка не проводилась. Публичность исходника не отменяет требований к допустимому использованию данных и правам третьих лиц.

Источники и атрибуция

HotpotQA

Исходный датасет команды HotpotQA.

HotpotQA: A Dataset for Diverse, Explainable Multi-hop Question Answering. EMNLP 2018.

• Проект и сведения об авторах: https://hotpotqa.github.io/
• Статья: https://arxiv.org/abs/1809.09600
• Лицензия исходного датасета: CC BY-SA 4.0
• Условия: https://creativecommons.org/licenses/by-sa/4.0/

MuSiQue

Исходный датасет команды MuSiQue.

MuSiQue: Multihop Questions via Single-hop Question Composition. TACL 2022.

• Проект и сведения об авторах: https://github.com/stonybrooknlp/musique
• Статья: https://arxiv.org/abs/2108.00573
• Лицензия исходного датасета: CC BY 4.0
• Условия: https://creativecommons.org/licenses/by/4.0/

Указание источников не означает их одобрения этой публикации или последующих применений набора.

Лицензия

Эта опубликованная подборка учительских извлечений и собственный вклад в её подготовку распространяются под Creative Commons Attribution-ShareAlike 4.0 International (CC BY-SA 4.0) в пределах прав публикующей стороны.

• Полный текст: LICENSE
• Описание: https://creativecommons.org/licenses/by-sa/4.0/

Разрешается использование, распространение и переработка, в том числе в коммерческих целях, при соблюдении применимых условий лицензии: указании авторства и источников, сохранении сведений о лицензии, обозначении изменений и ShareAlike для распространяемых адаптаций.

Лицензии исходных материалов сохраняются. Эта публикация не отменяет права на использование материалов MuSiQue на исходных условиях CC BY 4.0.

Лицензия предоставляется только на права, которыми располагает публикующая сторона. Она не предоставляет дополнительных прав на персональные данные, товарные знаки или иные права третьих лиц.

Материалы предоставляются без гарантий качества, полноты и пригодности для конкретной задачи.