entityconcepts-v2

Entités Wikipédia/Wikidata avec leurs mentions en contexte et leurs faits, pour l'apprentissage de vecteurs d'entité (z*). Refonte de entityconcepts : deux configs au lieu de six, et les tables documents / triples repliées dans entities.

Pas de bloc dataset_info dans ce README : les features sont inférées des parquet. Un dataset_info figé se désynchronise dès qu'une colonne change de schéma et rend le dataset illisible (DatasetGenerationError) — c'est arrivé deux fois sur la v1.

Configs

linearity — splits train / test

Une ligne par entité. Les splits sont disjoints en entités (aucun QID des deux côtés) : ils servent à mesurer la généralisation à des entités jamais vues.

load_dataset("ykolo/entityconcepts-v2", "linearity", split="train")

⚠️ Le split train contient aussi des pages « hôtes » : des documents qui ne sont pas des sujets d'évaluation mais qui hébergent les mentions d'entités des deux splits. Sans elles, 20,2 % des mentions perdraient le texte où elles vivent. Conséquence pratique : pour résoudre le texte d'une mention, charge toute la config, et n'utilise le split que pour choisir les sujets.

Colonnes notables :

colonne	contenu
qid, label, alias, description	identité de l'entité
text, abstract	texte de sa page
mentions	[{document, aliases, index}] — remplace la table documents
properties	[{property_id, property_name, value, label, aliases}] — remplace triples
origin	linearity et/ou zelda
pile_count, n_mentions, n_tokens_*	statistiques

mentions : document est le QID de la page où l'entité apparaît (sa propre page incluse), index les spans caractères, aliases la forme de surface de chaque span.

{"document": "Q7852918", "aliases": ["Avitohol Point"], "index": [[668, 682]]}

properties : value reste la valeur brute (QID, ou littéral comme une date/des coordonnées) ; label est la forme affichable de l'objet — c'est elle qui sert de cible en exact-match. Les dates sont réduites à l'année (+1857-09-09T00:00:00Z → 1857), sinon aucun modèle ne peut les produire. Seules les relations évaluables sont conservées.

{"property_id": "P17", "property_name": "country", "value": "Q142",
 "label": "France", "aliases": ["French Republic"]}

zelda — un split par source

Documents ZELDA dans leur forme d'origine, un split par fichier pour pouvoir en sélectionner un seul : train (Wikipédia) et les jeux d'évaluation aida_b, cweb, reddit_comments, reddit_posts, shadowlinks_{shadow,tail,top}, tweeki, wned_wiki.

load_dataset("ykolo/entityconcepts-v2", "zelda", split="aida_b")

colonne	contenu
doc_id	identifiant du document (toujours renseigné)
page_id	id de page Wikipédia — train uniquement, null pour les jeux de test
section_name	section — train uniquement
text	texte du document
index	spans caractères des mentions
wikipedia_ids, wikipedia_titles	cible de chaque mention

Les sources n'ont pas le même schéma (le train a page_id/section_name, les tests un id textuel) et une config Arrow en impose un seul : doc_id unifie, page_id/section_name restent renseignés quand ils existent. Le lien vers les QID se fait à la lecture (wikipedia_ids → linearity.page_id), pas au stockage.

Asset

templates.json — {relation_id: {relation_name, templates}}, les prompts par relation. Fichier à la racine, pas une config :

from huggingface_hub import hf_hub_download
import json
tpl = json.load(open(hf_hub_download("ykolo/entityconcepts-v2", "templates.json", repo_type="dataset")))

Ce qui a disparu depuis la v1

documents (→ mentions), triples (→ properties), links (→ config zelda), templates (→ asset JSON), la colonne what_links_here, et les entités FewRel qui ne servaient pas de page hôte.