BRAINHR+ corpus v2: frozen train/dev, suites, training exports (A27)
Browse files- FREEZE.json +42 -0
- MANIFEST.sha256 +34 -0
- README.md +113 -0
- docs/datasheet.md +49 -0
- docs/qc_report.md +22 -0
- pairs/dev.parquet +3 -0
- pairs/train.parquet +3 -0
- suites/adversarial/train.parquet +3 -0
- suites/claims/dev.parquet +3 -0
- suites/claims/train.parquet +3 -0
- train_exports/extract_cv/dev.parquet +3 -0
- train_exports/extract_cv/train.parquet +3 -0
- train_exports/extract_offer/dev.parquet +3 -0
- train_exports/extract_offer/train.parquet +3 -0
- train_exports/mh/dev.parquet +3 -0
- train_exports/mh/train.parquet +3 -0
- train_exports/nh/dev.parquet +3 -0
- train_exports/nh/train.parquet +3 -0
- train_exports/rerank/dev.parquet +3 -0
- train_exports/rerank/train.parquet +3 -0
- train_exports/verify/dev.parquet +3 -0
- train_exports/verify/train.parquet +3 -0
FREEZE.json
ADDED
|
@@ -0,0 +1,42 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"frozen_at": "2026-11-16T00:40:17+00:00",
|
| 3 |
+
"git_commit": "afedfbc7abfc285f564181cc32da5f37a85edfff",
|
| 4 |
+
"counts": {
|
| 5 |
+
"train": {
|
| 6 |
+
"pairs": 3600,
|
| 7 |
+
"with_panel": 0,
|
| 8 |
+
"panel_accepted": 0,
|
| 9 |
+
"claims": 12202,
|
| 10 |
+
"adversarial": 400
|
| 11 |
+
},
|
| 12 |
+
"dev": {
|
| 13 |
+
"pairs": 400,
|
| 14 |
+
"with_panel": 0,
|
| 15 |
+
"panel_accepted": 0,
|
| 16 |
+
"claims": 2183
|
| 17 |
+
},
|
| 18 |
+
"test": {
|
| 19 |
+
"pairs": 800,
|
| 20 |
+
"with_panel": 0,
|
| 21 |
+
"panel_accepted": 0,
|
| 22 |
+
"claims": 4642,
|
| 23 |
+
"adversarial": 1500
|
| 24 |
+
}
|
| 25 |
+
},
|
| 26 |
+
"manifest_files": 34,
|
| 27 |
+
"test_files_sha256": {
|
| 28 |
+
"eval_exports/extract_cv/test.parquet": "b1cab973f217b1d3e044291200253596db48f3d77b18bd89559e00cae653c41d",
|
| 29 |
+
"eval_exports/extract_offer/test.parquet": "eba010fa56113b7ae6331a6f7d0debbb542d8818c1143eefc74a57360caf8a46",
|
| 30 |
+
"eval_exports/mh/test.parquet": "33514ea2ea0f664635d2d59c987f94253dc7564403e4d79d7ac8228acd2f93b6",
|
| 31 |
+
"eval_exports/nh/test.parquet": "624830bc0eb28024a1b170473d0bee60a2afd75190174bb2559a2e3bf6a7fe9c",
|
| 32 |
+
"eval_exports/rerank/test.parquet": "2fc33a3c6febf4ecee386ab78b8e2a2a92e8f42c720021bd00e224ba6797dbb7",
|
| 33 |
+
"eval_exports/verify/test.parquet": "35200bcb13aac6624a810d986acd0b0f50b82450378be2bdda38b65f816e7265",
|
| 34 |
+
"pairs/test.jsonl": "0e0bff643bcc7d875c11618ec28d0224a4db8acfb0dd58f704f3b25887050473",
|
| 35 |
+
"pairs/test.parquet": "aa6d0d771c5bb43c90da4f9fe9977a2a33ce31a7cb85dc9b7a4f215cd65a8e8b",
|
| 36 |
+
"suites/adversarial/test.jsonl": "91642feb6446e464d1eaf1240cd786d85bdca53cf20e7ad4dc917c3a413ef4bb",
|
| 37 |
+
"suites/adversarial/test.parquet": "7352abe0016d32d2dd59d07245b6ea1a0a5f8f6186fae7ed05417ebbed0f47e7",
|
| 38 |
+
"suites/claims/test.jsonl": "83878d2f52ff5bcc47440e142ebf01b2d8d2d40eb4528a7a64a30f52f4e4d4dd",
|
| 39 |
+
"suites/claims/test.parquet": "4410d51a56fbc8248af5d9cacef53735be3dbb0ece84deea5677a3ddde9da347"
|
| 40 |
+
},
|
| 41 |
+
"rule": "the test split and the test suites are frozen from here (CLAUDE.md rule 4)"
|
| 42 |
+
}
|
MANIFEST.sha256
ADDED
|
@@ -0,0 +1,34 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
b1cab973f217b1d3e044291200253596db48f3d77b18bd89559e00cae653c41d eval_exports/extract_cv/test.parquet
|
| 2 |
+
eba010fa56113b7ae6331a6f7d0debbb542d8818c1143eefc74a57360caf8a46 eval_exports/extract_offer/test.parquet
|
| 3 |
+
33514ea2ea0f664635d2d59c987f94253dc7564403e4d79d7ac8228acd2f93b6 eval_exports/mh/test.parquet
|
| 4 |
+
624830bc0eb28024a1b170473d0bee60a2afd75190174bb2559a2e3bf6a7fe9c eval_exports/nh/test.parquet
|
| 5 |
+
2fc33a3c6febf4ecee386ab78b8e2a2a92e8f42c720021bd00e224ba6797dbb7 eval_exports/rerank/test.parquet
|
| 6 |
+
35200bcb13aac6624a810d986acd0b0f50b82450378be2bdda38b65f816e7265 eval_exports/verify/test.parquet
|
| 7 |
+
e33074218370a46df7317184c5013981953b255675e19f429d111bbaab770faa pairs/dev.jsonl
|
| 8 |
+
1672230211d156ffab38065a96c33693d9dd1eda4843eadc5120c89340503c29 pairs/dev.parquet
|
| 9 |
+
0e0bff643bcc7d875c11618ec28d0224a4db8acfb0dd58f704f3b25887050473 pairs/test.jsonl
|
| 10 |
+
aa6d0d771c5bb43c90da4f9fe9977a2a33ce31a7cb85dc9b7a4f215cd65a8e8b pairs/test.parquet
|
| 11 |
+
104ab6bd78a77e7271a0d6c3c17fdcb6d5b73b50c3ff1eb971c801a8716308f0 pairs/train.jsonl
|
| 12 |
+
7f9e49c4a62adf8e8fd70433210795da72b4a18fc3014c4bf913903328a5fa89 pairs/train.parquet
|
| 13 |
+
91642feb6446e464d1eaf1240cd786d85bdca53cf20e7ad4dc917c3a413ef4bb suites/adversarial/test.jsonl
|
| 14 |
+
7352abe0016d32d2dd59d07245b6ea1a0a5f8f6186fae7ed05417ebbed0f47e7 suites/adversarial/test.parquet
|
| 15 |
+
0e0ee39642df9d3c8efc9d06caf50bb85ceafcfe736de6e3fa36fb2ce2f6c8f7 suites/adversarial/train.jsonl
|
| 16 |
+
80a83b38bc81b2f562556789d55c8c443a5f53964be1a9f6b2c0f0c3dffed4cf suites/adversarial/train.parquet
|
| 17 |
+
a9042c0cd0059be088a6cf8ca09efa248c04d45e981af22956542891acd5ec88 suites/claims/dev.jsonl
|
| 18 |
+
2aaacadec8eba81ca4a4abc79819912640c307ff3d95f7f0656753a1094737fb suites/claims/dev.parquet
|
| 19 |
+
83878d2f52ff5bcc47440e142ebf01b2d8d2d40eb4528a7a64a30f52f4e4d4dd suites/claims/test.jsonl
|
| 20 |
+
4410d51a56fbc8248af5d9cacef53735be3dbb0ece84deea5677a3ddde9da347 suites/claims/test.parquet
|
| 21 |
+
15895d7ff5aa02af1a4efd5a46638eb6ce3a24484df7181d535bc5bb48661f54 suites/claims/train.jsonl
|
| 22 |
+
e1f95a8f25238193ee486d84c748fd5303f3ed5a8c9192251c15cc5b09a257f4 suites/claims/train.parquet
|
| 23 |
+
6bb7daab52d29e17fc192f40ab675bf2eb0e5dca0aaac47a97813e8b0fa51efc train_exports/extract_cv/dev.parquet
|
| 24 |
+
ae18f9f127f5fc9cbb4b74482d8099ed694385bea007a4de898ba21003a52b78 train_exports/extract_cv/train.parquet
|
| 25 |
+
42f382ac5cc2a02ece276b8dd7a27c645918575f0bbbac6e27a7dbbcb6a2bf63 train_exports/extract_offer/dev.parquet
|
| 26 |
+
a703b6827c1e74b8f3d780f4b4e0068ed0540bb621657f178e24484735ef8347 train_exports/extract_offer/train.parquet
|
| 27 |
+
be0d39b7f63c15557d5bdd1e208b52c57e72a55cf0e961e777a2f93d83c6d957 train_exports/mh/dev.parquet
|
| 28 |
+
411a368a8360ddb40d00d7fc624e2cf910eb3e9e5adb913d19d2c1091400b074 train_exports/mh/train.parquet
|
| 29 |
+
084cf93770230659365dc5c1a0e196914e6bdef092f2b889d364927d7f5b886b train_exports/nh/dev.parquet
|
| 30 |
+
899b8ab1a05e90bdeae5a0c2f7e190bfd5b351b90e74d64e814597b64c376fec train_exports/nh/train.parquet
|
| 31 |
+
0b1a5a20de78f1305c493703acbec2496cdefb2165b84a7255e13f987256082c train_exports/rerank/dev.parquet
|
| 32 |
+
25cc5c047dab90629685af194322109deaab241f6a76426f9619542600ffc79b train_exports/rerank/train.parquet
|
| 33 |
+
3915ab5b44de54e06ca5d2a450698cc1a7fa0ad31e719cb2a5b2198d05bc8459 train_exports/verify/dev.parquet
|
| 34 |
+
e98bc4575eea67bfe5447f532a55d4cf73985a883a86eea4fe466448abe94176 train_exports/verify/train.parquet
|
README.md
ADDED
|
@@ -0,0 +1,113 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
license: cc-by-nc-4.0
|
| 3 |
+
language:
|
| 4 |
+
- fr
|
| 5 |
+
- en
|
| 6 |
+
pretty_name: BRAINHR+ corpus v2
|
| 7 |
+
tags:
|
| 8 |
+
- synthetic
|
| 9 |
+
- recruitment
|
| 10 |
+
- cv
|
| 11 |
+
- job-matching
|
| 12 |
+
- evidence
|
| 13 |
+
configs:
|
| 14 |
+
- config_name: pairs
|
| 15 |
+
default: true
|
| 16 |
+
data_files:
|
| 17 |
+
- split: train
|
| 18 |
+
path: pairs/train.parquet
|
| 19 |
+
- split: dev
|
| 20 |
+
path: pairs/dev.parquet
|
| 21 |
+
- config_name: claims
|
| 22 |
+
data_files:
|
| 23 |
+
- split: train
|
| 24 |
+
path: suites/claims/train.parquet
|
| 25 |
+
- split: dev
|
| 26 |
+
path: suites/claims/dev.parquet
|
| 27 |
+
- config_name: adversarial
|
| 28 |
+
data_files:
|
| 29 |
+
- split: train
|
| 30 |
+
path: suites/adversarial/train.parquet
|
| 31 |
+
- config_name: export_extract_cv
|
| 32 |
+
data_files:
|
| 33 |
+
- split: train
|
| 34 |
+
path: train_exports/extract_cv/train.parquet
|
| 35 |
+
- split: validation
|
| 36 |
+
path: train_exports/extract_cv/dev.parquet
|
| 37 |
+
- config_name: export_extract_offer
|
| 38 |
+
data_files:
|
| 39 |
+
- split: train
|
| 40 |
+
path: train_exports/extract_offer/train.parquet
|
| 41 |
+
- split: validation
|
| 42 |
+
path: train_exports/extract_offer/dev.parquet
|
| 43 |
+
- config_name: export_mh
|
| 44 |
+
data_files:
|
| 45 |
+
- split: train
|
| 46 |
+
path: train_exports/mh/train.parquet
|
| 47 |
+
- split: validation
|
| 48 |
+
path: train_exports/mh/dev.parquet
|
| 49 |
+
- config_name: export_nh
|
| 50 |
+
data_files:
|
| 51 |
+
- split: train
|
| 52 |
+
path: train_exports/nh/train.parquet
|
| 53 |
+
- split: validation
|
| 54 |
+
path: train_exports/nh/dev.parquet
|
| 55 |
+
- config_name: export_rerank
|
| 56 |
+
data_files:
|
| 57 |
+
- split: train
|
| 58 |
+
path: train_exports/rerank/train.parquet
|
| 59 |
+
- split: validation
|
| 60 |
+
path: train_exports/rerank/dev.parquet
|
| 61 |
+
- config_name: export_verify
|
| 62 |
+
data_files:
|
| 63 |
+
- split: train
|
| 64 |
+
path: train_exports/verify/train.parquet
|
| 65 |
+
- split: validation
|
| 66 |
+
path: train_exports/verify/dev.parquet
|
| 67 |
+
---
|
| 68 |
+
|
| 69 |
+
# BRAINHR+ corpus v2 (privé)
|
| 70 |
+
|
| 71 |
+
Corpus synthétique de paires CV–offre d'emploi, en français et en anglais, construit pour la révision de l'article
|
| 72 |
+
« Evidence-grounded recruitment screening » (Array, ARRAY-D-26-03875). Aucune donnée personnelle réelle : identités
|
| 73 |
+
fictives, e-mails sur example.com/.org/.net, téléphones des plages ARCEP réservées à la fiction ; le texte vu par le
|
| 74 |
+
modèle (`cv.model_input_text`) est pseudonymisé.
|
| 75 |
+
|
| 76 |
+
## Contenu
|
| 77 |
+
|
| 78 |
+
| Split | Paires | Assertions | Adversarial |
|
| 79 |
+
| --- | --- | --- | --- |
|
| 80 |
+
| train | 3600 | 12202 | 400 |
|
| 81 |
+
| dev | 400 | 2183 | 0 |
|
| 82 |
+
| test | 800 | 4642 | 1500 |
|
| 83 |
+
|
| 84 |
+
Les fichiers du test (paires, suites de test, exports d'évaluation) ne sont pas encore publiés : ils restent locaux tant que l'annotation humaine à l'aveugle du test (test-H) n'est pas terminée. Leurs empreintes SHA-256 sont dans `MANIFEST.sha256` et `FREEZE.json` : le test est gelé.
|
| 85 |
+
|
| 86 |
+
Labels : construction déterministe depuis une spécification (vérité terrain), par des règles documentées
|
| 87 |
+
(`labeling/rules.py`), jamais éditées à la main. Le panel de deux juges LLM n'a été mesuré que sur le dev, avec de petits
|
| 88 |
+
modèles locaux trop indulgents pour servir de filtre ; il n'a écarté ni modifié aucune paire (`label_source` =
|
| 89 |
+
`construction`). L'annotation humaine (test-H) est à venir. `pipeline_trace` vaut `to_recompute` : aucune valeur du
|
| 90 |
+
système BRAINHR+ n'est écrite à la main ni par un LLM.
|
| 91 |
+
|
| 92 |
+
## Exports d'entraînement (format chat)
|
| 93 |
+
|
| 94 |
+
| Rôle | Train | Dev |
|
| 95 |
+
| --- | --- | --- |
|
| 96 |
+
| extract_cv | 3412 | 400 |
|
| 97 |
+
| extract_offer | 180 | 20 |
|
| 98 |
+
| mh | 16880 | 1860 |
|
| 99 |
+
| nh | 14700 | 1820 |
|
| 100 |
+
| rerank | 3600 | 400 |
|
| 101 |
+
| verify | 12202 | 2183 |
|
| 102 |
+
|
| 103 |
+
Chaque ligne : `messages` (system, user, assistant) et `meta` (JSON). Les prompts système sont versionnés
|
| 104 |
+
(`prompts/roles/*@1.0.0.md` dans le dépôt de code).
|
| 105 |
+
|
| 106 |
+
## Limites
|
| 107 |
+
|
| 108 |
+
Données synthétiques (écart synthétique–réel non mesuré sur des données réelles) ; générateurs de 3 à 4 milliards de
|
| 109 |
+
paramètres ; panel non exécuté sur le train ni le test ; annotation humaine d'une seule personne (à venir) ; la
|
| 110 |
+
longueur du CV prédit en partie la pertinence (AUC 0,62 à 0,71, voir `docs/qc_report.md`) ; français et anglais
|
| 111 |
+
seulement ; marchés France, Maroc et international.
|
| 112 |
+
|
| 113 |
+
Licence : CC BY-NC 4.0. Code : Apache-2.0. Éditeur : Brain Gen Technology.
|
docs/datasheet.md
ADDED
|
@@ -0,0 +1,49 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# Datasheet — BRAINHR+ corpus v2
|
| 2 |
+
|
| 3 |
+
Format : Gebru et al., « Datasheets for Datasets ». Chiffres tirés de `reports/metrics/` (sources en fin de section).
|
| 4 |
+
|
| 5 |
+
## Motivation
|
| 6 |
+
|
| 7 |
+
Corpus construit pour la révision de l'article « Evidence-grounded recruitment screening: a secure and explainable framework based on semantic scoring and LLM reasoning » (Array, ARRAY-D-26-03875 ; K. Karroum, A. Zaddoug, H. Noureddine, M. El Haziti). Le corpus v1 (5 000 paires privées) n'est ni publiable ni reproductible ; la v2 répond aux commentaires des six relecteurs sur la preuve suffisante, l'équité, la robustesse adversariale, la reproductibilité et les fuites entre dev et test. Éditeur : Brain Gen Technology (Casablanca).
|
| 8 |
+
|
| 9 |
+
## Composition
|
| 10 |
+
|
| 11 |
+
- 4800 paires CV–offre (3600 train, 400 dev, 800 test), 240 offres × 20 candidats, 4260 CV distincts (20 % des CV du train servent une deuxième offre d'une autre famille).
|
| 12 |
+
- Langues : français et anglais (CV environ 65 % / 35 %, paires croisées environ 15 %). Aucun arabe. Marchés : France, Maroc, international.
|
| 13 |
+
- 10 missions du test portent sur des fiches ROME absentes du train et du dev (hors distribution).
|
| 14 |
+
- Chaque paire : offre (texte, critères obligatoires, atouts, critères éliminatoires), CV (texte observé après ingestion du document, texte pseudonymisé vu par le modèle, JSON or extractif avec ancrages), vérité terrain (phi, note Likert 1–5, labels par critère avec preuves citées, assertions, incohérences, vues recruteur et candidat), provenance, verdict du panel, `pipeline_trace` à recalculer.
|
| 15 |
+
- Suites : assertions–preuves (train 12202, dev 2183, test 4642 assertions) ; adversarial (train 400 variantes, test 1200 variantes).
|
| 16 |
+
- Données personnelles : aucune réelle ; enregistrements avec fuite après pseudonymisation : 0. Attributs protégés (genre, origine perçue, tranche d'âge) stockés à part (`cv.protected`) pour les tests d'équité, jamais dans le texte du modèle.
|
| 17 |
+
|
| 18 |
+
## Collecte (génération)
|
| 19 |
+
|
| 20 |
+
Spécification d'abord : offres et CV sont des spécifications JSON tirées de ROME 4.0, ESCO v1.2.1 et du jeu « mots-clés de CV par métier » (JobAlign) ; la spécification est la vérité terrain. Trois petits modèles ouverts rédigent les phrases autour de surfaces imposées (A = Qwen3-4B-AWQ, B = Ministral-3-3B, C = Granite 4.0 Micro ; C seulement pour le test), sur une RTX 3050 de 6 Go. Les documents sont rendus (PDF une ou deux colonnes, DOCX, scan bruité, e-mail ou export de profil) puis ingérés comme dans le pipeline (PyMuPDF 1.26.5, docx2txt 0.8, OCR Tesseract fra+eng sous 50 % de caractères décodés).
|
| 21 |
+
|
| 22 |
+
## Prétraitement et labels
|
| 23 |
+
|
| 24 |
+
- Pseudonymisation (noms, e-mails, téléphones, entreprises, établissements ; adresse et date de naissance supprimées) ; réancrage de chaque valeur dans le texte ; preuves valides 55716/55716 (100,0 %, IC 95 % [100,0 ; 100,0]).
|
| 25 |
+
- Labels par construction (règles déterministes de `labeling/rules.py`), jamais édités à la main ; trous et chevauchements légitimes ne baissent jamais la note.
|
| 26 |
+
- Panel de deux juges LLM de familles différentes du générateur ; paires acceptées (phi identique et note à ±1 pour les deux juges) : mesuré sur le dev seulement, 68/200 (34,0 %, IC 95 % [27,8 ; 40,8]) ; juges trop indulgents pour servir de filtre, aucune paire écartée ni modifiée (D15).
|
| 27 |
+
- Annotation humaine : une seule personne (l'utilisatrice ou l'utilisateur), 300 paires du test (test-H) et 45 ré-annotées à 48 h ; à venir au moment du gel. Les accords v1 (κ = 0,81, ρ = 0,79) portaient sur le corpus réel v1 et le protocole v1, pas sur ce corpus.
|
| 28 |
+
|
| 29 |
+
## Usages
|
| 30 |
+
|
| 31 |
+
Entraînement et évaluation des rôles Extract (CV, offre), MH, NH, Rerank et Verify de BRAINHR+ ; évaluation de la robustesse adversariale et de la vérification sémantique des preuves. Usages exclus : décision de recrutement réelle, prédiction de rétention, « cultural fit », inférence d'attributs protégés.
|
| 32 |
+
|
| 33 |
+
## Distribution
|
| 34 |
+
|
| 35 |
+
Hugging Face, dépôt privé de l'organisation BrainHealthAI ; publication publique et DOI Zenodo seulement après accord explicite. Licence CC BY-NC 4.0 (données), Apache-2.0 (code). Le test est gelé (empreintes SHA-256 dans `data/final/MANIFEST.sha256` et `FREEZE.json`) ; ses fichiers ne sont publiés qu'après l'annotation humaine à l'aveugle.
|
| 36 |
+
|
| 37 |
+
## Maintenance
|
| 38 |
+
|
| 39 |
+
Versions sémantiques ; toute correction de règle se fait dans `labeling/rules.py` et s'applique à tous les splits par relabellisation déterministe ; écarts consignés dans `reports/deviations.md`, décisions dans `reports/decisions.md`.
|
| 40 |
+
|
| 41 |
+
## Limites et menaces sur la validité
|
| 42 |
+
|
| 43 |
+
- Construit : labels synthétiques ; le panel est formé de modèles de 3 à 4 milliards de paramètres, faibles comme juges.
|
| 44 |
+
- Interne : la conceptrice ou le concepteur du corpus est aussi la seule personne qui annote.
|
| 45 |
+
- Externe : aucune donnée réelle ; écart synthétique–réel non mesuré sur du réel (JobSkape : 68,0 vs 22,2 de micro-F1) ; français et anglais seulement ; textes rédigés par de petits modèles et une grammaire programmée, plus sobres que des CV réels.
|
| 46 |
+
- Conclusion statistique : 300 paires humaines, 40 missions de test ; viser la non-infériorité.
|
| 47 |
+
|
| 48 |
+
Exports d'entraînement : voir `reports/export_stats.md`.
|
| 49 |
+
|
docs/qc_report.md
ADDED
|
@@ -0,0 +1,22 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# Contrôle qualité (E12) — 14 contrôles
|
| 2 |
+
|
| 3 |
+
| # | Contrôle | Statut | Mesure |
|
| 4 |
+
| --- | --- | --- | --- |
|
| 5 |
+
| 1 | Schémas | atteint | 0 erreur(s) sur 4800 enregistrements |
|
| 6 |
+
| 2 | Chronologie | atteint | indicateurs inexpliqués : 0 ; cas légitimes pénalisés : 0 |
|
| 7 |
+
| 3 | Fidélité texte ↔ spec | partiel | CV avec toutes les surfaces obligatoires : 4260/4260 (100,0 %, IC 95 % [99,9 ; 100,0]) ; juge LLM de fidélité non exécuté |
|
| 8 |
+
| 4 | Fuite de qualification | atteint | CV sans lexique interdit : 4260/4260 (100,0 %, IC 95 % [99,9 ; 100,0]) |
|
| 9 |
+
| 5 | Réancrage | atteint | preuves valides 55716/55716 (100,0 %, IC 95 % [100,0 ; 100,0]) ; enregistrements avec champ non récupérable 45/4800 (0,9 %, IC 95 % [0,7 ; 1,3]) |
|
| 10 |
+
| 6 | Longueur | atteint | entrée Rerank max : train 2725, dev 2528, test 2666 jetons Llama-3 (seuil 6 000) |
|
| 11 |
+
| 7 | Langue | atteint | train 3240/3240 (100,0 %, IC 95 % [99,9 ; 100,0]); dev 420/420 (100,0 %, IC 95 % [99,1 ; 100,0]); test 840/840 (100,0 %, IC 95 % [99,5 ; 100,0]) |
|
| 12 |
+
| 8 | Données personnelles | atteint | enregistrements avec fuite : 0 |
|
| 13 |
+
| 9 | Doublons | atteint | quasi-doublons (MinHash et cosinus) entre splits : 0 ; paires signalées par le cosinus seul : 9677 (Jaccard médian 0,009, max 0,149) |
|
| 14 |
+
| 10 | Diversité | non atteint | train : gabarit max 5,1 %, distinct-2 0,202, self-BLEU 0,319; dev : gabarit max 5,0 %, distinct-2 0,356, self-BLEU 0,363; test : gabarit max 14,2 %, distinct-2 0,285, self-BLEU 0,356 |
|
| 15 |
+
| 11 | Raccourcis | non atteint | train : AUC longueur 0,622, recouvrement 0,682, BM25 nDCG@10 0,750; dev : AUC longueur 0,710, recouvrement 0,665, BM25 nDCG@10 0,790; test : AUC longueur 0,691, recouvrement 0,680, BM25 nDCG@10 0,768 |
|
| 16 |
+
| 12 | Panel | en attente | |
|
| 17 |
+
| 13 | Construction vs humain | en attente | test-H annotation (300 pairs) not done yet |
|
| 18 |
+
| 14 | Intra-annotateur | en attente | 45 pairs re-annotated >= 48 h after the first session |
|
| 19 |
+
|
| 20 |
+
Proportions : k/n (p %, IC de Wilson à 95 %).
|
| 21 |
+
|
| 22 |
+
Source : `reports/metrics/qc_controls.json` (commande `python -m brainhr_corpus.qc.controls`, commit 35cf75e, 2026-11-16T00:44:16+00:00).
|
pairs/dev.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:1672230211d156ffab38065a96c33693d9dd1eda4843eadc5120c89340503c29
|
| 3 |
+
size 928379
|
pairs/train.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:7f9e49c4a62adf8e8fd70433210795da72b4a18fc3014c4bf913903328a5fa89
|
| 3 |
+
size 6873945
|
suites/adversarial/train.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:80a83b38bc81b2f562556789d55c8c443a5f53964be1a9f6b2c0f0c3dffed4cf
|
| 3 |
+
size 454790
|
suites/claims/dev.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:2aaacadec8eba81ca4a4abc79819912640c307ff3d95f7f0656753a1094737fb
|
| 3 |
+
size 159546
|
suites/claims/train.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:e1f95a8f25238193ee486d84c748fd5303f3ed5a8c9192251c15cc5b09a257f4
|
| 3 |
+
size 812336
|
train_exports/extract_cv/dev.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:6bb7daab52d29e17fc192f40ab675bf2eb0e5dca0aaac47a97813e8b0fa51efc
|
| 3 |
+
size 286303
|
train_exports/extract_cv/train.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:ae18f9f127f5fc9cbb4b74482d8099ed694385bea007a4de898ba21003a52b78
|
| 3 |
+
size 2557036
|
train_exports/extract_offer/dev.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:42f382ac5cc2a02ece276b8dd7a27c645918575f0bbbac6e27a7dbbcb6a2bf63
|
| 3 |
+
size 22104
|
train_exports/extract_offer/train.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:a703b6827c1e74b8f3d780f4b4e0068ed0540bb621657f178e24484735ef8347
|
| 3 |
+
size 115290
|
train_exports/mh/dev.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:be0d39b7f63c15557d5bdd1e208b52c57e72a55cf0e961e777a2f93d83c6d957
|
| 3 |
+
size 304215
|
train_exports/mh/train.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:411a368a8360ddb40d00d7fc624e2cf910eb3e9e5adb913d19d2c1091400b074
|
| 3 |
+
size 2853828
|
train_exports/nh/dev.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:084cf93770230659365dc5c1a0e196914e6bdef092f2b889d364927d7f5b886b
|
| 3 |
+
size 273403
|
train_exports/nh/train.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:899b8ab1a05e90bdeae5a0c2f7e190bfd5b351b90e74d64e814597b64c376fec
|
| 3 |
+
size 2452406
|
train_exports/rerank/dev.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:0b1a5a20de78f1305c493703acbec2496cdefb2165b84a7255e13f987256082c
|
| 3 |
+
size 280332
|
train_exports/rerank/train.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:25cc5c047dab90629685af194322109deaab241f6a76426f9619542600ffc79b
|
| 3 |
+
size 2567815
|
train_exports/verify/dev.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:3915ab5b44de54e06ca5d2a450698cc1a7fa0ad31e719cb2a5b2198d05bc8459
|
| 3 |
+
size 120721
|
train_exports/verify/train.parquet
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:e98bc4575eea67bfe5447f532a55d4cf73985a883a86eea4fe466448abe94176
|
| 3 |
+
size 762721
|