Datasets:
| { | |
| "frozen_on": "2026-10-25", | |
| "seed": 20261025, | |
| "method": "stratified by tier; per tier: test = round(20%), dev = round(10%), rest train; ids sorted then shuffled with random.Random(seed)", | |
| "counts": { | |
| "train": 82, | |
| "dev": 11, | |
| "test": 20 | |
| }, | |
| "per_tier": { | |
| "1": { | |
| "train": 22, | |
| "dev": 3, | |
| "test": 6 | |
| }, | |
| "2": { | |
| "train": 32, | |
| "dev": 5, | |
| "test": 9 | |
| }, | |
| "3": { | |
| "train": 18, | |
| "dev": 3, | |
| "test": 5 | |
| } | |
| }, | |
| "train": [ | |
| "T003", | |
| "T004", | |
| "T005", | |
| "T006", | |
| "T007", | |
| "T008", | |
| "T010", | |
| "T011", | |
| "T013", | |
| "T015", | |
| "T016", | |
| "T017", | |
| "T018", | |
| "T019", | |
| "T020", | |
| "T021", | |
| "T022", | |
| "T023", | |
| "T024", | |
| "T025", | |
| "T027", | |
| "T029", | |
| "T030", | |
| "T031", | |
| "T032", | |
| "T034", | |
| "T035", | |
| "T036", | |
| "T037", | |
| "T038", | |
| "T040", | |
| "T041", | |
| "T044", | |
| "T045", | |
| "T046", | |
| "T047", | |
| "T048", | |
| "T049", | |
| "T050", | |
| "T052", | |
| "T053", | |
| "T054", | |
| "T056", | |
| "T057", | |
| "T059", | |
| "T063", | |
| "T066", | |
| "T068", | |
| "T069", | |
| "T070", | |
| "T071", | |
| "T072", | |
| "T075", | |
| "T076", | |
| "T078", | |
| "T079", | |
| "T080", | |
| "T083", | |
| "T085", | |
| "T086", | |
| "T087", | |
| "T088", | |
| "T089", | |
| "T091", | |
| "T092", | |
| "T093", | |
| "T094", | |
| "T096", | |
| "T100", | |
| "T101", | |
| "T102", | |
| "T103", | |
| "T104", | |
| "T105", | |
| "T106", | |
| "T107", | |
| "T108", | |
| "T109", | |
| "T110", | |
| "T111", | |
| "T112", | |
| "T113" | |
| ], | |
| "dev": [ | |
| "T028", | |
| "T033", | |
| "T042", | |
| "T055", | |
| "T062", | |
| "T064", | |
| "T067", | |
| "T073", | |
| "T074", | |
| "T081", | |
| "T098" | |
| ], | |
| "test": [ | |
| "T001", | |
| "T002", | |
| "T009", | |
| "T012", | |
| "T014", | |
| "T026", | |
| "T039", | |
| "T043", | |
| "T051", | |
| "T058", | |
| "T060", | |
| "T061", | |
| "T065", | |
| "T077", | |
| "T082", | |
| "T084", | |
| "T090", | |
| "T095", | |
| "T097", | |
| "T099" | |
| ], | |
| "revisions": [ | |
| { | |
| "on": "2026-10-26", | |
| "added_to_train": [ | |
| "T104", | |
| "T105", | |
| "T106", | |
| "T107", | |
| "T108", | |
| "T109", | |
| "T110", | |
| "T111", | |
| "T112", | |
| "T113" | |
| ], | |
| "note": "new tasks appended to train only; dev and test unchanged" | |
| } | |
| ] | |
| } | |