eurlex: drop the 92 IASB-notice documents (243,060 -> 242,968 docs, v0.2.6)

#82
by ppuzio - opened
Fabryka AI org

What and why

Follow-up to Hub PR #71 (merged as 262df1b), which relabelled eurlex to LicenseRef-EU-Reuse-Policy and reported the IASB-notice documents. This PR drops those 92 IASB-notice documents (maintainer decision 2026-10-06: the notice allows reproduction in the EEA and reserves all rights outside it, and the Hub is not EEA-limited). v0.2.6 rights audit, slayerlabs/polish-dynaword-v2#57; lawyer question #56 B5.

release is unchanged ("0.2.0"). README.md, CHANGELOG.md and release totals are untouched (the release commit does those).

Before -> after

main (after #71) this PR
docs 243,060 242,968 (-92)
chars 5,976,949,249 5,902,889,135 (-74,060,114)
tokens 2,378,055,718 2,350,709,056 (-27,346,662)
parquet sha256 44cc0dfb0c73c1462635cebc23ed7c1f46e6c509e57e118477a8cfc7cc74c84c 17e4112c40d2f961f01e6c4c0b31157c77d5ba89b4c86935d19a82fe0496a2ef

Rebuilt from the v0.2.5 input (5f151d57…) with python3 src/clean_eurlex.py; a second rebuild gives the same sha256. Every kept row was compared row by row against the v0.2.5 file minus the 92 ids: all columns other than license are identical. eurlex.stats.json now records read 243,060, kept 242,968, drop_iasb_notice 92.

Rule

Rule Docs Chars Action Hand check
IASB notice ("zastrzeżone poza EOG": reproduction allowed in the EEA, all rights reserved outside it) 92 74,060,114 (1.24%) dropped all 92 matched lines read in #71, each is the IASB notice (11 line forms); 64 OJ acts adopting/amending IAS/IFRS + 28 consolidated versions (20 of 1126/2008, 6 of 1725/2003, 1 of 475/2012, 1 of 1361/2014)

The drop is pinned to the 92 ids in data/eurlex/eurlex.third-party-scan.json (iasb_notice_ids, from the v0.2.5 input). clean() fails closed, leaving the parquet as it was, if a row carries the notice without being pinned, a pinned row lacks it, or a pinned id is missing from the input (so it also refuses a rerun on its own output). --scan refuses to change a pinned list. None of the 92 is in the © or author-header counts reported in #71, so those are unchanged and stay kept.

Also updated: src/sources.py legal_note (states the drop), eurlex.license-evidence.json (third_party_check.report_only: false, dropped: 92, new after_sha256), the card (regenerated with make_docs.datasheet, diff checked), and the eurlex section of artifacts/source_findings.md.

Tests

python -m pytest -q in the worktree (LFS pointers for other sources cause the pre-existing failures):

  • before (main 262df1b): 41 failed, 483 passed, 2 skipped, 10 errors
  • after (this PR): 41 failed, 489 passed, 2 skipped, 10 errors
  • the failure/error set is identical (diffed), none in eurlex. New/updated in src/test_eurlex_contract.py: clean touches only license and drops only pinned rows; refuses an unpinned IASB row, a pinned row without the notice, a pinned id missing from the input, a rerun on its own output, and a foreign licence, each leaving the file intact; --scan never changes a pinned list; parquet vs stats vs evidence (release = v0.2.5 minus the IASB rows).

python3 src/render_sample.py data/eurlex/eurlex.parquet -n 3

id: eurlex_1909135
source: eurlex
added: 2026-06-15
created: 1952-01-01, 2024-12-31
token_count: 3377
license: LicenseRef-EU-Reuse-Policy
author: 

C_2009259PL.01001401.xml
29.10.2009   
PL
Dziennik Urzędowy Unii Europejskiej
C 259/14
Informacje przekazane przez państwa członkowskie, dotyczące pomocy państwa przyznanej na mocy rozporządzenia Komisji (WE) nr 800/2008 uznające niektóre rodzaje pomocy za zgodne ze wspólnym rynkiem w zastosowaniu art. 87 i 88 Traktatu (ogólne rozporządzenie w sprawie wyłączeń blokowych)
(Tekst mający znaczenie dla EOG)
2009/C 259/07
Numer środka pomocy państwa
X 108/08
Państwo członkowskie
Republika Czeska
Numer referencyjny państwa członkowskiego
50748/08/08100/6A
Nazwa regionu (NUTS)
Střední Čechy, Jihozápad, Severozápad, Severovýchod, Jihovýchod, Střední Morava, Moravskoslezko
Artykuł 87 ust. 3 lit. a)
Organ przyznający pomoc
Ministerstvo průmyslu a obchodu
Na Františku 32
110 15 Praha 1
ČESKÁ […]
id: eurlex_2001259
source: eurlex
added: 2026-06-15
created: 1952-01-01, 2024-12-31
token_count: 903
license: LicenseRef-EU-Reuse-Policy
author: 

C_2017382PL.01004101.xml
13.11.2017   
PL
Dziennik Urzędowy Unii Europejskiej
C 382/41
Wyrok Sądu z dnia 3 października 2017 r. – Ellinikos Syndesmos Epicheiriseon gia ti Diacheirisi ton Diethnon Protypon GS1/EUIPO – 520 Barcode Hellas (520Barcode Hellas)
(Sprawa T-453/16)
 (
1
)
({Znak towarowy Unii Europejskiej - Postępowanie w sprawie sprzeciwu - Zgłoszenie graficznego unijnego znaku towarowego 520Barcode Hellas - Względna podstawa odmowy rejestracji - Artykuł 8 ust. 4 rozporządzenia (WE) nr 207/2009 [obecnie art. 8 ust. 4 rozporządzenia (UE) 2017/1001] - Określenie charakteru oznaczenia, na które powołano się w sprzeciwie - Inne wcześniejsze oznaczenie 520 - Określenie towarów i usług, na których opiera się sprzeciw})
(2017/C 382/49)
Język postępowania: angielski
Strony
Strona […]
id: eurlex_2029418
source: eurlex
added: 2026-06-15
created: 1952-01-01, 2024-12-31
token_count: 513
license: LicenseRef-EU-Reuse-Policy
author: 

C_2019311PL.01000201.xml
16.9.2019   
PL
Dziennik Urzędowy Unii Europejskiej
C 311/2
Brak sprzeciwu wobec zgłoszonej koncentracji
(Sprawa M.9446 – Toyota Motor Corporation/Panasonic Corporation/JV)
(Tekst mający znaczenie dla EOG)
(2019/C 311/03)
W dniu 10 września 2019 r. Komisja podjęła decyzję o niewyrażaniu sprzeciwu wobec powyższej zgłoszonej koncentracji i uznaniu jej za zgodną z rynkiem wewnętrznym. Decyzja ta została oparta na art. 6 ust. 1 lit. b) rozporządzenia Rady (WE) nr 139/2004 
(
1
)
. Pełny tekst decyzji dostępny jest wyłącznie w języku angielskim i zostanie podany do wiadomości publicznej po uprzednim usunięciu ewentualnych informacji stanowiących tajemnicę handlową. Tekst zostanie udostępniony:
—
w dziale dotyczącym połączeń przedsiębiorstw na stronie internetowej […]

🤖 Generated with Claude Code

ppuzio changed pull request status to open
ppuzio changed pull request status to merged

Sign up or log in to comment