eurlex: relabel to LicenseRef-EU-Reuse-Policy, report third-party (IASB) material

#71
by ppuzio - opened
Fabryka AI org

What and why

v0.2.6 rights audit, source eurlex (released v0.2.5): slayerlabs/polish-dynaword-v2#57 (action), #56 B5 (lawyer question on the IASB-notice documents).

  • Relabel every row from CC-BY-4.0 to LicenseRef-EU-Reuse-Policy. The EUR-Lex legal notice licenses under CC BY 4.0 only "the editorial content of this website, the summaries of EU legislation and the consolidated texts"; the legal acts themselves are reusable under the Commission's reuse policy (Decision 2011/833/EU, Art. 4 general principle, Art. 6(2) source acknowledgement and no distortion).
  • Drop the Polish Copyright Act Art. 4 basis from the card (it does not apply to EU acts). It is named only to say it is not relied on.
  • Add the third-party-material caveat (card section "Legal scope note").
  • Report-only scan of documents the notice's third-party / special-conditions exclusions may reach. Nothing is dropped.

release is unchanged ("0.2.0"). README.md, CHANGELOG.md and release totals are untouched (the release commit does those); README line 192 still shows CC-BY-4.0 for eurlex until then.

Before -> after

v0.2.5 this PR
docs 243,060 243,060
chars 5,976,949,249 5,976,949,249
tokens 2,378,055,718 2,378,055,718
license column CC-BY-4.0 (243,060) LicenseRef-EU-Reuse-Policy (243,060)
parquet sha256 5f151d57c20103f5488fd7f1b6c108311b648e4c7ed1ff02ef7a376be5c92f04 44cc0dfb0c73c1462635cebc23ed7c1f46e6c509e57e118477a8cfc7cc74c84c

Only the license column changed; every other column was compared column by column against the v0.2.5 file and is identical. The test test_release_artifact_matches_label_stats_and_evidence pins the totals and the sha256.

Rules

Rule Docs Chars Action Hand check
relabel (src/clean_eurlex.py, fails closed on any licence other than the old/new label) 243,060 5,976,949,249 rewritten all rows carry the new label; other columns identical
IASB notice ("zastrzeżone poza EOG": reproduction allowed in the EEA, all rights reserved outside it) 92 74,060,114 (1.24%) reported, kept all 92 matched lines read, each is the IASB notice (11 line forms); 64 OJ acts adopting/amending IAS/IFRS + 28 consolidated versions (20 of 1126/2008, 6 of 1725/2003, 1 of 475/2012, 1 of 1361/2014). 2 further docs with a standard title but no notice are not counted. First version of the regex matched 98 (IASB/Foundation mentions); narrowed after reading them
© sign 97 0.52% reported, kept read by first occurrence: 33 third-party credits or short data citations (OECD, IEA, IHS Markit, CRU, McKinsey, Springer, IOTF), 25 EU-owned credits, 7 binary-garbage docs, 32 glyph noise / list markers / trademark symbols. The credited images are not in the text
author headers (first 3000 chars): ECB acts / EESC / state aid SA.* / UN ECE regulations 1,414 / 5,154 / 2,941 / 253 1.00% / 2.16% / 1.26% / 0.39% reported, kept not third-party under the notice by themselves; they matter only if those bodies' terms differ (not checked). The audit's rough ECB ~4% and state aid ~2.5% do not reproduce with these patterns

Document ids: data/eurlex/eurlex.third-party-scan.json (the 92 IASB ids) and data/eurlex/eurlex.license-evidence.json. Recall for third-party text these patterns do not target is unknown. No large-scale reproduction of non-EU copyrighted works was found by them.

Provenance and licence

  • Basis (read-only, retrieved 2026-10-06): EUR-Lex legal notice https://eur-lex.europa.eu/content/legal-notice/legal-notice.html (135,286 bytes, sha256 7994b96f400239cda9061a64f781c75cf927637cf29320402a4ffce6d71f3857); Decision 2011/833/EU https://eur-lex.europa.eu/eli/dec/2011/833/oj/eng (314,528 bytes, sha256 1e867b79d32ed7078175705668e48f64c2850fa15a26ff761f4dc080514e69e8, "In force"). Clause paraphrases are in the evidence JSON.
  • The Decision covers Commission documents (recital 14: not applicable to documents received from other institutions). Acts of the Council, Parliament, ECB, EESC and CJEU therefore rest on the notice's general reuse sentence alone; whether those bodies publish their own reuse terms was not checked.
  • Chain of title: EUR-Lex -> SpeakLeash eurlex_corpus -> this dataset. SpeakLeash's own terms were not checked; EUR-Lex terms are the basis.
  • Open decision for the maintainer / lawyer (#56 B5): keep or drop the 92 IASB-notice documents (1.24% of chars). Nothing was removed here.

Tests

python -m pytest -q in the worktree (LFS pointers for other sources cause the pre-existing failures):

  • before: 24 failed, 258 passed, 7 errors
  • after: 24 failed, 274 passed, 7 errors
  • the failure/error set is identical (diffed); the +16 passes are the new tests in src/test_eurlex_contract.py (relabel only touches license, idempotent, refuses a foreign licence and leaves the file intact, IASB regex positives/negatives, header rules, scan counts, registry label/basis, parquet vs stats vs evidence sha256, evidence vs scan agreement, card equals make_docs.datasheet).

Card regenerated with make_docs.py; its diff was checked and the README / CHANGELOG / wiktionary_examples.md changes it proposes were reverted.

python3 src/render_sample.py data/eurlex/eurlex.parquet -n 3

id: eurlex_1909096
source: eurlex
added: 2026-06-15
created: 1952-01-01, 2024-12-31
token_count: 1529
license: LicenseRef-EU-Reuse-Policy
author: 

L_2009283PL.01005301.xml
30.10.2009   
PL
Dziennik Urzędowy Unii Europejskiej
L 283/53
DECYZJA RADY
z dnia 20 października 2009 r.
upoważniająca Rzeczpospolitą Polską do stosowania środka stanowiącego odstępstwo od art. 287 dyrektywy 2006/112/WE w sprawie wspólnego systemu podatku od wartości dodanej
(2009/790/WE)
RADA UNII EUROPEJSKIEJ,
uwzględniając Traktat ustanawiający Wspólnotę Europejską, w szczególności jego art. 93,
uwzględniając dyrektywę Rady 2006/112/WE z dnia 28 listopada 2006 r. w sprawie wspólnego systemu podatku od wartości dodanej
 (
1
)
, w szczególności jej art. 395 ust. 1,
uwzględniając wniosek Komisji,
a także mając na uwadze, co następuje:
(1)
W piśmie zarejestrowanym przez Sekretariat Generalny Komisji w dniu 22 czerwca 2009 r. Rzeczpospolita Polska zwróciła się o […]
id: eurlex_2001173
source: eurlex
added: 2026-06-15
created: 1952-01-01, 2024-12-31
token_count: 172
license: LicenseRef-EU-Reuse-Policy
author: 

C_2017384PL.01001201.xml
14.11.2017   
PL
Dziennik Urzędowy Unii Europejskiej
C 384/12
WSPÓLNE PRZEDSIĘWZIĘCIE NA RZECZ DRUGIEJ INICJATYWY W ZAKRESIE LEKÓW INNOWACYJNYCH
Publikacja końcowych sprawozdań finansowych za rok budżetowy 2016
(2017/C 384/44)
Pełna publikacja końcowych sprawozdań finansowych znajduje się pod następującym adresem:
http://www.imi.europa.eu/content/documents#budget_accounts
id: eurlex_2029328
source: eurlex
added: 2026-06-15
created: 1952-01-01, 2024-12-31
token_count: 1018
license: LicenseRef-EU-Reuse-Policy
author: 

C_2019319PL.01003101.xml
23.9.2019   
PL
Dziennik Urzędowy Unii Europejskiej
C 319/31
Skarga wniesiona w dniu 9 sierpnia 2019 r. — Hiszpania/Komisja
(Sprawa T-554/19)
(2019/C 319/32)
Język postępowania: hiszpański
Strony
Strona skarżąca:
 Królestwo Hiszpanii (przedstawiciel: M. García-Valdecasas Dorrego, pełnomocnik)
Strona pozwana:
 Komisja Europejska
Żądania
Strona skarżąca wnosi do Sądu o:
—
stwierdzenie nieważności ogłoszenia o konkursie;
—
obciążenie Komisji Europejskiej kosztami postępowania
Zarzuty i główne argumenty
Skarga skierowana jest przeciwko Ogłoszeniu o konkursie otwartym — EPSO/AD/374/19 — Administratorzy (AD 7) w następujących dziedzinach: 1. Prawo konkurencji; 2. Prawo finansowe; 3. Przepisy dotyczące unii gospodarczej i walutowej; 4. Przepisy finansowe mające […]

🤖 Generated with Claude Code

ppuzio changed pull request status to open
ppuzio changed pull request status to merged
ppuzio deleted the refs/pr/71 ref

Sign up or log in to comment