ted_pl: cite both licence bases, rescrub missed e-mails and phones (v0.2.6, v2#57)

#75
by ppuzio - opened
artifacts/source_findings.md CHANGED
@@ -1847,3 +1847,45 @@ References: polish-dynaword-v2 #57, #54, #60; `rights_audit_2026-10/REVIEW.html`
1847
 
1848
  **Lesson** — "contained in a released source" needs a size floor and a date check: a
1849
  containment score of one stock sentence says nothing about reuse.
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1847
 
1848
  **Lesson** — "contained in a released source" needs a size floor and a date check: a
1849
  containment score of one stock sentence says nothing about reuse.
1850
+
1851
+ ## ted_pl: two licence bases cited, text rebuilt from the TED API with fixed PII patterns (2026-10-06)
1852
+
1853
+ Audit actions from slayerlabs/polish-dynaword-v2#57; stays `release: None` until the
1854
+ NERGAL pass (#60).
1855
+
1856
+ ### Verified
1857
+
1858
+ - TED legal notice (read 2026-10-05, sha256 `c010943c01af22cf9cb30a32ca4044a3a1ee4e36a090e2dd2d8ee3d15a498997`):
1859
+ procurement notices "can be freely reused, for commercial or non-commercial purposes"
1860
+ unless otherwise noted. The CC BY 4.0 sentence covers SIMAP editorial content and the CC0
1861
+ sentence covers system metadata, not the notice text.
1862
+ - Decision 2011/833/EU is dated 12 December 2011 (the old datasheet said 21 December) and covers
1863
+ Commission documents (arts 1, 2(1)); it is not shown to license notices written by national authorities.
1864
+ - Full scan of 15,544 docs: 13 e-mails in 13 docs and 480 phone numbers had survived the old
1865
+ rules. Of 33 docs containing "@", 20 are not addresses. Fixed in `redact_pii`.
1866
+ - Rebuild: the 15,544 shipped notice ids were re-fetched from the TED Search API (XML
1867
+ fallback), 0 unresolved, raw bytes hash-identical to the original acquisition, no key, terms
1868
+ or throttling. `redact_pii` is applied once to the raw text (`build_ted_pl.py rebuild`, tests in
1869
+ `src/test_ted_pl_contract.py`); the earlier `rescrub` step is gone. Tokens 42,475,098
1870
+ (v0.2.5) to 42,471,550 (rescrub) to 42,473,050; `[Telefon]` 470 to 950 to 785 spans; `[PII]`
1871
+ 1,080 to 1,093 to 1,093 spans.
1872
+ - 164 `[Telefon]` spans in 81 docs from the rescrub are restored (amounts, quantities, part
1873
+ numbers, a procurement code, a bank account); 10 read in context, 10 of 10 correct. A fresh
1874
+ sample of 12 `[Telefon]` spans: 11 phones, 1 part number.
1875
+
1876
+ ### Not established
1877
+
1878
+ - Polish basis (Copyright Act art. 4 pkt 2, Open Data Act arts 2 pkt 8, 3, 5, 14, 15) is Inferred:
1879
+ art. 5 covers an entity's own BIP/system, TED is an EU system; about 20% of authors carry a
1880
+ company form and may not be "podmioty zobowiązane". No lawyer sign-off.
1881
+ - Personal names are not redacted (heuristic lower bound: 172 docs); NERGAL handles them.
1882
+ - Labelled PESEL/NIP/REGON are still replaced by `[PII]` for companies too (pattern unchanged
1883
+ since v0.2.5), so company identifiers did not come back. 242 raw matches (NIP in 66 docs,
1884
+ REGON in 38). One contractor looks like a natural person with a NIP next to the name
1885
+ (`ted_pl_167339-2024`), three more are partnerships with personal names; no author is a person.
1886
+ Bank accounts (1,111 docs) and KRS numbers are not redacted.
1887
+ - Dotted 3-3-3 part numbers are still read as phones (5 spans in 2 docs).
1888
+
1889
+ **Lesson:** a label-anchored phone regex with no number-shape guard turns amounts and part
1890
+ numbers into "phones"; check redactions for false positives, not only misses. Keep the raw
1891
+ download recipe runnable: a rescrub of already-redacted text cannot undo a false positive.
artifacts/ted_pl_ontology_manifest.json CHANGED
@@ -19,8 +19,8 @@
19
  "id": "claim:official-source",
20
  "statement": "Every retained text is rebuilt from a checksum-addressed official TED Search API record or official XML fallback; mirror text is not training input.",
21
  "supported_by": [
22
- "evidence:checksums:20af94c23f57e65b90c66a28cdebc5a47abcc8c986fe7f4ffdeb45ed4e24e5bc",
23
- "evidence:qa:c98af3dc0c651a79653a844243391905aa2128ef039f0a9f739a25e14a6258cd"
24
  ]
25
  },
26
  {
@@ -28,34 +28,34 @@
28
  "id": "claim:rights-qualified",
29
  "statement": "TED's official legal notice permits commercial and non-commercial reuse of notices unless otherwise noted; exceptions are not claimed absent.",
30
  "supported_by": [
31
- "evidence:qa:c98af3dc0c651a79653a844243391905aa2128ef039f0a9f739a25e14a6258cd"
32
  ]
33
  }
34
  ],
35
  "evidence": [
36
  {
37
- "id": "evidence:checksums:20af94c23f57e65b90c66a28cdebc5a47abcc8c986fe7f4ffdeb45ed4e24e5bc",
38
  "observation_type": "checksums",
39
  "payload": {
40
  "NOTICE.md": "60af2d405b7be812321ee40413a8de07b8918727a3baf91a3efb6a6e56002523",
41
  "README.md": "fd50a9f8139ef079d903e30eac14c8e19717d0bf7a7bf094b76cf72042f07ae0",
42
- "artifacts/attribution.jsonl": "36afcd12e67bf1af38dca15690bf32bf51f669536e0e9736ca32aa80e44b16ef",
43
  "artifacts/decisions.jsonl": "d3e89a6f0eb33193cabc7ae33be603cd65df2673d40fed1251a333ab93dead58",
44
- "artifacts/qa.json": "1a23cf74b659570a6ee85c98b3eac17529a02d85bd0d02bd42be4dafea6b90ba",
45
  "artifacts/run.json": "e2ad9ad14d29a5929f9180c16d559532d4b31d5afaf44cc237e4a6f00ac4ab77",
46
- "artifacts/sample.jsonl": "3b86c6f0f77288d50ddd5e572467a7047cee514f6ee47008d86c763869e2d6ca",
47
  "artifacts/source_files.json": "cf810be2b4539f0c9e4ab2b98c779bb559f83e7b32fcab9de799cd28ac697c1f",
48
  "artifacts/source_index.jsonl.gz": "fca83e9af2004c555070a53a555046845f424acdea0b973813295782e187ab8a",
49
- "artifacts/stats.json": "f3fba91d42062d8b846fc62a0a3bde2907e6843a9c24aa6c9b64d26c20708528",
50
- "data/train-00000-of-00001.parquet": "200960adfce7874dd0d1c1b35bd1785484f762c3f25ae90f3aaca80faddadd21",
51
- "src/build_ted_pl.py": "6c4dc9e97ac8a2a4503d21bec0cf9b8bbfc69c0d82c6f6fb57bfcf3e6cc59965",
52
  "src/requirements.txt": "c0df158dc054d8df8e514735f07e98dbd7d3359cba54440ae89f9df41b9a4332",
53
  "src/test_ted_pl_contribution.py": "e4b2d19a67a9da344d128a427dec7bdc5a491b139f3fa469b99bb0d7fbb1c516"
54
  },
55
  "produced_by": "run:5060f76e9d8526a4bffb39aaa45c837c292381204907b9b439350e2aba7b68a8"
56
  },
57
  {
58
- "id": "evidence:qa:c98af3dc0c651a79653a844243391905aa2128ef039f0a9f739a25e14a6258cd",
59
  "observation_type": "qa",
60
  "payload": {
61
  "benchmark_overlap": "pending",
@@ -66,9 +66,11 @@
66
  },
67
  "cross_source_dedup": "pending target integration",
68
  "exact_normalized_dedup": true,
69
- "license_gate": "TED legal notice permits commercial and non-commercial reuse unless otherwise noted; document-level exceptions remain reviewable",
70
  "limitations": [
71
- "free-text personal names are not comprehensively de-identified",
 
 
72
  "third-party works and per-notice exceptions require review",
73
  "source is institutional/legal-administrative and requires a deliberate mix cap",
74
  "official records may contain repeated form language below the frequency threshold"
@@ -8482,9 +8484,22 @@
8482
  },
8483
  "official_sources_only": true,
8484
  "pii_pattern_matches_replaced": {
8485
- "email": 2433,
8486
- "national_id": 366,
8487
- "phone": 2128
 
 
 
 
 
 
 
 
 
 
 
 
 
8488
  },
8489
  "source_protocol": "official TED Search API narrative fields with official XML fallback",
8490
  "structured_contacts_omitted": true
@@ -8522,17 +8537,17 @@
8522
  "relations": [
8523
  {
8524
  "predicate": "DERIVED_FROM",
8525
- "source": "version:dataset:20af94c23f57e65b90c66a28cdebc5a47abcc8c986fe7f4ffdeb45ed4e24e5bc",
8526
  "target": "version:source:f972b8e5bcf08d04724841b10d196810aab0d67ae9cee5422e29f91d130f9658"
8527
  },
8528
  {
8529
  "predicate": "GENERATED_BY",
8530
- "source": "version:dataset:20af94c23f57e65b90c66a28cdebc5a47abcc8c986fe7f4ffdeb45ed4e24e5bc",
8531
  "target": "run:08d36bcb01f2de7ab076205a77e3992bb64ac72620924755baa22fcf4c0f436d"
8532
  },
8533
  {
8534
  "predicate": "VALIDATED_AGAINST",
8535
- "source": "version:dataset:20af94c23f57e65b90c66a28cdebc5a47abcc8c986fe7f4ffdeb45ed4e24e5bc",
8536
  "target": "run:5060f76e9d8526a4bffb39aaa45c837c292381204907b9b439350e2aba7b68a8"
8537
  }
8538
  ],
@@ -8581,8 +8596,8 @@
8581
  "object": "object:source:ted"
8582
  },
8583
  {
8584
- "content_address": "20af94c23f57e65b90c66a28cdebc5a47abcc8c986fe7f4ffdeb45ed4e24e5bc",
8585
- "id": "version:dataset:20af94c23f57e65b90c66a28cdebc5a47abcc8c986fe7f4ffdeb45ed4e24e5bc",
8586
  "object": "object:dataset:ted-pl"
8587
  }
8588
  ]
 
19
  "id": "claim:official-source",
20
  "statement": "Every retained text is rebuilt from a checksum-addressed official TED Search API record or official XML fallback; mirror text is not training input.",
21
  "supported_by": [
22
+ "evidence:checksums:7956ea69ea4226addb0dd3dac17a154accff97c6becb16239962933632f467cd",
23
+ "evidence:qa:8dfb0e4222a019981947f44ae2de5540464a6dca6e5637b7b8fca16f2a1bf5c2"
24
  ]
25
  },
26
  {
 
28
  "id": "claim:rights-qualified",
29
  "statement": "TED's official legal notice permits commercial and non-commercial reuse of notices unless otherwise noted; exceptions are not claimed absent.",
30
  "supported_by": [
31
+ "evidence:qa:8dfb0e4222a019981947f44ae2de5540464a6dca6e5637b7b8fca16f2a1bf5c2"
32
  ]
33
  }
34
  ],
35
  "evidence": [
36
  {
37
+ "id": "evidence:checksums:7956ea69ea4226addb0dd3dac17a154accff97c6becb16239962933632f467cd",
38
  "observation_type": "checksums",
39
  "payload": {
40
  "NOTICE.md": "60af2d405b7be812321ee40413a8de07b8918727a3baf91a3efb6a6e56002523",
41
  "README.md": "fd50a9f8139ef079d903e30eac14c8e19717d0bf7a7bf094b76cf72042f07ae0",
42
+ "artifacts/attribution.jsonl": "460bdc66c54e96d1c07b3143492099f4074e9f8de30e5e74849d5e4e2560f881",
43
  "artifacts/decisions.jsonl": "d3e89a6f0eb33193cabc7ae33be603cd65df2673d40fed1251a333ab93dead58",
44
+ "artifacts/qa.json": "f26a53f1e16de4965777dd38df313f4a952f925072099b869c05c751b068a2f3",
45
  "artifacts/run.json": "e2ad9ad14d29a5929f9180c16d559532d4b31d5afaf44cc237e4a6f00ac4ab77",
46
+ "artifacts/sample.jsonl": "aa770b2d76c1d721d0e85278bd797365cc96e097a701235e911e0454ddbe94ea",
47
  "artifacts/source_files.json": "cf810be2b4539f0c9e4ab2b98c779bb559f83e7b32fcab9de799cd28ac697c1f",
48
  "artifacts/source_index.jsonl.gz": "fca83e9af2004c555070a53a555046845f424acdea0b973813295782e187ab8a",
49
+ "artifacts/stats.json": "d1aacc9988f7f9765ebe5e51f78e58609aa313a921bc918575a95c06991e280c",
50
+ "data/train-00000-of-00001.parquet": "b3217a59ee7fbf7ce8899ba6d39eb5991fae2f9d68026f48bdd232b2cb49714a",
51
+ "src/build_ted_pl.py": "2fdebba30a540c42d3da786a79f63984eeb249a2b0ecacfcd13a65f2b17b12d9",
52
  "src/requirements.txt": "c0df158dc054d8df8e514735f07e98dbd7d3359cba54440ae89f9df41b9a4332",
53
  "src/test_ted_pl_contribution.py": "e4b2d19a67a9da344d128a427dec7bdc5a491b139f3fa469b99bb0d7fbb1c516"
54
  },
55
  "produced_by": "run:5060f76e9d8526a4bffb39aaa45c837c292381204907b9b439350e2aba7b68a8"
56
  },
57
  {
58
+ "id": "evidence:qa:8dfb0e4222a019981947f44ae2de5540464a6dca6e5637b7b8fca16f2a1bf5c2",
59
  "observation_type": "qa",
60
  "payload": {
61
  "benchmark_overlap": "pending",
 
66
  },
67
  "cross_source_dedup": "pending target integration",
68
  "exact_normalized_dedup": true,
69
+ "license_gate": "two bases, both needed: (1) TED legal notice / Publications Office reuse terms, https://ted.europa.eu/en/legal-notice; (2) for notices drafted by Polish contracting authorities, the Polish public-body basis (Copyright Act art. 4 pt 2; Open Data Act, Dz.U. 2023 poz. 1524, arts 2, 3, 5, 6); exceptions for third-party works and identifiable private individuals remain reviewable per notice; see ted_pl.license-evidence.json",
70
  "limitations": [
71
+ "personal names of contact persons in free text are not de-identified here; the SlayerLab/NERGAL pass must run before release",
72
+ "pattern redaction only: some unlabelled phone numbers, IBAN account numbers and role mailboxes with a missing domain can remain",
73
+ "labelled PESEL/NIP/REGON numbers are redacted whether they belong to a person or a company; identifiers without such a label (KRS numbers, bank accounts) stay in the text, including any printed next to a sole trader's name",
74
  "third-party works and per-notice exceptions require review",
75
  "source is institutional/legal-administrative and requires a deliberate mix cap",
76
  "official records may contain repeated form language below the frequency threshold"
 
8484
  },
8485
  "official_sources_only": true,
8486
  "pii_pattern_matches_replaced": {
8487
+ "email": 1832,
8488
+ "national_id": 242,
8489
+ "phone": 2441
8490
+ },
8491
+ "pii_rebuild": {
8492
+ "boilerplate_chunks_removed": 1,
8493
+ "boilerplate_threshold_documents": 155,
8494
+ "documents": 15544,
8495
+ "note": "text rebuilt from the raw TED API/XML of the shipped notices with redact_pii applied once; pii_pattern_matches_replaced now counts these documents, the previous counters covered the original 20,588-notice build",
8496
+ "previous_pii_pattern_matches_replaced": {
8497
+ "email": 2433,
8498
+ "national_id": 366,
8499
+ "phone": 2128
8500
+ },
8501
+ "tokens_after": 42473050,
8502
+ "tokens_before": 42471550
8503
  },
8504
  "source_protocol": "official TED Search API narrative fields with official XML fallback",
8505
  "structured_contacts_omitted": true
 
8537
  "relations": [
8538
  {
8539
  "predicate": "DERIVED_FROM",
8540
+ "source": "version:dataset:7956ea69ea4226addb0dd3dac17a154accff97c6becb16239962933632f467cd",
8541
  "target": "version:source:f972b8e5bcf08d04724841b10d196810aab0d67ae9cee5422e29f91d130f9658"
8542
  },
8543
  {
8544
  "predicate": "GENERATED_BY",
8545
+ "source": "version:dataset:7956ea69ea4226addb0dd3dac17a154accff97c6becb16239962933632f467cd",
8546
  "target": "run:08d36bcb01f2de7ab076205a77e3992bb64ac72620924755baa22fcf4c0f436d"
8547
  },
8548
  {
8549
  "predicate": "VALIDATED_AGAINST",
8550
+ "source": "version:dataset:7956ea69ea4226addb0dd3dac17a154accff97c6becb16239962933632f467cd",
8551
  "target": "run:5060f76e9d8526a4bffb39aaa45c837c292381204907b9b439350e2aba7b68a8"
8552
  }
8553
  ],
 
8596
  "object": "object:source:ted"
8597
  },
8598
  {
8599
+ "content_address": "7956ea69ea4226addb0dd3dac17a154accff97c6becb16239962933632f467cd",
8600
+ "id": "version:dataset:7956ea69ea4226addb0dd3dac17a154accff97c6becb16239962933632f467cd",
8601
  "object": "object:dataset:ted-pl"
8602
  }
8603
  ]
data/ted_pl/NOTICE.md CHANGED
@@ -2,6 +2,7 @@
2
 
3
  Source notice text: https://ted.europa.eu/
4
  Official reuse terms: https://ted.europa.eu/en/legal-notice
 
5
 
6
  Unless otherwise noted, procurement notices in the Supplement to the Official Journal of the European Union may be freely reused for commercial or non-commercial purposes. The same legal notice identifies exceptions for third-party works and identifiable private individuals. TED metadata is CC0; this does not silently relabel the notice text as CC0.
7
 
 
2
 
3
  Source notice text: https://ted.europa.eu/
4
  Official reuse terms: https://ted.europa.eu/en/legal-notice
5
+ Polish public-body basis for notices drafted by Polish contracting authorities (inferred, not lawyer-signed-off): Copyright Act art. 4 pkt 2 (Dz.U. 2025 poz. 24, https://api.sejm.gov.pl/eli/acts/DU/2025/24/text.pdf) and Open Data Act (Dz.U. 2023 poz. 1524, https://api.sejm.gov.pl/eli/acts/DU/2023/1524/text.pdf). Clauses, retrieval dates and hashes: ted_pl.license-evidence.json.
6
 
7
  Unless otherwise noted, procurement notices in the Supplement to the Official Journal of the European Union may be freely reused for commercial or non-commercial purposes. The same legal notice identifies exceptions for third-party works and identifiable private individuals. TED metadata is CC0; this does not silently relabel the notice text as CC0.
8
 
data/ted_pl/ted_pl.attribution.jsonl CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:36afcd12e67bf1af38dca15690bf32bf51f669536e0e9736ca32aa80e44b16ef
3
  size 17223335
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:460bdc66c54e96d1c07b3143492099f4074e9f8de30e5e74849d5e4e2560f881
3
  size 17223335
data/ted_pl/ted_pl.license-evidence.json ADDED
@@ -0,0 +1,147 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "source": "ted_pl",
3
+ "checked_at": "2026-10-05T23:38:00Z",
4
+ "second_read_at": "2026-10-06T00:19:00Z",
5
+ "license": "TED notice reuse terms",
6
+ "license_spdx": "LicenseRef-TED-Notice-Reuse",
7
+ "status": "held-for-review-two-bases-recorded",
8
+ "review_scope": "Licence basis and PII pattern scan of the shipped 15,544 documents. Source stays release: None until the NERGAL pass (slayerlabs/polish-dynaword-v2#60). Method: .agents/skills/source-rights-review. V = read on the page on the retrieval date; I = inferred, not verified, not lawyer-signed-off.",
9
+ "finding": "Two independent bases, recorded separately. (1) EU: the TED legal notice states that procurement notices in the Supplement to the OJEU can be freely reused for commercial or non-commercial purposes unless otherwise noted (V). (2) PL: notices drafted by Polish contracting authorities fall under the official-documents carve-out of the Copyright Act (art. 4 pkt 2) and, for obliged public bodies, the Open Data Act (I). The PL basis is an inference; it is not relied on alone and has open points listed in not_checked.",
10
+ "basis_eu": {
11
+ "mark": "V",
12
+ "title": "TED legal notice (Publications Office / SIMAP)",
13
+ "url": "https://ted.europa.eu/en/legal-notice",
14
+ "retrieved": "2026-10-05",
15
+ "sha256_of_page_as_read": "c010943c01af22cf9cb30a32ca4044a3a1ee4e36a090e2dd2d8ee3d15a498997",
16
+ "sha256_of_extracted_text": "3201466836f8944d5979597f287fcf7ef70e9b80ea050f5151530ba196348ea4",
17
+ "note_on_hash": "The page is served dynamically. A second read on 2026-10-06 returned a different byte hash (030baad8f212a73f2adef9e6960b494b52c768762150af871365689f4d234ee8) and still contained every quote below.",
18
+ "clause_relied_on": "reuse sentence for procurement notices",
19
+ "quotes": {
20
+ "reuse_policy_and_notice_grant": "The European Commission's reuse policy is implemented by the Commission Decision of 12 December 2011 on the reuse of Commission documents. Unless otherwise noted, the procurement notices published in the Supplement to the Official Journal of the European Union can be freely reused, for commercial or non-commercial purposes.",
21
+ "editorial_content_cc_by_4_0": "The copyright over the editorial content of the SIMAP websites (TED, TED eNotices2, TED Developer Docs and TED Developer Portal) is licensed under the Creative Commons Attribution 4.0 International (CC BY 4.0) license. This means that reuse is allowed provided appropriate credit is given and any changes made are indicated.",
22
+ "third_party_and_individuals": "You may be required to clear additional rights if specific content depicts identifiable private individuals or includes third-party works. To use or reproduce content that is not owned by the EU, you may need to seek permission directly from the rightholders.",
23
+ "metadata_cc0": "The SIMAP's system metadata is dedicated to the public domain in accordance with the Creative Commons Universal Public Domain Dedication deed (CC0 1.0).",
24
+ "disclaimer": "Only public tenders notices electronically signed published in the Supplement ... are authentic."
25
+ },
26
+ "reading": "The notice-text grant is the 'unless otherwise noted ... can be freely reused' sentence. The CC BY 4.0 sentence covers SIMAP editorial content, not necessarily notice text, and the CC0 sentence covers system metadata; the dataset therefore keeps LicenseRef-TED-Notice-Reuse and does not relabel the text CC0 or CC BY (I).",
27
+ "decision_2011_833": {
28
+ "title": "Commission Decision 2011/833/EU of 12 December 2011 on the reuse of Commission documents",
29
+ "url": "https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:32011D0833",
30
+ "retrieved": "2026-10-05",
31
+ "sha256_of_page_as_read": "2f1e7b602f21e286dfc576cc9f1387878e1099f9b2c7dcca5777fcbed611e1ed",
32
+ "sha256_of_extracted_text": "a87a13e55346c111bb7f267d85651e31ba0f6c2c1b2045308a2d40b68f9e8679",
33
+ "article_1": "This Decision determines the conditions for the reuse of documents held by the Commission or on its behalf by the Publications Office of the European Union (the Publications Office) ...",
34
+ "article_2_1": "This Decision applies to public documents produced by the Commission or by public and private entities on its behalf: (a) which have been published by the Commission or by the Publications Office on its behalf through publications, websites or dissemination tools; ...",
35
+ "article_2_2_b": "This Decision shall not apply: ... (b) to documents for which the Commission is not in a position to allow their reuse in view of intellectual property rights of third parties; ...",
36
+ "caveat": "The Decision covers Commission documents. The TED notice names it as the Commission's reuse policy; it is not shown to be the legal instrument that licenses notices drafted by national contracting authorities (I). The previous datasheet dated it 21 December 2011 and called it 'the legal instrument behind that grant'; both statements are corrected."
37
+ }
38
+ },
39
+ "basis_pl": {
40
+ "mark": "I",
41
+ "applies_to": "notices drafted by Polish contracting authorities (author field of the record names the authority)",
42
+ "copyright_act": {
43
+ "title": "Ustawa o prawie autorskim i prawach pokrewnych, tekst jednolity, Dz.U. 2025 poz. 24",
44
+ "url": "https://api.sejm.gov.pl/eli/acts/DU/2025/24/text.pdf",
45
+ "retrieved": "2026-10-05",
46
+ "sha256_of_file_as_read": "1c2e9a082a66fad6e26bba1d4d01a22bd67871657416729cea62b4b9f71cff86",
47
+ "sha256_of_extracted_text": "5202a7955c5c5e17b5e162cf1947fcfc1e44d46b7efc48ac7a4f4310cd4a746c",
48
+ "clause_relied_on": "art. 4 pkt 2",
49
+ "quote": "Art. 4. Nie stanowią przedmiotu prawa autorskiego: ... 2) urzędowe dokumenty, materiały, znaki i symbole;",
50
+ "caveat": "Whether a tender notice is an 'urzędowy dokument' in this sense is a reading, not a settled point; the carve-out is also territorial (it is Polish law)."
51
+ },
52
+ "open_data_act": {
53
+ "title": "Ustawa o otwartych danych i ponownym wykorzystywaniu informacji sektora publicznego, tekst jednolity, Dz.U. 2023 poz. 1524",
54
+ "url": "https://api.sejm.gov.pl/eli/acts/DU/2023/1524/text.pdf",
55
+ "retrieved": "2026-10-05",
56
+ "sha256_of_file_as_read": "54820a69c1b4e470cb372a22249558241bc68058ce447abbddfba1c61dd88f05",
57
+ "sha256_of_extracted_text": "c7e1a06d84d4d10b8e9ca5d810824eb8ec1fed1b68417c089f0cd2bc2b447fd7",
58
+ "clauses_relied_on": [
59
+ "art. 2 pkt 8",
60
+ "art. 3",
61
+ "art. 5 pkt 1",
62
+ "art. 6 ust. 2",
63
+ "art. 14 ust. 1",
64
+ "art. 15"
65
+ ],
66
+ "quotes": {
67
+ "art_2_pkt_8": "informacja sektora publicznego – każdą treść lub jej część, niezależnie od sposobu utrwalenia, w szczególności w postaci papierowej, elektronicznej, dźwiękowej, wizualnej lub audiowizualnej, będącą w posiadaniu podmiotu zobowiązanego;",
68
+ "art_3_pkt_1": "Podmiotami zobowiązanymi do udostępniania lub przekazywania informacji sektora publicznego w celu ponownego wykorzystywania, zwanymi dalej „podmiotami zobowiązanymi”, są: 1) jednostki sektora finansów publicznych ...",
69
+ "art_5_pkt_1": "Każdemu przysługuje prawo do ponownego wykorzystywania informacji sektora publicznego: 1) udostępnianych w Biuletynie Informacji Publicznej podmiotu zobowiązanego lub w portalu danych, lub w innym systemie teleinformatycznym podmiotu zobowiązanego;",
70
+ "art_6_ust_2": "Prawo do ponownego wykorzystywania podlega ograniczeniu ze względu na tajemnicę przedsiębiorstwa lub prywatność osoby fizycznej, w tym ochronę danych osobowych. ...",
71
+ "art_14_ust_1": "Informacje sektora publicznego udostępnia się lub przekazuje w celu ponownego wykorzystywania bezwarunkowo, z wyjątkiem przypadków określonych w ustawie.",
72
+ "art_15_ust_1_pkt_1": "Podmiot zobowiązany może określić warunki ponownego wykorzystywania: 1) dotyczące obowiązku poinformowania o źródle, czasie wytworzenia i pozyskania informacji sektora publicznego od podmiotu zobowiązanego ..."
73
+ },
74
+ "caveat": "Art. 5 pkt 1 speaks of information in the obliged entity's own BIP or system; TED is an EU system (I). Art. 6 ust. 2 limits reuse for the privacy of natural persons, which is why contact data are pattern-redacted and names are left to NERGAL."
75
+ }
76
+ },
77
+ "also_read_not_relied_on": [
78
+ {
79
+ "url": "https://api.sejm.gov.pl/eli/acts/DU/2026/793/text.pdf",
80
+ "what": "Prawo zamowien publicznych, tekst jednolity (Dz.U. 2026 poz. 793)",
81
+ "sha256_of_file_as_read": "0733d4f45dd255be40abeb96d77a1460e5800d0228a4f685a505bb1f62994237",
82
+ "why": "Read to check whether the Act itself states a reuse rule for notices; no clause was cited from it."
83
+ }
84
+ ],
85
+ "unusable_captures": [
86
+ "https://eli.gov.pl/api/acts/DU/2025/24/text.html returned an empty body (sha256 e3b0c442...); https://op.europa.eu/en/web/about-us/legal-notices/eu-publications-office-copyright returned 404. Neither is cited."
87
+ ],
88
+ "chain_of_title": [
89
+ {
90
+ "hop": "contracting authority (author field)",
91
+ "statement": "notice text is drafted by the authority and sent to TED",
92
+ "mark": "I"
93
+ },
94
+ {
95
+ "hop": "Publications Office TED (Search API / XML)",
96
+ "statement": "TED legal notice reuse sentence (basis_eu)",
97
+ "mark": "V"
98
+ },
99
+ {
100
+ "hop": "PleIAs/TEDEUTenders mirror at revision 2752d9d6f7628387583eac2435caa11edb36b9c1",
101
+ "statement": "identifier index only, no text taken",
102
+ "mark": "V"
103
+ },
104
+ {
105
+ "hop": "PiotrSty/ted-polish-procurement-notices snapshot",
106
+ "statement": "pinned snapshot, text rebuilt from official TED fields",
107
+ "mark": "V"
108
+ }
109
+ ],
110
+ "pii_scan_2026_10": {
111
+ "scanned_documents": 15544,
112
+ "method": "the shipped notices were re-fetched by id from the official TED Search API/XML and rebuilt with redact_pii of src/build_ted_pl.py applied once (command: rebuild); tests: src/test_ted_pl_contract.py",
113
+ "raw_notice_hashes_identical_to_original_acquisition": true,
114
+ "pattern_matches_replaced_in_rebuild": {
115
+ "email": 1832,
116
+ "national_id": 242,
117
+ "phone": 2441
118
+ },
119
+ "documents_containing_at_sign": 20,
120
+ "spans_before_after_vs_rescrub_1ceac95": {
121
+ "[Telefon]": "950 -> 785",
122
+ "[PII]": "1093 -> 1093"
123
+ },
124
+ "restored_false_positive_spans": "164 spans in 81 documents (amounts, quantities, part and catalogue numbers, a procurement code, a bank account)",
125
+ "hand_check": "10 restored spans read in context, 10 of 10 correct; a fresh sample of 12 [Telefon] spans holds 11 phones and 1 part number",
126
+ "labelled_national_ids_in_raw": "242 matches (NIP in 66 documents, REGON in 38, PESEL in none); still replaced by [PII] whether person or company",
127
+ "sole_traders": "1 contractor looks like a natural person with a NIP next to the name (ted_pl_167339-2024); 3 more are partnerships with personal names; no author is a natural person; the identifiers stay [PII]",
128
+ "personal_full_names": "not redacted; heuristic lower bound 172 documents (116 by nominative given name + surname from a 108-name list, 60 by honorific + two capitalised words, 4 overlap). Left to the NERGAL pass.",
129
+ "company_authors_heuristic": "3110 of 15544 documents have an author with a company form (sp. z o.o., S.A., spolka)"
130
+ },
131
+ "limitations": [
132
+ "privacy of natural persons (names of contact persons) and per-notice third-party works are not cleared",
133
+ "no upstream CC grant is asserted for notice text",
134
+ "labelled PESEL/NIP/REGON are replaced by [PII] whether they belong to a person or a company; identifiers without such a label (KRS numbers, bank accounts) stay in the text, including any printed next to a sole trader's name",
135
+ "dotted 3-3-3 part numbers are still read as phones (5 spans in 2 documents); phones without a label and without spaces, helpline numbers shorter than 7 digits and role mailboxes with a missing domain remain"
136
+ ],
137
+ "not_checked": [
138
+ "per-notice third-party works and identifiable-individual exceptions beyond the 60-record spot check of v0.2.5",
139
+ "whether Open Data Act art. 5 reaches information that the contracting authority published on TED rather than in its own BIP/system",
140
+ "whether each company contracting authority is a 'podmiot zobowiazany' under art. 3",
141
+ "whether the 'urzedowe dokumenty' carve-out of Copyright Act art. 4 pkt 2 covers a tender notice",
142
+ "equivalence between TED notice content and the same content on the national BZP platform",
143
+ "lawyer sign-off on either basis",
144
+ "personal names (NERGAL pass, v2#60)",
145
+ "the raw TED downloads are kept only in the working directory of the rebuild, not in the repository"
146
+ ]
147
+ }
data/ted_pl/ted_pl.md CHANGED
@@ -20,7 +20,7 @@ Polish narrative text rebuilt from official TED procurement-notice records.
20
  - Search API records: 20,588
21
  - XML fallbacks: 1,255
22
  - Retained documents: 15,544
23
- - Tokens: 42,475,098 (`cl100k_base` proxy)
24
  - Dates: 2023-02-15 to 2024-05-15
25
  - Contracting-authority attribution: 100.0%
26
 
@@ -30,15 +30,53 @@ See `NOTICE.md` and `artifacts/` for the source index, attribution, selection de
30
 
31
  ## License basis
32
 
33
- The [TED legal notice](https://ted.europa.eu/en/legal-notice) permits free reuse
34
- of procurement notices, for commercial or non-commercial purposes, unless
35
- otherwise noted; it assigns CC0 to metadata separately. The legal instrument
36
- behind that grant is **Commission Decision 2011/833/EU of 21 December 2011 on
37
- the reuse of Commission documents**
38
- (<https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32011D0833>). Notice
39
- text is recorded as `LicenseRef-TED-Notice-Reuse` rather than relabelled CC0.
40
- Exceptions to the reuse grant (third-party works, identifiable private
41
- individuals) are handled in "Legal-exception and name review" below.
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
42
 
43
  ## What the texts are
44
 
@@ -63,7 +101,9 @@ All steps in `src/build_ted_pl.py` against the pinned acquisition:
63
  `Company`, `PartyName`, `PostalAddress`, `Contact`, `PartyLegalEntity`,
64
  `Person` blocks are excluded by construction.
65
  - Boilerplate: chunks whose normalized form occurs in >= max(100, 1% of
66
- documents) are dropped.
 
 
67
  - Gates: contracting authority present; text >= 300 characters after cleaning;
68
  langid Polish (7-language set pl/en/de/cs/sk/uk/ru on the first 20,000 chars,
69
  rejection at confidence >= 0.98); exact dedup on normalized text; near dedup
@@ -78,26 +118,92 @@ All steps in `src/build_ted_pl.py` against the pinned acquisition:
78
  Scrubber that ran: **pattern redaction in `src/build_ted_pl.py`** - e-mail ->
79
  `[PII]`, phone -> `[Telefon]`, labelled PESEL/NIP/REGON -> `[PII]`. This is
80
  **not** [SlayerLab/NERGAL](https://huggingface.co/SlayerLab/NERGAL); the shard
81
- must be re-run through NERGAL before it is admitted to a release. Merge with
82
- `release: None` is fine meanwhile.
83
-
84
- Spot check (60 of 15,544 records, seed 20260928) found **one real residual
85
- contact**: `ted_pl_188212-2024` - "skontaktować się z A.Decem - 815384157,
86
- e-mail: [PII]" - a personal name next to an unlabelled 9-digit phone the phone
87
- pattern missed (the e-mail beside it WAS redacted). Other hits were benign:
88
- institutional delivery addresses (`ul.`/`al.` - 52), statutory mentions of
89
- PESEL/NIP (3), no e-mail leftovers. Residual risk: moderate - unlabelled numbers
90
- beside names defeat label-anchored patterns.
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
91
 
92
  ## Legal-exception and name review (scoped)
93
 
94
- Bounded to the 60-record sample above (per-notice coverage remains a release
95
- gate): free-text name cues were statutory phrasing only ("imię i nazwisko" in
96
- the Public Procurement Law's description of an appeal) with 0 concrete personal
97
- names; third-party markers were product names (Windows Server, Microsoft 365),
98
- standard *numbers* (ISO 9001, PN-EN 14065) and legal citations/titles ("Ustawa
99
- o lasach", Dz.U.) - no reproduced third-party texts found. The one contact
100
- above is the known residual risk.
 
 
 
 
 
 
101
 
102
  ## Overlap with uzp_orzeczenia_pl and inclusion argument
103
 
@@ -113,4 +219,4 @@ lifecycle; ordinary cross-source dedup at integration is enough.
113
 
114
  ## Limitations
115
 
116
- Free-text personal names are not comprehensively de-identified. The official reuse notice has exceptions for third-party works and identifiable private individuals, so per-notice/legal review remains appropriate. Cross-source DynaWord deduplication, benchmark-overlap checks and controlled training ablations remain pending. This administrative/technical register should be capped deliberately in a training mix.
 
20
  - Search API records: 20,588
21
  - XML fallbacks: 1,255
22
  - Retained documents: 15,544
23
+ - Tokens: 42,473,050 (`cl100k_base` proxy)
24
  - Dates: 2023-02-15 to 2024-05-15
25
  - Contracting-authority attribution: 100.0%
26
 
 
30
 
31
  ## License basis
32
 
33
+ Two bases, recorded separately. Neither is signed off by a lawyer. Clause text,
34
+ URLs, retrieval dates and page hashes are in `ted_pl.license-evidence.json`
35
+ (slayerlabs/polish-dynaword-v2#57).
36
+
37
+ **1. EU: TED legal notice** (<https://ted.europa.eu/en/legal-notice>, read
38
+ 2026-10-05, sha256 of the page as read `c010943c01af22cf9cb30a32ca4044a3a1ee4e36a090e2dd2d8ee3d15a498997`).
39
+ Clause relied on: "Unless otherwise noted, the procurement notices published in
40
+ the Supplement to the Official Journal of the European Union can be freely
41
+ reused, for commercial or non-commercial purposes." The notice names
42
+ **Commission Decision 2011/833/EU of 12 December 2011 on the reuse of
43
+ Commission documents** as the Commission's reuse policy
44
+ (<https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:32011D0833>, read
45
+ 2026-10-05, sha256 `2f1e7b602f21e286dfc576cc9f1387878e1099f9b2c7dcca5777fcbed611e1ed`).
46
+ The Decision covers Commission documents (arts 1 and 2(1)); it is not shown to
47
+ license notices drafted by national contracting authorities. The notice's CC BY
48
+ 4.0 sentence covers SIMAP editorial content and its CC0 sentence covers system
49
+ metadata; neither is the grant for notice text, so the text is recorded as
50
+ `LicenseRef-TED-Notice-Reuse` and not relabelled CC0 or CC BY. The notice also
51
+ says that identifiable private individuals and third-party works may need
52
+ additional clearance.
53
+
54
+ **2. PL: notices drafted by Polish contracting authorities** (inferred, not
55
+ verified against a ruling or an authority's statement):
56
+
57
+ - Ustawa o prawie autorskim, Dz.U. 2025 poz. 24
58
+ (<https://api.sejm.gov.pl/eli/acts/DU/2025/24/text.pdf>, read 2026-10-05, sha256
59
+ `1c2e9a082a66fad6e26bba1d4d01a22bd67871657416729cea62b4b9f71cff86`), art. 4
60
+ pkt 2: "Nie stanowią przedmiotu prawa autorskiego: ... 2) urzędowe dokumenty,
61
+ materiały, znaki i symbole".
62
+ - Ustawa o otwartych danych i ponownym wykorzystywaniu informacji sektora
63
+ publicznego, Dz.U. 2023 poz. 1524
64
+ (<https://api.sejm.gov.pl/eli/acts/DU/2023/1524/text.pdf>, read 2026-10-05, sha256
65
+ `54820a69c1b4e470cb372a22249558241bc68058ce447abbddfba1c61dd88f05`), art. 2
66
+ pkt 8 (public-sector information), art. 3 (obliged entities), art. 14 ust. 1
67
+ (reuse "bezwarunkowo, z wyjątkiem przypadków określonych w ustawie"), art. 15
68
+ (conditions the entity may set). Art. 6 ust. 2 limits reuse for the privacy of
69
+ natural persons, including personal data.
70
+
71
+ Open points: art. 5 pkt 1 of the Open Data Act speaks of information in the
72
+ obliged entity's own BIP or system, whereas TED is an EU system; about 20% of
73
+ documents (3,110 of 15,544, heuristic on the `author` field) have an author with
74
+ a company form, and not every company is a "podmiot zobowiązany" under art. 3;
75
+ treating a tender notice as an "urzędowy dokument" is a reading, not a settled
76
+ point. An earlier version of this section dated the Decision 21 December 2011
77
+ and called it "the legal instrument behind that grant"; both statements were
78
+ wrong and are removed. Exceptions to the grant (third-party works, identifiable
79
+ private individuals) are handled in "Legal-exception and name review" below.
80
 
81
  ## What the texts are
82
 
 
101
  `Company`, `PartyName`, `PostalAddress`, `Contact`, `PartyLegalEntity`,
102
  `Person` blocks are excluded by construction.
103
  - Boilerplate: chunks whose normalized form occurs in >= max(100, 1% of
104
+ documents) are dropped (one chunk, "Zamawiający nie stawia szczególnych
105
+ wymagań ..."; the v0.2.6 rebuild over 15,544 documents uses a threshold of 155
106
+ documents instead of 205 and removes the same chunk).
107
  - Gates: contracting authority present; text >= 300 characters after cleaning;
108
  langid Polish (7-language set pl/en/de/cs/sk/uk/ru on the first 20,000 chars,
109
  rejection at confidence >= 0.98); exact dedup on normalized text; near dedup
 
118
  Scrubber that ran: **pattern redaction in `src/build_ted_pl.py`** - e-mail ->
119
  `[PII]`, phone -> `[Telefon]`, labelled PESEL/NIP/REGON -> `[PII]`. This is
120
  **not** [SlayerLab/NERGAL](https://huggingface.co/SlayerLab/NERGAL); the shard
121
+ must be re-run through NERGAL before it is admitted to a release (v2#60). Merge
122
+ with `release: None` is fine meanwhile.
123
+
124
+ **v0.2.6 rebuild.** The text was rebuilt from the official TED records, not
125
+ patched: `python src/build_ted_pl.py --output <work dir> --data data/ted_pl
126
+ rebuild` re-fetches exactly the 15,544 shipped notice ids (Search API in batches
127
+ of 100, official XML where the API has no narrative), applies `redact_pii` once to
128
+ the raw text and installs the Parquet, attribution hashes, sample, stats and QA
129
+ sidecars (tests: `src/test_ted_pl_contract.py`). The raw downloads are not
130
+ committed. All 15,544 notices resolved, their raw bytes hash identically to the
131
+ original acquisition, and no API key, terms prompt or rate limit was met. The
132
+ document set and order are unchanged; nothing was added, dropped or re-deduplicated.
133
+ An intermediate v0.2.6 rescrub of the shipped text (commit `1ceac95`) was replaced
134
+ by this rebuild and its code removed; the extended e-mail and phone patterns it
135
+ introduced are the ones applied now. Phone labels ("Tel.:", "telefon") stay in the
136
+ text and only the number is replaced.
137
+
138
+ | | v0.2.5 build | rescrub (`1ceac95`) | rebuild |
139
+ |---|---|---|---|
140
+ | Documents | 15,544 | 15,544 | 15,544 |
141
+ | Characters | 112,883,460 | 112,878,041 | 112,881,592 |
142
+ | Tokens | 42,475,098 | 42,471,550 | 42,473,050 |
143
+ | `[Telefon]` spans / documents | 470 / 237 | 950 / 483 | 785 / 408 |
144
+ | `[PII]` spans / documents | 1,080 / 703 | 1,093 / 714 | 1,093 / 714 |
145
+
146
+ Against the rescrub, 164 `[Telefon]` spans in 81 documents are restored: the old
147
+ phone rule had replaced money amounts, quantities, part and catalogue numbers, one
148
+ procurement code and one bank account. `[PII]` does not change because labelled
149
+ PESEL/NIP/REGON are still replaced (see below). A further 295 documents differ
150
+ only because the phone label is now kept. One bare "Tel.:" line (ted_pl_663681-2023) is
151
+ now dropped as a chunk shorter than 20 characters after redaction.
152
+
153
+ **Hand-check of redactions** (false positives). Ten restored spans were read in
154
+ context. All ten are correct restorations and none identifies a person: amounts
155
+ ("w kwocie 199 998 723,10 zł", ted_pl_96037-2024; "520.000.000,00 złotych",
156
+ ted_pl_244198-2024; "150.000.000,00 zł", ted_pl_251403-2024; "200 000 000,00 PLN",
157
+ ted_pl_679171-2023), a quantity ("230 000 000 j. m.", ted_pl_141676-2024), part and
158
+ catalogue numbers ("rys. nr 20.008.150.002", ted_pl_131542-2024; "150-022-002",
159
+ ted_pl_236159-2024; "NR KAT. 433.302.002.0", ted_pl_232043-2024), a procurement code
160
+ ("PUZ-2380-025-060-025/2024/DZ", ted_pl_220094-2024) and an amount without a
161
+ currency sign ("3 000 000 000 (trzy miliardy) PLN", ted_pl_507970-2023). No
162
+ NIP/REGON/KRS was restored, because their pattern did not change. A fresh sample of 12 random `[Telefon]`
163
+ spans in the rebuilt text (seed 20261006) holds 11 real phone or fax numbers and 1
164
+ part number ("( 008.003.000 )", ted_pl_283348-2024). Dotted 3-3-3 part numbers are
165
+ still read as phones: 5 spans in 2 documents (ted_pl_232043-2024,
166
+ ted_pl_283348-2024). CPV codes are untouched.
167
+
168
+ **Company and sole-trader identifiers.** Labelled PESEL/NIP/REGON numbers are
169
+ replaced by `[PII]` whether they belong to a person or a company (the pattern is
170
+ unchanged since v0.2.5): 242 matches in the raw text, NIP in 66 documents, REGON in
171
+ 38, PESEL in none. Contractor names next to such a number were reviewed: one
172
+ contractor looks like a natural person trading under their own name
173
+ (ted_pl_167339-2024: "PARTNER D*** A***, (ul. P*** X, XX-XXX W***, NIP
174
+ XXX-XXX-XX-XX)", masked); three more carry personal names but are partnerships
175
+ (ted_pl_91828-2024, ted_pl_156428-2024, ted_pl_183186-2024). No contracting
176
+ authority is a natural person. In the text these numbers are `[PII]`; the names are
177
+ not redacted (NERGAL pass).
178
+
179
+ Spot check of the earlier build (60 of 15,544 records, seed 20260928) found one
180
+ residual contact, `ted_pl_188212-2024` ("skontaktować się z A.Decem -
181
+ 815384157"): an unspaced 9-digit phone after a name. The rebuild redacts it.
182
+ Other hits were benign: institutional delivery addresses (52), statutory
183
+ mentions of PESEL/NIP (3).
184
+
185
+ Known residual: bank account numbers (about 2,100 numbers in 1,111 documents,
186
+ nearly all contracting-authority "wadium" accounts) and KRS numbers are not touched;
187
+ phones written without a label and without spaces, helpline numbers shorter than 7
188
+ digits ("116 123") and role mailboxes with a missing domain ("iod@ .pl") remain; a
189
+ few labelled numbers leave a trailing digit ("Tel.: 22 1551 626 5" -> "Tel.:
190
+ [Telefon] 5").
191
 
192
  ## Legal-exception and name review (scoped)
193
 
194
+ Personal names are **not** redacted in this release candidate; the NERGAL pass
195
+ (v2#60) handles them. A heuristic scan counts names only: 172 documents contain
196
+ a candidate full name of a contact person (116 with a nominative given name from
197
+ a 108-name list followed by a capitalised surname, 60 with "p."/"Pan"/"Pani" +
198
+ two capitalised words, 4 overlap). It is a lower bound: it misses inflected
199
+ names and unlisted given names, and it has false positives.
200
+
201
+ Third-party and name cues were sampled on 60 records of the earlier build
202
+ (per-notice coverage remains a release gate): free-text name cues were
203
+ statutory phrasing only ("imię i nazwisko" in the Public Procurement Law's
204
+ description of an appeal); third-party markers were product names (Windows
205
+ Server, Microsoft 365), standard *numbers* (ISO 9001, PN-EN 14065) and legal
206
+ citations/titles - no reproduced third-party texts found.
207
 
208
  ## Overlap with uzp_orzeczenia_pl and inclusion argument
209
 
 
219
 
220
  ## Limitations
221
 
222
+ Free-text personal names are not de-identified (NERGAL pass pending, v2#60). The official reuse notice has exceptions for third-party works and identifiable private individuals, so per-notice/legal review remains appropriate, and the Polish public-body basis is an inference that no lawyer has confirmed. Labelled PESEL/NIP/REGON are replaced by `[PII]` whether they belong to a person or a company, and a few dotted part numbers are still read as phones. Residual unlabelled numbers, bank accounts and role mailboxes with a missing domain are listed above. Cross-source DynaWord deduplication, benchmark-overlap checks and controlled training ablations remain pending. This administrative/technical register should be capped deliberately in a training mix.
data/ted_pl/ted_pl.parquet CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:200960adfce7874dd0d1c1b35bd1785484f762c3f25ae90f3aaca80faddadd21
3
- size 21593162
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:b3217a59ee7fbf7ce8899ba6d39eb5991fae2f9d68026f48bdd232b2cb49714a
3
+ size 21589859
data/ted_pl/ted_pl.qa.json CHANGED
@@ -7,9 +7,11 @@
7
  },
8
  "cross_source_dedup": "pending target integration",
9
  "exact_normalized_dedup": true,
10
- "license_gate": "TED legal notice permits commercial and non-commercial reuse unless otherwise noted; document-level exceptions remain reviewable",
11
  "limitations": [
12
- "free-text personal names are not comprehensively de-identified",
 
 
13
  "third-party works and per-notice exceptions require review",
14
  "source is institutional/legal-administrative and requires a deliberate mix cap",
15
  "official records may contain repeated form language below the frequency threshold"
@@ -8423,9 +8425,22 @@
8423
  },
8424
  "official_sources_only": true,
8425
  "pii_pattern_matches_replaced": {
8426
- "email": 2433,
8427
- "national_id": 366,
8428
- "phone": 2128
 
 
 
 
 
 
 
 
 
 
 
 
 
8429
  },
8430
  "source_protocol": "official TED Search API narrative fields with official XML fallback",
8431
  "structured_contacts_omitted": true
 
7
  },
8
  "cross_source_dedup": "pending target integration",
9
  "exact_normalized_dedup": true,
10
+ "license_gate": "two bases, both needed: (1) TED legal notice / Publications Office reuse terms, https://ted.europa.eu/en/legal-notice; (2) for notices drafted by Polish contracting authorities, the Polish public-body basis (Copyright Act art. 4 pt 2; Open Data Act, Dz.U. 2023 poz. 1524, arts 2, 3, 5, 6); exceptions for third-party works and identifiable private individuals remain reviewable per notice; see ted_pl.license-evidence.json",
11
  "limitations": [
12
+ "personal names of contact persons in free text are not de-identified here; the SlayerLab/NERGAL pass must run before release",
13
+ "pattern redaction only: some unlabelled phone numbers, IBAN account numbers and role mailboxes with a missing domain can remain",
14
+ "labelled PESEL/NIP/REGON numbers are redacted whether they belong to a person or a company; identifiers without such a label (KRS numbers, bank accounts) stay in the text, including any printed next to a sole trader's name",
15
  "third-party works and per-notice exceptions require review",
16
  "source is institutional/legal-administrative and requires a deliberate mix cap",
17
  "official records may contain repeated form language below the frequency threshold"
 
8425
  },
8426
  "official_sources_only": true,
8427
  "pii_pattern_matches_replaced": {
8428
+ "email": 1832,
8429
+ "national_id": 242,
8430
+ "phone": 2441
8431
+ },
8432
+ "pii_rebuild": {
8433
+ "boilerplate_chunks_removed": 1,
8434
+ "boilerplate_threshold_documents": 155,
8435
+ "documents": 15544,
8436
+ "note": "text rebuilt from the raw TED API/XML of the shipped notices with redact_pii applied once; pii_pattern_matches_replaced now counts these documents, the previous counters covered the original 20,588-notice build",
8437
+ "previous_pii_pattern_matches_replaced": {
8438
+ "email": 2433,
8439
+ "national_id": 366,
8440
+ "phone": 2128
8441
+ },
8442
+ "tokens_after": 42473050,
8443
+ "tokens_before": 42471550
8444
  },
8445
  "source_protocol": "official TED Search API narrative fields with official XML fallback",
8446
  "structured_contacts_omitted": true
data/ted_pl/ted_pl.sample.jsonl CHANGED
@@ -6,7 +6,7 @@
6
  {"added": "2026-09-08", "author": "UNIWERSYTET MEDYCZNY W BIAŁYMSTOKU", "created": "2024-05-13", "id": "ted_pl_278506-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Sukcesywne dostawy drobnego sprzętu laboratoryjnego dla Zakładów UMB do celów naukowo-badawczych\n\nPrzedmiotem zamówienia są: sukcesywne dostawy drobnego sprzętu laboratoryjnego dla Zakładów UMB do celów naukowo-badawczych Szczegółowy opis przedmiotu zamówienia, ilości i wymagane parametry zamówienia zawiera załącznik Nr 2 do SWZ – Opis przedmiotu zamówienia - formularz cenowy na dostawę drobnego sprzętu laboratoryjnego do celów naukowo - badawczych, stanowiące integralną część SWZ.\n\nPrzedmiotem zamówienia są: sukcesywne dostawy drobnego sprzętu laboratoryjnego dla Zakładów UMB do celów naukowo-badawczych Szczegółowy opis przedmiotu zamówienia, ilości i wymagane parametry zamówienia zawiera załącznik Nr 2 do SWZ – Opis przedmiotu zamówienia - formularz cenowy na dostawę drobnego sprzętu laboratoryjnego do celów naukowo - badawczych, stanowiące integralną część niniejszej SWZ.\n\nKryterium TERMIN DOSTAWY (TD): TD = TD min./ TD of x 40. gdzie: TD min. najkrótszy możliwy termin dostawy (5 dni roboczych od daty złożenia zamówienia), TD of. –termin dostawy oferty badanej, UWAGA: W kryterium termin dostawy (TD,) ilość punktów obliczona będzie na podstawie danych podanych przez Wykonawcę w Formularzu ofertowym (wg załącznika nr 1 do SWZ). W przypadku, gdy Wykonawca nie wpisze zaoferowanego terminu dostawy Zamawiający przyjmie termin maksymalny dopuszczony (25 dni roboczych od daty złożenia zamówienia)\n\nOcena ofert w zakresie przedstawionego poniżej kryterium zostanie dokonana wg następujących zasad: kryterium CENA OFERTOWA (C): C = (C min./C of.) x 60 gdzie: C min. cena najniższa spośród badanych ofert, C of. cena oferty badanej.\n\nZamawiający prowadził postępowanie nr AZP.25.1.99.2023 część 5, w którym złożono dwie oferty, jednak postępowanie w tej części nie zakończyło się zawarciem umowy. Jedna oferta podlegała odrzuceniu, druga przekraczała środki, które przeznaczył Zamawiający na sfinansowanie przedmiotu zamówienia.Biorąc pod uwagę 30-dniowy termin na składanie ofert, czas konieczny na dokonanie oceny ofert, jak również to iż badania przy użyciu próbówek będących przedmiotem zamówienia trwają cały czas i są potrzebne na bieżąco (dostawa przewidziana na koniec kwietnia 2024 r.), skrócenie terminu składania ofert jest uzasadnione.\n\n1. Środki ochrony prawnej przewidziane w Dziale IX ustawy Pzp przysługują wykonawcy, a także innemu podmiotowi, jeżeli ma lub miał interes w uzyskaniu danego zamówienia oraz poniósł lub może ponieść szkodę w wyniku naruszenia przez zamawiającego przepisów ustawy. 2. Środki ochrony prawnej wobec ogłoszenia o zamówieniu oraz specyfikacji istotnych warunków zamówienia przysługują również organizacjom wpisanym na listę organizacji uprawnionych do wnoszenia środków ochrony prawnej prowadzoną i ogłaszaną przez Prezesa Urzędu Zamówień Publicznych oraz Rzecznikowi Małych i Średnich Przedsiębiorców. 3. Odwołanie przysługuje wyłącznie od niezgodnej z przepisami ustawy czynności zamawiającego podjętej w postępowaniu o udzielenie zamówienia lub zaniechania czynności, do której zamawiający jest zobowiązany na podstawie ustawy. 4. Odwołanie wnosi się w przypadku zamówień, których wartość jest równa albo przekracza progi unijne w terminie : a) 10 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana przy użyciu środków komunikacji elektronicznej, b) 15 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana w sposób inny niż określony w lit. a. 5. Odwołanie wobec treści ogłoszenia wszczynającego postępowanie o udzielenie zamówienia lub wobec treści dokumentów zamówienia wnosi się w terminie 10 dni od dnia publikacji ogłoszenia w Dzienniku Urzędowym Unii Europejskiej lub zamieszczenia dokumentów na na stronie internetowej. 6. Odwołanie w przypadkach innych niż określone powyżej wnosi się w terminie 10 dni od dnia, w którym powzięto lub przy zachowaniu należytej staranności można było powziąć wiadomość o okolicznościach stanowiących podstawę jego wniesienia. 7. Szczegółowe zasady wnoszenia środków ochrony prawnej oraz postępowania toczonego wskutek ich wniesienia określa Dział IX ustawy Pzp.", "token_count": 1499}
7
  {"added": "2026-09-08", "author": "Gmina Miasto Ostrów Wielkopolski", "created": "2024-01-05", "id": "ted_pl_8152-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Świadczenie usługi administrowania obiektami sportowo – rekreacyjnymi stanowiącymi własność Gminy Miasto Ostrów Wielkopolski\n\n1. Przedmiotem umowy jest administrowanie obiektami sportowo-rekreacyjnymi, stanowiącymi własność Gminy Miasto Ostrów Wielkopolski, w ilości: 1) place zabaw – 19 obiektów, 2) siłownie zewnętrzne – 15 obiektów, 3) boiska sportowe – 8 obiektów, 4) skatepark – 1 obiekt, 5) street wokaut park – 1 obiekt, 6) murawa stadionu miejskiego – 1 obiekt, 7) pomieszczenia w budynku świetlicy – 1 obiekt, 8) amfiteatr – 1 obiekt. 2. Wykaz obiektów sportowych zawarty jest w załączniku nr 10. 3. Szczegółowy opis przedmiotu zamówienia zawarty jest w załączniku nr 11. 4. Inne wymagania. 1) Wykonawca w okresie realizacji umowy będzie ubezpieczony od odpowiedzialności cywilnej w zakresie prowadzonej działalności związanej z przedmiotem zamówienia na kwotę nie mniejszą niż 500.000,00 zł (słownie: pięćset tysięcy złotych). 2) Wykonawca zobowiązany jest do podejmowania skutecznych działań zgłaszanych telefonicznie lub drogą elektroniczną przez przedstawiciela zamawiającego w czasie nie dłuższym niż 8 godzin od chwili otrzymania zgłoszenia o awariach, zabezpieczeniu uszkodzonych urządzeń, aktach wandalizmu. Czas reakcji na awarie, zabezpieczenie uszkodzonych urządzeń, akty wandalizmu stanowi kryterium oceny oferty w niniejszym postępowaniu. 3) Przed złożeniem oferty zaleca się dokonanie wizji lokalnej na obiektach. 5. Pozostałe informacje. 1) Zamawiający nie dokonuje podziału zamówienia na części. Biorąc pod uwagę faktyczny zakres świadczenia usług oraz sezonowość i specyfikę obiektu, dzielenie zamówienia na części powodowałoby komplikacje na etapie wykonawczym uniemożliwiając rzetelne wykonanie zadania. Niedokonanie podziału na części zagwarantuje efektywne, profesjonalne i prawidłowe administrowanie obiektem, zgodnie z przeznaczeniem. Ze względu na zróżnicowanie atrakcyjności obiektów istnieje ryzyko przy dopuszczeniu podziału na części braku zainteresowania ze strony wykonawców. Ponadto, przedmiot zamówienia może być wykonany w całości przez MŚP. 2) Nie przewiduje się udzielenia zamówienia polegającego na powtórzeniu podobnych usług. 3) Nie dopuszcza się składania ofert wariantowych. 4) Zamawiający nie przewiduje możliwości skorzystania z prawa opcji.\n\n1. Warunek ten będzie spełniony jeżeli wykonawca wykaże, że w okresie ostatnich 3 lat przed upływem terminu składania ofert, a jeżeli okres działalności jest krótszy – w tym okresie, wykonywał bądź wykonuje przez okres minimum 6 miesięcy usługę prowadzenia i utrzymania co najmniej: a) jednego boiska wielofunkcyjnego typu „Orlik 2012”, b) jednej murawy na stadionie, z nawierzchnią trawiastą o powierzchni minimum 3000 m2, c) jednego placu zabaw z minimum 8 urządzeniami zabawowymi, d) jednej siłowni zewnętrznej z minimum 6 urządzeniami do ćwiczeń. UWAGA: „W przypadku wykonawców wspólnie ubiegających się o udzielenie zamówienia warunek określony w ppkt 4 lit. a musi być spełniony w całości przez co najmniej jednego z wykonawców wspólnie ubiegających się o zamówienie Natomiast w przypadku polegania na zasobach podmiotów trzecich, warunek określony w ppkt 4 lit. a SWZ musi być spełniony w całości wyłącznie przez jeden podmiot udostępniający zasoby. W obu przypadkach podmioty te muszą zrealizować usługi będące przedmiotem zamówienia.” 2. Warunek ten będzie spełniony, jeżeli wykonawca wykaże, że w trakcie realizacji zamówienia będzie dysponował co najmniej: a) jednym podnośnikiem koszowym do 3,5 Mg (zasięg kosza min. 20 m) b) trzema kosami mechanicznymi, c) trzema kosiarkami spalinowymi, d) jedną kosiarką samobieżną, e) jednym wertykulatorem spalinowym, f) jednym aeratorem spalinowym, g) jednym siewnikiem do nasion, h) jednym wałem, i) jedną włóką do równomiernego rozłożenia piasku, j) jedną piaskarką zaciągnikową, k) jednym ciągnikiem rolniczym, lekkim do 0,9 Mg, l) jedną beczką do podlewania.", "token_count": 1499}
8
  {"added": "2026-09-08", "author": "Powiat Rycki", "created": "2023-10-27", "id": "ted_pl_658009-2023", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Udzielenie i obsługa długoterminowego kredytu bankowego w kwocie 3 000 000,00 zł na pokrycie planowanego deficytu\n\nOtwarcie ofert dokonywane jest przez odszyfrowanie i otwarcie ofert.\n\n1. Wykonawcy oraz innemu podmiotowi, jeżeli ma lub miał interes w uzyskaniu zamówienia oraz poniósł lub może ponieść szkodę w wyniku naruszenia przez Zamawiającego przepisów ustawy, przysługują środki ochrony prawnej określone w dziale IX ustawy. 2. Środki ochrony prawnej wobec ogłoszenia wszczynającego postępowanie o udzielenie zamówienia oraz dokumentów zamówienia przysługują również organizacjom wpisanym na listę, o której mowa w art. 469 pkt 15 ustawy oraz Rzecznikowi Małych i Średnich Przedsiębiorców. 3. Odwołanie przysługuje na: a. niezgodną z przepisami ustawy czynność Zamawiającego, podjętą w postępowaniu o udzielenie zamówienia, w tym na projektowane postanowienie umowy; b. zaniechanie czynności w postępowaniu o udzielenie zamówienia, do której zamawiający był obowiązany na podstawie ustawy. 4. Odwołanie wnosi się do Prezesa Izby. Odwołujący przekazuje zamawiającemu odwołanie wniesione w formie elektronicznej albo postaci elektronicznej albo kopię tego odwołania, jeżeli zostało ono wniesione w formie pisemnej przed upływem terminu do wniesienia odwołania w taki sposób, aby mógł on zapoznać się z jego treścią przed upływem tego terminu. Domniemywa się, że zamawiający mógł zapoznać się z treścią odwołania przed upływem terminu do jego wniesienia, jeżeli przekazanie odpowiednio odwołania lub jego kopii nastąpiło przed upływem terminu do jego wniesienia przy użyciu środków komunikacji elektronicznej. 5. Odwołanie wnosi się w terminie: a) 10 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana przy użyciu środków komunikacji elektronicznej, b) 15 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana w sposób inny niż określony w ust. 5 lit. a. 6. Odwołanie wobec treści ogłoszenia wszczynającego postępowanie o udzielenie zamówienia lub wobec treści dokumentów zamówienia wnosi się w terminie 10 dni od dnia publikacji ogłoszenia w Dzienniku Urzędowym Unii Europejskiej lub zamieszczenia dokumentów zamówienia na stronie internetowej. 7. Odwołanie w przypadkach innych niż określone w ust. 5 i 6 wnosi się w terminie 10 dni od dnia, w którym powzięto lub przy zachowaniu należytej staranności można było powziąć wiadomość o okolicznościach stanowiących podstawę jego wniesienia. 8. Na orzeczenie Izby oraz postanowienie Prezesa Izby, o którym mowa w art. 519 ust. 1 Ustawy, stronom oraz uczestnikom postępowania odwoławczego przysługuje skarga do sądu. 9. W postępowaniu toczącym się wskutek wniesienia skargi stosuje się odpowiednio przepisy ustawy z dnia 17.11.1964 r. - Kodeks postępowania cywilnego o apelacji, jeżeli przepisy niniejszego rozdziału nie stanowią inaczej. 10. Skargę wnosi się do Sądu Okręgowego w Warszawie - sądu zamówień publicznych,. 11. Skargę wnosi się za pośrednictwem Prezesa Izby, w terminie 14 dni od dnia doręczenia orzeczenia Izby lub postanowienia Prezesa Izby, o którym mowa w art. 519 ust. 1 ustawy, przesyłając jednocześnie jej odpis przeciwnikowi skargi. Złożenie skargi w placówce pocztowej operatora wyznaczonego w rozumieniu ustawy z dnia 23.11.2012 r. – Prawo pocztowe jest równoznaczne z jej wniesieniem. 12. Prezes Izby przekazuje skargę wraz z aktami postępowania odwoławczego do sądu zamówień publicznych w terminie 7 dni od dnia jej otrzymania.\n\nW celu potwierdzenia warunku należy złożyć aktualne zezwolenie uprawniające do wykonywania czynności bankowych na terenie Rzeczypospolitej Polskiej wydanego przez Komisję Nadzoru Finansowego zgodnie z ustawą z dnia 29 sierpnia 1997 r. Prawo bankowe (t.j. Dz. z 2022 r. poz. 2324) lub innego dokumentu potwierdzającego, że Wykonawca jest uprawniony do wykonywania czynności bankowych na terenie Rzeczypospolitej Polskiej ale tylko w przypadku gdy Wykonawca nie działa na podstawie zezwolenia wydanego przez Komisję Nadzoru Finansowego.", "token_count": 1499}
9
- {"added": "2026-09-08", "author": "Powiat Tucholski", "created": "2023-12-27", "id": "ted_pl_790193-2023", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Organizowanie publicznego transportu zbiorowego na terenie Powiatu Tucholskiego\n\nŚwiadczenie usług w zakresie publicznego transportu zbiorowego na liniach komunikacyjnych o charakterze użyteczności publicznej dla których Powiat Tucholski jest organizatorem. Zapotrzebowanie na transport zgodnie z art. 22 ust 1 pkt. 1 Ustawy z dnia 16 grudnia 2010 r. o publicznym transporcie zbiorowym.\n\nZgodnie z art. 13 ust. 1−2 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z 27.04.2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) (Dz. Urz. UE L 119, s. 1) – dalej RODO − informujemy, że:\n\n1. Administratorem Pani/Pana danych osobowych jest Starosta Tucholski z siedzibą w Tucholi przy ul. Pocztowej 7, 89-500 Tuchola.\n\n2. Inspektorem ochrony danych jest Pani Hanna Borzyszkowska, z którym możesz się skontaktować w sprawach ochrony swoich danych osobowych poprzez e-mail: [PII] oraz pod numerem telefonu 52 559 07 00 lub pisemnie na adres naszej siedziby, wskazany w pkt 1.\n\n3. Administrator danych przetwarza Pani/Pana dane osobowe na podstawie obowiązujących przepisów prawa, zawartych umów oraz na podstawie udzielonej zgody.\n\n4. Pani/Pana dane osobowe przetwarzane będą w celu/celach:\n\na) wypełnienia obowiązków prawnych ciążących na administratorze zgodnie z art. 6 pkt 1 lit. c RODO;\n\nb) realizacji celu w jakim Pan/Pani wyraził/a zgodę na przetwarzanie swoich danych osobowych (art. 6 ust. 1 lit. a RODO) lub w przypadku podania danych należących do szczególnych kategorii danych (art. 9 ust. 2 lit. a RODO);\n\nc) wykonania umowy, której Pani/Pan jest stroną lub do podjęcia działań na Pani/Pana żądanie przed zawarciem umowy (art. 6 ust. 1 lit. b RODO);\n\nd) ochrony żywotnych interesów Pani/Pana lub innej osoby fizycznej (art. 6 ust. 1 lit. d RODO);\n\ne) wykonania zadania realizowanego w interesie publicznym lub w ramach sprawowania władzy publicznej powierzonej administratorowi (art. 6 ust. 1 lit. e RODO).\n\n5. Odbiorcami Pani/Pana danych osobowych będą wyłącznie podmioty uprawnione do uzyskania tych danych na podstawie przepisów prawa, tj. organy władzy publicznej oraz podmioty wykonujące zadania publiczne lub działające na zlecenie organów władzy publicznej, w zakresie i w celach, które wynikają z przepisów powszechnie obowiązującego prawa; inne podmioty, którym na podstawie stosownych umów podpisanych z Powiatem Tucholskim powierzono przetwarzanie danych osobowych, dla których administratorem jest Starosta Tucholski.\n\n6. Pani/Pana dane nie będą przekazywane do państw trzecich lub organizacji międzynarodowych.\n\n7. Pani/Pana dane osobowe przechowywane będą w czasie określonym przepisami prawa, zgodnie z rozporządzeniem Prezesa Rady Ministrów z dnia 18 stycznia 2011 r. w sprawie instrukcji kancelaryjnej, jednolitych rzeczowych wykazów akt oraz instrukcji w sprawie organizacji i zakresu działania archiwów zakładowych. Dane przetwarzane będą przez okres nie dłuższy, niż jest to niezbędne do celów, w których dane te są przetwarzane. Dane osobowe można przechowywać przez okres dłuższy, o ile będą one przetwarzane wyłącznie do celów archiwalnych w interesie publicznym.\n\n8. W związku z przetwarzaniem Pani/Pana danych osobowych przysługuje Pani/Panu prawo do: dostępu do swoich danych osobowych, w tym prawo do uzyskania kopii tych danych; sprostowania danych (poprawiania); ograniczenia przetwarzania; wniesienia sprzeciwu wobec przetwarzania danych; usunięcia danych oraz ich przenoszenia danych.\n\nInformuję również, że powyższe uprawnienia, na podstawie przepisów powszechnie obowiązujących, mogą być ograniczone lub wyłączone. W takim przypadku skorzystanie z danego uprawnienia będzie niemożliwe.\n\n9. Jeżeli przetwarzanie Pani/Pana danych osobowych odbywa się na podstawie zgody na przetwarzanie danych osobowych (art. 6 ust. 1 lit. a RODO), przysługuje Pani/Panu prawo do cofnięcia tej zgody w dowolnym momencie. Cofnięcie to nie ma wpływu na zgodność przetwarzania, którego dokonano na podstawie zgody przed jej cofnięciem, z obowiązującym prawem.\n\n10. Posiada Pani/Pan prawo wniesienia skargi do organu nadzorczego, tj. Prezesa Urzędu Ochrony Danych Osobowych (00-193 Warszawa, ul. Stawki 2), gdy uzna Pani/Pan, że przetwarzanie danych osobowych", "token_count": 1499}
10
  {"added": "2026-09-08", "author": "Prokuratura Okręgowa w Świdnicy", "created": "2024-03-01", "id": "ted_pl_128349-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Kompleksowe wykonywanie usług porządkowo - czystościowych w budynkach prokuratur okręgu świdnickiego\n\nPrzedmiotem zamówienia jest wykonywanie kompleksowych usług porządkowo - czystościowych w budynkach prokuratur okręgu świdnickiego o ogólnej powierzchni: Prokuratura Okręgowa w Świdnicy ul. 1 Maja 21 - około 2.000 m2, Prokuratura Rejonowa w Świdnicy ul. Zamkowa 2- około 1.214 m2, Prokuratura Rejonowa w Wałbrzychu Pl. Magistracki 7 - około 1.090 m2 oraz Dział Śledczy przy ul. Kilińskiego 1- około -372,50 m2, Prokuratura Rejonowa w Kłodzku Pl. Chrobrego 20 - około 1.165 m2, Prokuratura Rejonowa w Dzierżoniowie ul. Rolna 1- około 975m 2, Prokuratura Rejonowa w Ząbkowicach Śląskich ul. Niepodległości 2- około 581,00 m2 oraz Prokuratura Rejonowa w Bystrzycy Kłodzkiej ul. Sempołowskiej 4 - około 644 m2.\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Okręgowej w Świdnicy przy ul. 1 Maja 21\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Świdnicy przy ul. Zamkowej 2\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynkach Prokuratury Rejonowej w Wałbrzychu przy Pl. Magistrackim 7 i w Dziale Śledczym przy ul. Kilińskiego 1\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Kłodzku przy Pl. Chrobrego 20\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Dzierżoniowie przy ul. Rolnej 1\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Ząbkowicach Śląskich przy ul. Niepodległości 2\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Bystrzycy Kłodzkiej przy ul. Sempołowskiej 4\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Okręgowej w Świdnicy przy ul. 1 Maja 21o ogólnej powierzchni 2.000 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Świdnicy przy ul. Zamkowej 2 o ogólnej powierzchni 1.214 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynkach Prokuratury Rejonowej w Wałbrzychu przy Pl. Magistrackim 7 o ogólnej powierzchni 1.090 m2 oraz Dziale Śledczym przy ul. Kilińskiego 1 o ogólnej powierzchni 372,50 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Kłodzku przy Pl. Chrobrego 20 o ogólnej powierzchni 1.165,10 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Dzierżoniowie przy ul. Rolnej 1 o ogólnej powierzchni 975 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Ząbkowicach Śl. przy ul. Niepodległości 2 o ogólnej powierzchni 581 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Bystrzycy Kłodzkiej przy ul. Sempołowskiej 4 o ogólnej powierzchni 644 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nCena – 60 %, C = (Cmin : Cx) x 60 pkt\n\nN- Organizacja nadzoru usługi sprzątania — przy ocenie ofert w kryterium organizacja nadzoru Zamawiający będzie oceniał zaoferowaną częstotliwość kontroli przez Koordynatora jakości wykonywanych usług w następujący sposób: - raz na dwa tygodnie - Zamawiający przyzna 40 pkt.; - raz na miesiąc - Zamawiający przyzna 20 pkt.; - raz na kwartał - Zamawiający przyzna 0 pkt.; Maksymalna ilość punktów przyznana w tym kryterium wynosi 40.", "token_count": 1502}
11
  {"added": "2026-09-08", "author": "Urząd Komunikacji Elektronicznej", "created": "2024-02-13", "id": "ted_pl_90791-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Zakup licencji, gwarancji i wsparcia na oprogramowanie oraz sprzęt sieciowy\n\n1. Przedmiotem zamówienia jest zakup licencji, wydłużenie gwarancji i wsparcia na oprogramowanie oraz sprzęt sieciowy, posiadany przez Zamawiającego - niezbędne do prawidłowego działania systemów informatycznych. 2. Zamówienie zostało podzielone na 4 (słownie: cztery) części: • Część nr 1 - Zakup licencji dla systemu Hitachi Data Protection Suite w celu rozszerzenia pojemności danych wraz ze wsparciem i utrzymaniem do dnia 31.12.2024 roku. • Część nr 2 - Świadczenie usługi wsparcia i gwarancji producenta dla posiadanego przez Zamawiającego klastra systemu zapór sieciowych firmy CheckPoint 7000 Plus Appliance with SandBlast. • Część nr 3 - Świadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń F5. • Część nr 4 - Świadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń Cisco Nexus. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nCzęść nr 1 - Zakup licencji dla systemu Hitachi Data Protection Suite w celu rozszerzenia pojemności danych wraz ze wsparciem i utrzymaniem do dnia 31.12.2024 roku\n\nCzęść nr 2 - Świadczenie usługi wsparcia i gwarancji producenta dla posiadanego przez Zamawiającego klastra systemu zapór sieciowych firmy CheckPoint 7000 Plus Appliance with SandBlast\n\nCzęść nr 3 - Świadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń F5\n\nCzęść nr 4 - Świadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń Cisco Nexus\n\nZakup licencji dla systemu Hitachi Data Protection Suite w celu rozszerzenia pojemności danych wraz ze wsparciem i utrzymaniem do dnia 31.12.2024 roku. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nŚwiadczenie usługi wsparcia i gwarancji producenta dla posiadanego przez Zamawiającego klastra systemu zapór sieciowych firmy CheckPoint 7000 Plus Appliance with SandBlast. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nŚwiadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń F5. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nŚwiadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń Cisco Nexus. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nZamawiający dopuszcza składanie ofert częściowych. Wykonawca może złożyć ofertę na jedną lub więcej części zamówienia.\n\nKryterium Cena = 100% Pi (C)=Cmin/Ci ∙max(C) gdzie: i – numer oferty; Pi (C) – liczba punktów jakie otrzyma oferta „i” za kryterium „Cena (C)”; Cmin – najniższa cena brutto spośród wszystkich nieodrzuconych ofert; Ci – cena brutto oferty „i” (oferty badanej); max(C) – maksymalna liczba punktów jakie może otrzymać badana oferta za kryterium „Cena (C)”, tj. 100 punktów. Przedmiot zamówienia stanowi wykup licencji, standardowego wsparcia i gwarancji producenta dla poszczególnego oprogramowania, tym samym jest to zamówienie o określonych parametrach jakościowych, a sam przedmiot zamówienia jest powszechnie dostępny. Zatem zastosowanie kryterium ceny jako jedynego przy zakupie standardowego wsparcia producenta rozwiązania nie wiąże się z ryzykiem pojawienia się dodatkowych kosztów w trakcie realizacji zamówienia, co uprawnia do stwierdzenia, iż jest to świadczenie, które może być nabywane przy kryterium ceny określonym na poziomie 100%. Charakter i specyfika zamówienia posiada ustalone standardy jakościowe i została szczegółowo określona w SWZ - wskazanie innych kryteriów oceny ofert niż cena, naruszałoby zasadę efektywnego i oszczędnego wydatkowania środków publicznych.\n\nKryterium Cena = 100% Pi (C)=Cmin/Ci ∙max(C) gdzie: i – numer oferty; Pi (C) – liczba punktów jakie otrzyma oferta „i” za kryterium „Cena (C)”; Cmin – najniższa cena brutto spośród wszystkich nieodrzuconych ofert; Ci – cena brutto oferty „i” (oferty badanej); max(C) – maksymalna liczba punktów jakie może otrzymać badana oferta za kryterium „Cena (C)”, tj. 100 punktów.\n\nWykonawcom przysługują środki ochrony prawnej zgodnie z Działem IX ustawy Pzp.", "token_count": 1498}
12
  {"added": "2026-09-08", "author": "Mazowieckie Centrum Polityki Społecznej", "created": "2024-02-16", "id": "ted_pl_99977-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "„Przygotowanie i organizacja szkoleń specjalistycznych nt. profilaktyki uzależnień”\n\nPrzedmiotem zamówienia jest usługa przygotowania i realizacji szkoleń specjalistycznych nt. profilaktyki uzależnień w formie stacjonarnej dla uczestników z terenu województwa mazowieckiego z podziałem na części: Część 1 – Przygotowanie i realizacja 6 szkoleń „Profilaktyka uzależnień chemicznych i behawioralnych”; Część 2 – Przygotowanie i realizacja 1 szkolenia „Edukator profilaktyki uzależnień chemicznych i behawioralnych - I stopnia”; Część 3 – Przygotowanie i realizacja 1 szkolenia „Edukator profilaktyki uzależnień chemicznych i behawioralnych - II stopnia”; Część 4 – Przygotowanie i realizacja 1 szkolenia „Psychoterapia uzależnień dzieci i młodzieży”; Część 5 – Przygotowanie i realizacja 1 szkolenia „Rozwój i superwizja w profilaktyce uzależnień”.\n\nPrzygotowanie i realizacja 6 szkoleń „Profilaktyka uzależnień chemicznych i behawioralnych\n\nPrzygotowanie i realizacja 1 szkolenia „Edukator profilaktyki uzależnień chemicznych i behawioralnych - I stopnia”\n\nPrzygotowanie i realizacja 1 szkolenia „Edukator profilaktyki uzależnień chemicznych i behawioralnych - II stopnia”\n\nPrzygotowanie i realizacja 1 szkolenia „Psychoterapia uzależnień dzieci i młodzieży”\n\nPrzygotowanie i realizacja 1 szkolenia „Rozwój i superwizja w profilaktyce uzależnień”\n\nDoświadczenie wykładowcy - trenera\n\nArt. 138 ust. 2 pkt. 2 Pzp , pilna potrzeba udzielenia zamówienia i skrócenia terminu składania ofert.\n\nWykonawca wykaże, że dysponuje co najmniej 2 (dwoma) trenerami zdolnymi do wykonania zamówienia, z których każdy posiada co najmniej:  wykształcenie wyższe II stopnia (tytuł magistra);  certyfikat/dyplom specjalisty psychoterapii uzależnień wydany przez Krajowe Centrum Przeciwdziałania Uzależnieniom (KCPU) lub przez Państwową Agencję Rozwiązywania Problemów Alkoholowych (PARPA) lub przez Krajowe Biuro do Spraw Przeciwdziałania Narkomanii (KBPN) lub przez Centrum Egzaminów Medycznych (CEM).  w okresie ostatnich 3 lat przed terminem składania ofert, zrealizował faktycznie co najmniej 50 godzin dydaktycznych szkoleń (w formie stacjonarnej i/lub w formie zdalnej) w zakresie uzależnień chemicznych lub behawioralnych (1 godzina dydaktyczna = 45 minut). Zamawiający informuje, iż w doświadczeniu trenera nie bierze pod uwagę zajęć na uczelni a faktycznie zrealizowane szkolenia (w formie stacjonarnej i/lub w formie zdalnej) w zakresie profilaktyki uzależnień chemicznych lub behawioralnych.  jeden spośród 2 wyżej wymaganych trenerów musi posiadać dodatkowo rekomendację superwizora/certyfikat superwizora wydany przez dyrektora Krajowego Centrum Przeciwdziałania Uzależnieniom (KCPU) lub przez Państwową Agencję Rozwiązywania Problemów Alkoholowych (PARPA) lub przez Krajowe Biuro do Spraw Przeciwdziałania Narkomanii (KBPN).\n\nWykonawca wykaże, że dysponuje co najmniej 4 (czterema) trenerami zdolnymi do wykonania zamówienia, z których każdy posiada co najmniej:  wykształcenie wyższe II stopnia (tytuł magistra);  co najmniej 10 lat doświadczenia w pracy dydaktycznej, profilaktycznej i terapeutycznej;  certyfikat/dyplom specjalisty psychoterapii uzależnień wydany przez Krajowe Centrum Przeciwdziałania Uzależnieniom (KCPU) lub przez Państwową Agencję Rozwiązywania Problemów Alkoholowych (PARPA) lub przez Krajowe Biuro do Spraw Przeciwdziałania Narkomanii (KBPN) lub przez Centrum Egzaminów Medycznych (CEM).  w okresie ostatnich 3 lat, przed terminem składania ofert, zrealizował co najmniej 50 godzin dydaktycznych szkoleń (w formie stacjonarnej i/lub w formie zdalnej) w zakresie profilaktyki uzależnień chemicznych lub behawioralnych (1 godzina dydaktyczna = 45 minut);  dwóch spośród 4 wyżej wymaganych trenerów musi posiadać dodatkowo rekomendację superwizora/certyfikat superwizora wydany przez dyrektora Krajowego Centrum Przeciwdziałania Uzależnieniom (KCPU) lub przez Państwową Agencję Rozwiązywania Problemów Alkoholowych (PARPA) lub przez Krajowe Biuro do Spraw Przeciwdziałania Narkomanii (KBPN).", "token_count": 1502}
 
 
6
  {"added": "2026-09-08", "author": "UNIWERSYTET MEDYCZNY W BIAŁYMSTOKU", "created": "2024-05-13", "id": "ted_pl_278506-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Sukcesywne dostawy drobnego sprzętu laboratoryjnego dla Zakładów UMB do celów naukowo-badawczych\n\nPrzedmiotem zamówienia są: sukcesywne dostawy drobnego sprzętu laboratoryjnego dla Zakładów UMB do celów naukowo-badawczych Szczegółowy opis przedmiotu zamówienia, ilości i wymagane parametry zamówienia zawiera załącznik Nr 2 do SWZ – Opis przedmiotu zamówienia - formularz cenowy na dostawę drobnego sprzętu laboratoryjnego do celów naukowo - badawczych, stanowiące integralną część SWZ.\n\nPrzedmiotem zamówienia są: sukcesywne dostawy drobnego sprzętu laboratoryjnego dla Zakładów UMB do celów naukowo-badawczych Szczegółowy opis przedmiotu zamówienia, ilości i wymagane parametry zamówienia zawiera załącznik Nr 2 do SWZ – Opis przedmiotu zamówienia - formularz cenowy na dostawę drobnego sprzętu laboratoryjnego do celów naukowo - badawczych, stanowiące integralną część niniejszej SWZ.\n\nKryterium TERMIN DOSTAWY (TD): TD = TD min./ TD of x 40. gdzie: TD min. najkrótszy możliwy termin dostawy (5 dni roboczych od daty złożenia zamówienia), TD of. –termin dostawy oferty badanej, UWAGA: W kryterium termin dostawy (TD,) ilość punktów obliczona będzie na podstawie danych podanych przez Wykonawcę w Formularzu ofertowym (wg załącznika nr 1 do SWZ). W przypadku, gdy Wykonawca nie wpisze zaoferowanego terminu dostawy Zamawiający przyjmie termin maksymalny dopuszczony (25 dni roboczych od daty złożenia zamówienia)\n\nOcena ofert w zakresie przedstawionego poniżej kryterium zostanie dokonana wg następujących zasad: kryterium CENA OFERTOWA (C): C = (C min./C of.) x 60 gdzie: C min. cena najniższa spośród badanych ofert, C of. cena oferty badanej.\n\nZamawiający prowadził postępowanie nr AZP.25.1.99.2023 część 5, w którym złożono dwie oferty, jednak postępowanie w tej części nie zakończyło się zawarciem umowy. Jedna oferta podlegała odrzuceniu, druga przekraczała środki, które przeznaczył Zamawiający na sfinansowanie przedmiotu zamówienia.Biorąc pod uwagę 30-dniowy termin na składanie ofert, czas konieczny na dokonanie oceny ofert, jak również to iż badania przy użyciu próbówek będących przedmiotem zamówienia trwają cały czas i są potrzebne na bieżąco (dostawa przewidziana na koniec kwietnia 2024 r.), skrócenie terminu składania ofert jest uzasadnione.\n\n1. Środki ochrony prawnej przewidziane w Dziale IX ustawy Pzp przysługują wykonawcy, a także innemu podmiotowi, jeżeli ma lub miał interes w uzyskaniu danego zamówienia oraz poniósł lub może ponieść szkodę w wyniku naruszenia przez zamawiającego przepisów ustawy. 2. Środki ochrony prawnej wobec ogłoszenia o zamówieniu oraz specyfikacji istotnych warunków zamówienia przysługują również organizacjom wpisanym na listę organizacji uprawnionych do wnoszenia środków ochrony prawnej prowadzoną i ogłaszaną przez Prezesa Urzędu Zamówień Publicznych oraz Rzecznikowi Małych i Średnich Przedsiębiorców. 3. Odwołanie przysługuje wyłącznie od niezgodnej z przepisami ustawy czynności zamawiającego podjętej w postępowaniu o udzielenie zamówienia lub zaniechania czynności, do której zamawiający jest zobowiązany na podstawie ustawy. 4. Odwołanie wnosi się w przypadku zamówień, których wartość jest równa albo przekracza progi unijne w terminie : a) 10 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana przy użyciu środków komunikacji elektronicznej, b) 15 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana w sposób inny niż określony w lit. a. 5. Odwołanie wobec treści ogłoszenia wszczynającego postępowanie o udzielenie zamówienia lub wobec treści dokumentów zamówienia wnosi się w terminie 10 dni od dnia publikacji ogłoszenia w Dzienniku Urzędowym Unii Europejskiej lub zamieszczenia dokumentów na na stronie internetowej. 6. Odwołanie w przypadkach innych niż określone powyżej wnosi się w terminie 10 dni od dnia, w którym powzięto lub przy zachowaniu należytej staranności można było powziąć wiadomość o okolicznościach stanowiących podstawę jego wniesienia. 7. Szczegółowe zasady wnoszenia środków ochrony prawnej oraz postępowania toczonego wskutek ich wniesienia określa Dział IX ustawy Pzp.", "token_count": 1499}
7
  {"added": "2026-09-08", "author": "Gmina Miasto Ostrów Wielkopolski", "created": "2024-01-05", "id": "ted_pl_8152-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Świadczenie usługi administrowania obiektami sportowo – rekreacyjnymi stanowiącymi własność Gminy Miasto Ostrów Wielkopolski\n\n1. Przedmiotem umowy jest administrowanie obiektami sportowo-rekreacyjnymi, stanowiącymi własność Gminy Miasto Ostrów Wielkopolski, w ilości: 1) place zabaw – 19 obiektów, 2) siłownie zewnętrzne – 15 obiektów, 3) boiska sportowe – 8 obiektów, 4) skatepark – 1 obiekt, 5) street wokaut park – 1 obiekt, 6) murawa stadionu miejskiego – 1 obiekt, 7) pomieszczenia w budynku świetlicy – 1 obiekt, 8) amfiteatr – 1 obiekt. 2. Wykaz obiektów sportowych zawarty jest w załączniku nr 10. 3. Szczegółowy opis przedmiotu zamówienia zawarty jest w załączniku nr 11. 4. Inne wymagania. 1) Wykonawca w okresie realizacji umowy będzie ubezpieczony od odpowiedzialności cywilnej w zakresie prowadzonej działalności związanej z przedmiotem zamówienia na kwotę nie mniejszą niż 500.000,00 zł (słownie: pięćset tysięcy złotych). 2) Wykonawca zobowiązany jest do podejmowania skutecznych działań zgłaszanych telefonicznie lub drogą elektroniczną przez przedstawiciela zamawiającego w czasie nie dłuższym niż 8 godzin od chwili otrzymania zgłoszenia o awariach, zabezpieczeniu uszkodzonych urządzeń, aktach wandalizmu. Czas reakcji na awarie, zabezpieczenie uszkodzonych urządzeń, akty wandalizmu stanowi kryterium oceny oferty w niniejszym postępowaniu. 3) Przed złożeniem oferty zaleca się dokonanie wizji lokalnej na obiektach. 5. Pozostałe informacje. 1) Zamawiający nie dokonuje podziału zamówienia na części. Biorąc pod uwagę faktyczny zakres świadczenia usług oraz sezonowość i specyfikę obiektu, dzielenie zamówienia na części powodowałoby komplikacje na etapie wykonawczym uniemożliwiając rzetelne wykonanie zadania. Niedokonanie podziału na części zagwarantuje efektywne, profesjonalne i prawidłowe administrowanie obiektem, zgodnie z przeznaczeniem. Ze względu na zróżnicowanie atrakcyjności obiektów istnieje ryzyko przy dopuszczeniu podziału na części braku zainteresowania ze strony wykonawców. Ponadto, przedmiot zamówienia może być wykonany w całości przez MŚP. 2) Nie przewiduje się udzielenia zamówienia polegającego na powtórzeniu podobnych usług. 3) Nie dopuszcza się składania ofert wariantowych. 4) Zamawiający nie przewiduje możliwości skorzystania z prawa opcji.\n\n1. Warunek ten będzie spełniony jeżeli wykonawca wykaże, że w okresie ostatnich 3 lat przed upływem terminu składania ofert, a jeżeli okres działalności jest krótszy – w tym okresie, wykonywał bądź wykonuje przez okres minimum 6 miesięcy usługę prowadzenia i utrzymania co najmniej: a) jednego boiska wielofunkcyjnego typu „Orlik 2012”, b) jednej murawy na stadionie, z nawierzchnią trawiastą o powierzchni minimum 3000 m2, c) jednego placu zabaw z minimum 8 urządzeniami zabawowymi, d) jednej siłowni zewnętrznej z minimum 6 urządzeniami do ćwiczeń. UWAGA: „W przypadku wykonawców wspólnie ubiegających się o udzielenie zamówienia warunek określony w ppkt 4 lit. a musi być spełniony w całości przez co najmniej jednego z wykonawców wspólnie ubiegających się o zamówienie Natomiast w przypadku polegania na zasobach podmiotów trzecich, warunek określony w ppkt 4 lit. a SWZ musi być spełniony w całości wyłącznie przez jeden podmiot udostępniający zasoby. W obu przypadkach podmioty te muszą zrealizować usługi będące przedmiotem zamówienia.” 2. Warunek ten będzie spełniony, jeżeli wykonawca wykaże, że w trakcie realizacji zamówienia będzie dysponował co najmniej: a) jednym podnośnikiem koszowym do 3,5 Mg (zasięg kosza min. 20 m) b) trzema kosami mechanicznymi, c) trzema kosiarkami spalinowymi, d) jedną kosiarką samobieżną, e) jednym wertykulatorem spalinowym, f) jednym aeratorem spalinowym, g) jednym siewnikiem do nasion, h) jednym wałem, i) jedną włóką do równomiernego rozłożenia piasku, j) jedną piaskarką zaciągnikową, k) jednym ciągnikiem rolniczym, lekkim do 0,9 Mg, l) jedną beczką do podlewania.", "token_count": 1499}
8
  {"added": "2026-09-08", "author": "Powiat Rycki", "created": "2023-10-27", "id": "ted_pl_658009-2023", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Udzielenie i obsługa długoterminowego kredytu bankowego w kwocie 3 000 000,00 zł na pokrycie planowanego deficytu\n\nOtwarcie ofert dokonywane jest przez odszyfrowanie i otwarcie ofert.\n\n1. Wykonawcy oraz innemu podmiotowi, jeżeli ma lub miał interes w uzyskaniu zamówienia oraz poniósł lub może ponieść szkodę w wyniku naruszenia przez Zamawiającego przepisów ustawy, przysługują środki ochrony prawnej określone w dziale IX ustawy. 2. Środki ochrony prawnej wobec ogłoszenia wszczynającego postępowanie o udzielenie zamówienia oraz dokumentów zamówienia przysługują również organizacjom wpisanym na listę, o której mowa w art. 469 pkt 15 ustawy oraz Rzecznikowi Małych i Średnich Przedsiębiorców. 3. Odwołanie przysługuje na: a. niezgodną z przepisami ustawy czynność Zamawiającego, podjętą w postępowaniu o udzielenie zamówienia, w tym na projektowane postanowienie umowy; b. zaniechanie czynności w postępowaniu o udzielenie zamówienia, do której zamawiający był obowiązany na podstawie ustawy. 4. Odwołanie wnosi się do Prezesa Izby. Odwołujący przekazuje zamawiającemu odwołanie wniesione w formie elektronicznej albo postaci elektronicznej albo kopię tego odwołania, jeżeli zostało ono wniesione w formie pisemnej przed upływem terminu do wniesienia odwołania w taki sposób, aby mógł on zapoznać się z jego treścią przed upływem tego terminu. Domniemywa się, że zamawiający mógł zapoznać się z treścią odwołania przed upływem terminu do jego wniesienia, jeżeli przekazanie odpowiednio odwołania lub jego kopii nastąpiło przed upływem terminu do jego wniesienia przy użyciu środków komunikacji elektronicznej. 5. Odwołanie wnosi się w terminie: a) 10 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana przy użyciu środków komunikacji elektronicznej, b) 15 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana w sposób inny niż określony w ust. 5 lit. a. 6. Odwołanie wobec treści ogłoszenia wszczynającego postępowanie o udzielenie zamówienia lub wobec treści dokumentów zamówienia wnosi się w terminie 10 dni od dnia publikacji ogłoszenia w Dzienniku Urzędowym Unii Europejskiej lub zamieszczenia dokumentów zamówienia na stronie internetowej. 7. Odwołanie w przypadkach innych niż określone w ust. 5 i 6 wnosi się w terminie 10 dni od dnia, w którym powzięto lub przy zachowaniu należytej staranności można było powziąć wiadomość o okolicznościach stanowiących podstawę jego wniesienia. 8. Na orzeczenie Izby oraz postanowienie Prezesa Izby, o którym mowa w art. 519 ust. 1 Ustawy, stronom oraz uczestnikom postępowania odwoławczego przysługuje skarga do sądu. 9. W postępowaniu toczącym się wskutek wniesienia skargi stosuje się odpowiednio przepisy ustawy z dnia 17.11.1964 r. - Kodeks postępowania cywilnego o apelacji, jeżeli przepisy niniejszego rozdziału nie stanowią inaczej. 10. Skargę wnosi się do Sądu Okręgowego w Warszawie - sądu zamówień publicznych,. 11. Skargę wnosi się za pośrednictwem Prezesa Izby, w terminie 14 dni od dnia doręczenia orzeczenia Izby lub postanowienia Prezesa Izby, o którym mowa w art. 519 ust. 1 ustawy, przesyłając jednocześnie jej odpis przeciwnikowi skargi. Złożenie skargi w placówce pocztowej operatora wyznaczonego w rozumieniu ustawy z dnia 23.11.2012 r. – Prawo pocztowe jest równoznaczne z jej wniesieniem. 12. Prezes Izby przekazuje skargę wraz z aktami postępowania odwoławczego do sądu zamówień publicznych w terminie 7 dni od dnia jej otrzymania.\n\nW celu potwierdzenia warunku należy złożyć aktualne zezwolenie uprawniające do wykonywania czynności bankowych na terenie Rzeczypospolitej Polskiej wydanego przez Komisję Nadzoru Finansowego zgodnie z ustawą z dnia 29 sierpnia 1997 r. Prawo bankowe (t.j. Dz. z 2022 r. poz. 2324) lub innego dokumentu potwierdzającego, że Wykonawca jest uprawniony do wykonywania czynności bankowych na terenie Rzeczypospolitej Polskiej ale tylko w przypadku gdy Wykonawca nie działa na podstawie zezwolenia wydanego przez Komisję Nadzoru Finansowego.", "token_count": 1499}
 
9
  {"added": "2026-09-08", "author": "Prokuratura Okręgowa w Świdnicy", "created": "2024-03-01", "id": "ted_pl_128349-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Kompleksowe wykonywanie usług porządkowo - czystościowych w budynkach prokuratur okręgu świdnickiego\n\nPrzedmiotem zamówienia jest wykonywanie kompleksowych usług porządkowo - czystościowych w budynkach prokuratur okręgu świdnickiego o ogólnej powierzchni: Prokuratura Okręgowa w Świdnicy ul. 1 Maja 21 - około 2.000 m2, Prokuratura Rejonowa w Świdnicy ul. Zamkowa 2- około 1.214 m2, Prokuratura Rejonowa w Wałbrzychu Pl. Magistracki 7 - około 1.090 m2 oraz Dział Śledczy przy ul. Kilińskiego 1- około -372,50 m2, Prokuratura Rejonowa w Kłodzku Pl. Chrobrego 20 - około 1.165 m2, Prokuratura Rejonowa w Dzierżoniowie ul. Rolna 1- około 975m 2, Prokuratura Rejonowa w Ząbkowicach Śląskich ul. Niepodległości 2- około 581,00 m2 oraz Prokuratura Rejonowa w Bystrzycy Kłodzkiej ul. Sempołowskiej 4 - około 644 m2.\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Okręgowej w Świdnicy przy ul. 1 Maja 21\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Świdnicy przy ul. Zamkowej 2\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynkach Prokuratury Rejonowej w Wałbrzychu przy Pl. Magistrackim 7 i w Dziale Śledczym przy ul. Kilińskiego 1\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Kłodzku przy Pl. Chrobrego 20\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Dzierżoniowie przy ul. Rolnej 1\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Ząbkowicach Śląskich przy ul. Niepodległości 2\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Bystrzycy Kłodzkiej przy ul. Sempołowskiej 4\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Okręgowej w Świdnicy przy ul. 1 Maja 21o ogólnej powierzchni 2.000 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Świdnicy przy ul. Zamkowej 2 o ogólnej powierzchni 1.214 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynkach Prokuratury Rejonowej w Wałbrzychu przy Pl. Magistrackim 7 o ogólnej powierzchni 1.090 m2 oraz Dziale Śledczym przy ul. Kilińskiego 1 o ogólnej powierzchni 372,50 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Kłodzku przy Pl. Chrobrego 20 o ogólnej powierzchni 1.165,10 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Dzierżoniowie przy ul. Rolnej 1 o ogólnej powierzchni 975 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Ząbkowicach Śl. przy ul. Niepodległości 2 o ogólnej powierzchni 581 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Bystrzycy Kłodzkiej przy ul. Sempołowskiej 4 o ogólnej powierzchni 644 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nCena – 60 %, C = (Cmin : Cx) x 60 pkt\n\nN- Organizacja nadzoru usługi sprzątania — przy ocenie ofert w kryterium organizacja nadzoru Zamawiający będzie oceniał zaoferowaną częstotliwość kontroli przez Koordynatora jakości wykonywanych usług w następujący sposób: - raz na dwa tygodnie - Zamawiający przyzna 40 pkt.; - raz na miesiąc - Zamawiający przyzna 20 pkt.; - raz na kwartał - Zamawiający przyzna 0 pkt.; Maksymalna ilość punktów przyznana w tym kryterium wynosi 40.", "token_count": 1502}
10
  {"added": "2026-09-08", "author": "Urząd Komunikacji Elektronicznej", "created": "2024-02-13", "id": "ted_pl_90791-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Zakup licencji, gwarancji i wsparcia na oprogramowanie oraz sprzęt sieciowy\n\n1. Przedmiotem zamówienia jest zakup licencji, wydłużenie gwarancji i wsparcia na oprogramowanie oraz sprzęt sieciowy, posiadany przez Zamawiającego - niezbędne do prawidłowego działania systemów informatycznych. 2. Zamówienie zostało podzielone na 4 (słownie: cztery) części: • Część nr 1 - Zakup licencji dla systemu Hitachi Data Protection Suite w celu rozszerzenia pojemności danych wraz ze wsparciem i utrzymaniem do dnia 31.12.2024 roku. • Część nr 2 - Świadczenie usługi wsparcia i gwarancji producenta dla posiadanego przez Zamawiającego klastra systemu zapór sieciowych firmy CheckPoint 7000 Plus Appliance with SandBlast. • Część nr 3 - Świadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń F5. • Część nr 4 - Świadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń Cisco Nexus. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nCzęść nr 1 - Zakup licencji dla systemu Hitachi Data Protection Suite w celu rozszerzenia pojemności danych wraz ze wsparciem i utrzymaniem do dnia 31.12.2024 roku\n\nCzęść nr 2 - Świadczenie usługi wsparcia i gwarancji producenta dla posiadanego przez Zamawiającego klastra systemu zapór sieciowych firmy CheckPoint 7000 Plus Appliance with SandBlast\n\nCzęść nr 3 - Świadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń F5\n\nCzęść nr 4 - Świadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń Cisco Nexus\n\nZakup licencji dla systemu Hitachi Data Protection Suite w celu rozszerzenia pojemności danych wraz ze wsparciem i utrzymaniem do dnia 31.12.2024 roku. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nŚwiadczenie usługi wsparcia i gwarancji producenta dla posiadanego przez Zamawiającego klastra systemu zapór sieciowych firmy CheckPoint 7000 Plus Appliance with SandBlast. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nŚwiadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń F5. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nŚwiadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń Cisco Nexus. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nZamawiający dopuszcza składanie ofert częściowych. Wykonawca może złożyć ofertę na jedną lub więcej części zamówienia.\n\nKryterium Cena = 100% Pi (C)=Cmin/Ci ∙max(C) gdzie: i – numer oferty; Pi (C) – liczba punktów jakie otrzyma oferta „i” za kryterium „Cena (C)”; Cmin – najniższa cena brutto spośród wszystkich nieodrzuconych ofert; Ci – cena brutto oferty „i” (oferty badanej); max(C) – maksymalna liczba punktów jakie może otrzymać badana oferta za kryterium „Cena (C)”, tj. 100 punktów. Przedmiot zamówienia stanowi wykup licencji, standardowego wsparcia i gwarancji producenta dla poszczególnego oprogramowania, tym samym jest to zamówienie o określonych parametrach jakościowych, a sam przedmiot zamówienia jest powszechnie dostępny. Zatem zastosowanie kryterium ceny jako jedynego przy zakupie standardowego wsparcia producenta rozwiązania nie wiąże się z ryzykiem pojawienia się dodatkowych kosztów w trakcie realizacji zamówienia, co uprawnia do stwierdzenia, iż jest to świadczenie, które może być nabywane przy kryterium ceny określonym na poziomie 100%. Charakter i specyfika zamówienia posiada ustalone standardy jakościowe i została szczegółowo określona w SWZ - wskazanie innych kryteriów oceny ofert niż cena, naruszałoby zasadę efektywnego i oszczędnego wydatkowania środków publicznych.\n\nKryterium Cena = 100% Pi (C)=Cmin/Ci ∙max(C) gdzie: i – numer oferty; Pi (C) – liczba punktów jakie otrzyma oferta „i” za kryterium „Cena (C)”; Cmin – najniższa cena brutto spośród wszystkich nieodrzuconych ofert; Ci – cena brutto oferty „i” (oferty badanej); max(C) – maksymalna liczba punktów jakie może otrzymać badana oferta za kryterium „Cena (C)”, tj. 100 punktów.\n\nWykonawcom przysługują środki ochrony prawnej zgodnie z Działem IX ustawy Pzp.", "token_count": 1498}
11
  {"added": "2026-09-08", "author": "Mazowieckie Centrum Polityki Społecznej", "created": "2024-02-16", "id": "ted_pl_99977-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "„Przygotowanie i organizacja szkoleń specjalistycznych nt. profilaktyki uzależnień”\n\nPrzedmiotem zamówienia jest usługa przygotowania i realizacji szkoleń specjalistycznych nt. profilaktyki uzależnień w formie stacjonarnej dla uczestników z terenu województwa mazowieckiego z podziałem na części: Część 1 – Przygotowanie i realizacja 6 szkoleń „Profilaktyka uzależnień chemicznych i behawioralnych”; Część 2 – Przygotowanie i realizacja 1 szkolenia „Edukator profilaktyki uzależnień chemicznych i behawioralnych - I stopnia”; Część 3 – Przygotowanie i realizacja 1 szkolenia „Edukator profilaktyki uzależnień chemicznych i behawioralnych - II stopnia”; Część 4 – Przygotowanie i realizacja 1 szkolenia „Psychoterapia uzależnień dzieci i młodzieży”; Część 5 – Przygotowanie i realizacja 1 szkolenia „Rozwój i superwizja w profilaktyce uzależnień”.\n\nPrzygotowanie i realizacja 6 szkoleń „Profilaktyka uzależnień chemicznych i behawioralnych\n\nPrzygotowanie i realizacja 1 szkolenia „Edukator profilaktyki uzależnień chemicznych i behawioralnych - I stopnia”\n\nPrzygotowanie i realizacja 1 szkolenia „Edukator profilaktyki uzależnień chemicznych i behawioralnych - II stopnia”\n\nPrzygotowanie i realizacja 1 szkolenia „Psychoterapia uzależnień dzieci i młodzieży”\n\nPrzygotowanie i realizacja 1 szkolenia „Rozwój i superwizja w profilaktyce uzależnień”\n\nDoświadczenie wykładowcy - trenera\n\nArt. 138 ust. 2 pkt. 2 Pzp , pilna potrzeba udzielenia zamówienia i skrócenia terminu składania ofert.\n\nWykonawca wykaże, że dysponuje co najmniej 2 (dwoma) trenerami zdolnymi do wykonania zamówienia, z których każdy posiada co najmniej:  wykształcenie wyższe II stopnia (tytuł magistra);  certyfikat/dyplom specjalisty psychoterapii uzależnień wydany przez Krajowe Centrum Przeciwdziałania Uzależnieniom (KCPU) lub przez Państwową Agencję Rozwiązywania Problemów Alkoholowych (PARPA) lub przez Krajowe Biuro do Spraw Przeciwdziałania Narkomanii (KBPN) lub przez Centrum Egzaminów Medycznych (CEM).  w okresie ostatnich 3 lat przed terminem składania ofert, zrealizował faktycznie co najmniej 50 godzin dydaktycznych szkoleń (w formie stacjonarnej i/lub w formie zdalnej) w zakresie uzależnień chemicznych lub behawioralnych (1 godzina dydaktyczna = 45 minut). Zamawiający informuje, iż w doświadczeniu trenera nie bierze pod uwagę zajęć na uczelni a faktycznie zrealizowane szkolenia (w formie stacjonarnej i/lub w formie zdalnej) w zakresie profilaktyki uzależnień chemicznych lub behawioralnych.  jeden spośród 2 wyżej wymaganych trenerów musi posiadać dodatkowo rekomendację superwizora/certyfikat superwizora wydany przez dyrektora Krajowego Centrum Przeciwdziałania Uzależnieniom (KCPU) lub przez Państwową Agencję Rozwiązywania Problemów Alkoholowych (PARPA) lub przez Krajowe Biuro do Spraw Przeciwdziałania Narkomanii (KBPN).\n\nWykonawca wykaże, że dysponuje co najmniej 4 (czterema) trenerami zdolnymi do wykonania zamówienia, z których każdy posiada co najmniej:  wykształcenie wyższe II stopnia (tytuł magistra);  co najmniej 10 lat doświadczenia w pracy dydaktycznej, profilaktycznej i terapeutycznej;  certyfikat/dyplom specjalisty psychoterapii uzależnień wydany przez Krajowe Centrum Przeciwdziałania Uzależnieniom (KCPU) lub przez Państwową Agencję Rozwiązywania Problemów Alkoholowych (PARPA) lub przez Krajowe Biuro do Spraw Przeciwdziałania Narkomanii (KBPN) lub przez Centrum Egzaminów Medycznych (CEM).  w okresie ostatnich 3 lat, przed terminem składania ofert, zrealizował co najmniej 50 godzin dydaktycznych szkoleń (w formie stacjonarnej i/lub w formie zdalnej) w zakresie profilaktyki uzależnień chemicznych lub behawioralnych (1 godzina dydaktyczna = 45 minut);  dwóch spośród 4 wyżej wymaganych trenerów musi posiadać dodatkowo rekomendację superwizora/certyfikat superwizora wydany przez dyrektora Krajowego Centrum Przeciwdziałania Uzależnieniom (KCPU) lub przez Państwową Agencję Rozwiązywania Problemów Alkoholowych (PARPA) lub przez Krajowe Biuro do Spraw Przeciwdziałania Narkomanii (KBPN).", "token_count": 1502}
12
+ {"added": "2026-09-08", "author": "Centrum Zakupów dla Sądownictwa Instytucja Gospodarki Budżetowej; Centrum Zakupów dla Sądownictwa Instytucja Gospodarki Budżetowej reprezentująca Sąd Apelacyjny w Krakowie; Krajowa Szkoła Sądownictwa i Prokuratury reprezentowana przez Centrum Zakupów dla Sądownictwa Instytucja Gospodarki Budżetowej", "created": "2024-03-15", "id": "ted_pl_158991-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Dostawa papieru białego A4 do wydruku i kopiowania\n\n1. Przedmiotem zamówienia jest sukcesywna realizacja dostaw papieru białego A4 do wydruku i kopiowania na rzecz jednostek sądownictwa oraz na rzecz CZdS IGB i KSSiP, zwanych łącznie Jednostkami. 2. Realizacja dostaw odbywać się będzie w formie dostaw częściowych do Jednostek, w tym do Centrum Cyfryzacji Obsługi Druku w Raciborzu (CCOD) wskazanego w Załączniku nr 5 do SWZ – Wzór umowy, na podstawie zamówień składanych przez Jednostki, za pośrednictwem systemu informatycznego Zamawiającego, na adres e-mail wskazany przez Wykonawcę. 3. Szczegółowy opis przedmiotu zamówienia, zawierający wielkość oraz zakres zamówienia stanowi Załącznik nr 2 do SWZ – Opis przedmiotu zamówienia – Formularz cenowy. 4. Szczegółowe zasady składania zamówień oraz realizacji dostaw częściowych określa Wzór Umowy, stanowiący Załącznik nr 5 do SWZ. 5. Wykaz Jednostek, na rzecz których prowadzone jest postępowanie zawiera Załącznik nr 8 do SWZ. 6. Dla celów skalkulowania oferty Zamawiający udostępnia strukturę zamówień w poprzednich latach wraz z opisem uwarunkowań architektonicznych CCOD Racibórz – Załącznik nr 9 do SWZ. 7. Zamawiający nie dopuszcza możliwości składania ofert częściowych.\n\n1. Przedmiotem zamówienia jest sukcesywna realizacja dostaw papieru białego A4 do wydruku i kopiowania na rzecz jednostek sądownictwa oraz na rzecz CZdS IGB i KSSiP, zwanych łącznie Jednostkami. 2. Realizacja dostaw odbywać się będzie w formie dostaw częściowych do Jednostek, w tym do Centrum Cyfryzacji Obsługi Druku w Raciborzu (CCOD) wskazanego w Załączniku nr 5 do SWZ – Wzór umowy, na podstawie zamówień składanych przez Jednostki, za pośrednictwem systemu informatycznego Zamawiającego, na adres e-mail wskazany przez Wykonawcę. 3. Szczegółowy opis przedmiotu zamówienia, zawierający wielkość oraz zakres zamówienia stanowi Załącznik nr 2 do SWZ – Opis przedmiotu zamówienia – Formularz cenowy. 4. Szczegółowe zasady składania zamówień oraz realizacji dostaw częściowych określa Wzór Umowy, stanowiący Załącznik nr 5 do SWZ. 5. Wykaz Jednostek, na rzecz których prowadzone jest postępowanie zawiera Załącznik nr 8 do SWZ.\n\nTermin dostawy częściowej (T)\n\nZatrudnienie osób defaworyzowanych (Z)\n\nCertyfikaty ekologiczne (E)\n\nZakres gwarantowany przedmiotu zamówienia i prawo opcji: 1. Zamawiający gwarantuje zrealizowanie Umowy w wysokości 50% przewidywanej wartości przedmiotu zamówienia. Zamawiający przewiduje możliwość ograniczenia zakresu zamówienia, w przypadku zmiany potrzeb Jednostek, na rzecz których prowadzone jest postępowanie. 2. Zamawiający, korzystając z prawa opcji, o którym mowa w art. 441 ust. 1 ustawy Pzp, zastrzega sobie prawo do zwiększenia przewidywanej wielkości przedmiotu zamówienia – tj. przewidywanej ilości zamawianego papieru, wskazanej w Załączniku nr 2 do Umowy – Opis przedmiotu zamówienia, w taki sposób, który może powodować zwiększenie wartości Umowy wskazanej w § 7 ust. 1 a) Umowy o nie więcej niż 10 %. Niewykonanie przez Zamawiającego Umowy w zakresie dodatkowych 10% ponad przewidywaną wartość przedmiotu zamówienia nie wymaga podania przyczyn i nie stanowi podstawy odpowiedzialności Zamawiającego lub Jednostek z tytułu niewykonania lub nienależytego wykonania Umowy – Wykonawcy nie przysługują żadne roszczenia z tego tytułu. a) Skorzystanie z prawa opcji następuje z mocy prawa, w chwili w której dojdzie do faktycznego zwiększenia przewidywanej ilości zamawianego papieru. Celem potwierdzenia skorzystania z prawa opcji, Zamawiający prześle Wykonawcy informację o skorzystaniu z prawa opcji. b) Zamawiający przewiduje możliwość skorzystania z prawa opcji w przypadku zwiększenia potrzeb Jednostek, na rzecz których prowadzone jest postępowanie np. (dołączenie nowych lub zwiększenie zapotrzebowania w już istniejących).\n\nMiejsce realizacji usług: usługi realizowane na terenie Polski na rzecz sądów powszechnych, KSSiP oraz CZdS IGB. Wykaz jednostek wraz z adresami stanowi Załącznik nr 8 do SWZ. NUTS: PL2, PL4, PL5, PL6, PL7, PL8, PL9.\n\nzgodnie z art. 515 Pzp", "token_count": 1502}
data/ted_pl/ted_pl.stats.json CHANGED
@@ -3,7 +3,7 @@
3
  "added": "2026-09-08",
4
  "api_acquired": 20588,
5
  "author_coverage": 1.0,
6
- "characters": 112883460,
7
  "created_max": "2024-05-15",
8
  "created_min": "2023-02-15",
9
  "indexed": 20588,
@@ -15,6 +15,6 @@
15
  "too_short_after_cleaning": 1014
16
  },
17
  "sample_count": 12,
18
- "tokens": 42475098,
19
  "xml_fallback": 1255
20
  }
 
3
  "added": "2026-09-08",
4
  "api_acquired": 20588,
5
  "author_coverage": 1.0,
6
+ "characters": 112881592,
7
  "created_max": "2024-05-15",
8
  "created_min": "2023-02-15",
9
  "indexed": 20588,
 
15
  "too_short_after_cleaning": 1014
16
  },
17
  "sample_count": 12,
18
+ "tokens": 42473050,
19
  "xml_fallback": 1255
20
  }
src/build_ted_pl.py CHANGED
@@ -37,12 +37,49 @@ LICENSE_URL = "https://ted.europa.eu/en/legal-notice"
37
  SEARCH_API_URL = "https://api.ted.europa.eu/v3/notices/search"
38
  FIELDS = ["id", "text", "source", "added", "created", "token_count", "license", "author"]
39
  UA = "TEDPolishCorpusResearch/1.0 (PiotrSty; open research dataset)"
 
 
 
 
 
 
 
 
 
 
 
 
 
40
  TEXT_TAGS = {"Name", "Title", "Description", "Note", "DocumentDescription", "ProcessReason", "ChangeDescription"}
41
  EXCLUDED_ANCESTORS = {"Organization", "Company", "PartyName", "PostalAddress", "Contact", "PartyLegalEntity", "Person"}
42
- EMAIL_RE = re.compile(r"(?i)\b[A-Z0-9._%+-]+@[A-Z0-9.-]+\.[A-Z]{2,}\b")
43
- PHONE_RE = re.compile(
44
- r"(?ix)(?<!\w)(?:(?:tel(?:efon)?\.?\s*:?\s*|\+48[ .-]?)\d{3}[ .-]?\d{3}[ .-]?\d{3}|\d{3}[ .-]\d{3}[ .-]\d{3})(?!\d)"
 
 
45
  )
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
46
  NATIONAL_ID_RE = re.compile(r"(?i)\b(?:PESEL|NIP|REGON)\s*:?[ \t]*(?:\d[ -]?){9,14}\b")
47
  THREAD_LOCAL = threading.local()
48
  API_NARRATIVE_FIELDS = (
@@ -101,11 +138,70 @@ def normalize(text):
101
  return re.sub(r"\n{3,}", "\n\n", "\n".join(lines)).strip()
102
 
103
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
104
  def redact_pii(text):
105
  counts = Counter()
106
  text, counts["email"] = EMAIL_RE.subn("[PII]", text)
107
  text, counts["national_id"] = NATIONAL_ID_RE.subn("[PII]", text)
108
- text, counts["phone"] = PHONE_RE.subn("[Telefon]", text)
 
 
 
 
 
 
 
 
109
  return normalize(text), dict(counts)
110
 
111
 
@@ -193,6 +289,17 @@ def build_index(out):
193
  return index
194
 
195
 
 
 
 
 
 
 
 
 
 
 
 
196
  def fetch_one(out, item):
197
  year = item["notice_id"].rsplit("-", 1)[-1]
198
  path = out / "raw_xml" / year / (item["notice_id"] + ".xml")
@@ -467,7 +574,11 @@ def parse_acquired_record(out, record):
467
  return parse_official_xml(payload), record["xml_sha256"]
468
 
469
 
470
- def build(out):
 
 
 
 
471
  import pyarrow as pa
472
  import pyarrow.parquet as pq
473
  import tiktoken
@@ -490,7 +601,7 @@ def build(out):
490
  encoder = tiktoken.get_encoding("cl100k_base")
491
  identifier = LanguageIdentifier.from_modelstring(model, norm_probs=True)
492
  identifier.set_languages(["pl", "en", "de", "cs", "sk", "uk", "ru"])
493
- added = inventory["created_at"][:10]
494
  rows, attribution, decisions = [], [], []
495
  seen = {}
496
  reject_counts = Counter()
@@ -555,8 +666,7 @@ def build(out):
555
  pq.write_table(pa.Table.from_pylist(rows, schema=schema), root / "data/train-00000-of-00001.parquet", compression="zstd")
556
  write_lines(root / "artifacts/attribution.jsonl", attribution)
557
  write_lines(root / "artifacts/decisions.jsonl", decisions)
558
- candidates = sorted(rows, key=lambda row: (abs(row["token_count"] - 1500), sha(("sample:" + row["id"]).encode("utf-8"))))
559
- samples = candidates[:12]
560
  write_lines(root / "artifacts/sample.jsonl", samples)
561
  source_index = [{
562
  "notice_id": record["notice_id"], "date": record["date"], "mirror_url": record["mirror_url"],
@@ -577,15 +687,14 @@ def build(out):
577
  qa = {"official_sources_only": True, "source_protocol": "official TED Search API narrative fields with official XML fallback",
578
  "mirror_text_used_for_training": False,
579
  "mirror_encoding_defect": "U+FFFD observed in pilot; mirror used only to enumerate official notice identifiers",
580
- "license_gate": "TED legal notice permits commercial and non-commercial reuse unless otherwise noted; document-level exceptions remain reviewable",
581
  "pii_pattern_matches_replaced": dict(pii), "structured_contacts_omitted": True,
582
  "boilerplate": {"method": "drop exact normalized narrative chunks present in >=1% and at least 100 documents",
583
  "threshold_documents": boilerplate_threshold, "removed_chunk_hashes": len(boilerplate)},
584
  "exact_normalized_dedup": True,
585
  "near_dedup": {"method": "seeded MinHash 128 / LSH 0.86 candidates / exact 5-word Jaccard >=0.9", "removed": near_removed},
586
  "cross_source_dedup": "pending target integration", "benchmark_overlap": "pending",
587
- "limitations": ["free-text personal names are not comprehensively de-identified", "third-party works and per-notice exceptions require review",
588
- "source is institutional/legal-administrative and requires a deliberate mix cap", "official records may contain repeated form language below the frequency threshold"]}
589
  save(root / "artifacts/stats.json", stats)
590
  save(root / "artifacts/qa.json", qa)
591
  input_hashes = [{"notice_id": row["notice_id"], "source_kind": row["source_kind"],
@@ -597,6 +706,62 @@ def build(out):
597
  print(json.dumps(stats, ensure_ascii=False, indent=2), flush=True)
598
 
599
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
600
  def checksums(root):
601
  excluded = {"artifacts/checksums.json", "artifacts/ontology.json", "artifacts/validation_run.json"}
602
  return {path.relative_to(root).as_posix(): sha(path.read_bytes()) for path in sorted(root.rglob("*"))
@@ -902,10 +1067,13 @@ if __name__ == "__main__":
902
  parser.add_argument("--output", type=Path, required=True)
903
  parser.add_argument("--workers", type=int, default=12)
904
  parser.add_argument("--limit", type=int, default=0)
905
- parser.add_argument("command", choices=["acquire", "build", "prepare", "verify", "publish", "audit"])
 
906
  args = parser.parse_args()
907
  if args.command == "acquire":
908
  acquire(args.output, args.workers, args.limit)
 
 
909
  elif args.command == "prepare":
910
  raise SystemExit("prepare is executed by publish against the current target revision")
911
  else:
 
37
  SEARCH_API_URL = "https://api.ted.europa.eu/v3/notices/search"
38
  FIELDS = ["id", "text", "source", "added", "created", "token_count", "license", "author"]
39
  UA = "TEDPolishCorpusResearch/1.0 (PiotrSty; open research dataset)"
40
+ LICENSE_GATE = ("two bases, both needed: (1) TED legal notice / Publications Office reuse terms, "
41
+ "https://ted.europa.eu/en/legal-notice; (2) for notices drafted by Polish contracting authorities, the Polish "
42
+ "public-body basis (Copyright Act art. 4 pt 2; Open Data Act, Dz.U. 2023 poz. 1524, arts 2, 3, 5, 6); "
43
+ "exceptions for third-party works and identifiable private individuals remain reviewable per notice; "
44
+ "see ted_pl.license-evidence.json")
45
+ LIMITATIONS = [
46
+ "personal names of contact persons in free text are not de-identified here; the SlayerLab/NERGAL pass must run before release",
47
+ "pattern redaction only: some unlabelled phone numbers, IBAN account numbers and role mailboxes with a missing domain can remain",
48
+ "labelled PESEL/NIP/REGON numbers are redacted whether they belong to a person or a company; identifiers without such a label (KRS numbers, bank accounts) stay in the text, including any printed next to a sole trader's name",
49
+ "third-party works and per-notice exceptions require review",
50
+ "source is institutional/legal-administrative and requires a deliberate mix cap",
51
+ "official records may contain repeated form language below the frequency threshold",
52
+ ]
53
  TEXT_TAGS = {"Name", "Title", "Description", "Note", "DocumentDescription", "ProcessReason", "ChangeDescription"}
54
  EXCLUDED_ANCESTORS = {"Organization", "Company", "PartyName", "PostalAddress", "Contact", "PartyLegalEntity", "Person"}
55
+ # Email: also catches addresses with a space after a dot ("urzad.gmina. pl"), a stray dot after the @, national letters and unusual TLDs.
56
+ _TLD = r"(?i:pl|com|eu|org|net|edu|info|gov)"
57
+ EMAIL_RE = re.compile(
58
+ r"[\w.%+-]+@\.?(?:[\w-]+\.[ \t\xa0]?)+?" + _TLD + r"(?:\." + _TLD + r")*(?![a-ząćęłńóśźż])"
59
+ r"|[\w.%+-]+@\.?[\w-]+(?:\.[\w-]+)*\.[^\W\d_]{2,}\b"
60
  )
61
+ # Phones. Labelled numbers ("tel.", "telefonu", "fax", ...) are cut at the first 9 digits (10 after a leading 0,
62
+ # 13 after "+"); unlabelled numbers need a recognisable shape. Amounts ("100 000 000,00 PLN"), CPV codes, dates and
63
+ # longer digit runs are left alone.
64
+ LABELLED_PHONE_RE = re.compile(
65
+ r"(?i)(?<!\w)(?:tel(?:efon(?:u|ów|em|ie|icznie)?)?|fax|faks|kom(?:órka)?|gsm|mobile|phone)(?![^\W\d_])(?!\])"
66
+ r"[^\d\n]{0,20}?(?P<num>\(?\+?[ \t]?\(?\d[\d \t()./\-–]{4,24}\d)"
67
+ )
68
+ BARE_PHONE_RE = re.compile(r"(?<![\w])(?<!\d[ .-])\d{3}[ .-]\d{3}[ .-]\d{3}(?!\d|[ .-]\d)")
69
+ PREFIXED_PHONE_RE = re.compile(
70
+ r"(?<![\w+])(?:(?:\(\+?\d{2}\)|\+[ \t]?\d{2})[ \t.\-]?\(?\d{2,3}\)?(?:[ \t.\-]?\d){5,8}"
71
+ r"|\(\d{2,3}\)[ \t.\-]?\d(?:[ \t.\-]?\d){5,8})(?!\d)"
72
+ )
73
+ DASHED_PHONE_RE = re.compile(r"(?<![\w/.,\-])\d{2}[/-]\d{3}-\d{2}-\d{2}(?![\d\-])")
74
+ # Unspaced 9-digit number after "word - " ("skontaktować się z A.Decem - 815384157"); amounts and ...000000 are kept by _bare_phone.
75
+ UNSPACED_PHONE_RE = re.compile(r"(?<=[^\W\d_][ \t][-–][ \t])[1-9]\d{8}(?![\w]|[.,]\d)")
76
+ # Second number of a pair ("tel. 22 123 45 67 lub 22 765 43 21"): only a 9-digit number that starts with a 2-digit area code.
77
+ CONTINUED_PHONE_RE = re.compile(
78
+ r"(?<=\[Telefon\])(?P<sep>[ \t]*(?:,|;|/|lub|oraz)[ \t]*)(?P<num>\d{2}(?:[ \t.-]\d{2,4}){2,3})(?!\d|,\d|[ \t.-]\d)"
79
+ )
80
+ _DATE_RE = re.compile(r"\d{4}-\d{2}-\d{2}|\d{1,2}[.-]\d{1,2}[.-]\d{4}")
81
+ _CPV_RE = re.compile(r"\d{8}-\d\b")
82
+ _AMOUNT_AFTER_RE = re.compile(r"(?i)[,.]\d|[ \t]*(?:zł|pln|eur|euro|€|usd|%|m2|m²|kwh|mwh|szt|kg|brutto|netto)")
83
  NATIONAL_ID_RE = re.compile(r"(?i)\b(?:PESEL|NIP|REGON)\s*:?[ \t]*(?:\d[ -]?){9,14}\b")
84
  THREAD_LOCAL = threading.local()
85
  API_NARRATIVE_FIELDS = (
 
138
  return re.sub(r"\n{3,}", "\n\n", "\n".join(lines)).strip()
139
 
140
 
141
+ def _phone_end(number):
142
+ """Length of the phone-number prefix of `number`, 0 when it is a date, CPV code or too short."""
143
+ number = re.split(r"\.[ \t]", number)[0]
144
+ if _DATE_RE.match(number.lstrip("(+ \t")) or _CPV_RE.match(number):
145
+ return 0
146
+ digits = re.sub(r"\D", "", number)
147
+ if len(digits) < 7:
148
+ return 0
149
+ limit = min(len(digits), 13 if "+" in number else 10 if digits.startswith("0") else 9)
150
+ seen = 0
151
+ for position, char in enumerate(number):
152
+ seen += char.isdigit()
153
+ if seen == limit:
154
+ return position + 1
155
+
156
+
157
+ def _labelled_phone(match):
158
+ """Replace the number only: the label ("Tel.:") and the space after it stay."""
159
+ number = match.group("num")
160
+ end = _phone_end(number)
161
+ if not end:
162
+ return match.group(0)
163
+ keep = match.start("num") + len(number) - len(number.lstrip(" \t"))
164
+ return match.string[match.start():keep] + "[Telefon]" + match.string[match.start("num") + end:match.end()]
165
+
166
+
167
+ def _bare_phone(match):
168
+ digits = re.sub(r"\D", "", match.group(0))
169
+ if digits.endswith("000000") or _AMOUNT_AFTER_RE.match(match.string, match.end()):
170
+ return match.group(0)
171
+ return "[Telefon]"
172
+
173
+
174
+ def _continued_phone(match):
175
+ number = match.group("num")
176
+ return match.group("sep") + "[Telefon]" if len(re.sub(r"\D", "", number)) == 9 and "000" not in number else match.group(0)
177
+
178
+
179
+ def _sub(pattern, handler, text):
180
+ """re.sub that counts only the matches the handler actually changed."""
181
+ hits = 0
182
+
183
+ def run(match):
184
+ nonlocal hits
185
+ out = handler(match)
186
+ hits += out != match.group(0)
187
+ return out
188
+
189
+ return pattern.sub(run, text), hits
190
+
191
+
192
  def redact_pii(text):
193
  counts = Counter()
194
  text, counts["email"] = EMAIL_RE.subn("[PII]", text)
195
  text, counts["national_id"] = NATIONAL_ID_RE.subn("[PII]", text)
196
+ text, counts["phone"] = _sub(LABELLED_PHONE_RE, _labelled_phone, text)
197
+ for pattern, handler in ((BARE_PHONE_RE, _bare_phone), (UNSPACED_PHONE_RE, _bare_phone),
198
+ (PREFIXED_PHONE_RE, lambda m: "[Telefon]"), (DASHED_PHONE_RE, lambda m: "[Telefon]")):
199
+ text, hits = _sub(pattern, handler, text)
200
+ counts["phone"] += hits
201
+ hits = 1
202
+ while hits:
203
+ text, hits = _sub(CONTINUED_PHONE_RE, _continued_phone, text)
204
+ counts["phone"] += hits
205
  return normalize(text), dict(counts)
206
 
207
 
 
289
  return index
290
 
291
 
292
+ def shipped_index(data):
293
+ """Index of exactly the notices in the shipped contribution; the mirror files are not downloaded again."""
294
+ index = [{"notice_id": item["notice_id"], "mirror_url": item["mirror_record_url"], "official_xml_url": item["official_xml_url"],
295
+ "date": datetime.strptime(item["created"], "%Y-%m-%d").strftime("%d/%m/%Y") if item["created"] != "unknown" else ""}
296
+ for item in read_lines(data / f"{SOURCE}.attribution.jsonl")]
297
+ index.sort(key=lambda row: row["notice_id"])
298
+ assert [date_iso(row["date"]) for row in index] == [item["created"] for item in sorted(
299
+ read_lines(data / f"{SOURCE}.attribution.jsonl"), key=lambda row: row["notice_id"])]
300
+ return index
301
+
302
+
303
  def fetch_one(out, item):
304
  year = item["notice_id"].rsplit("-", 1)[-1]
305
  path = out / "raw_xml" / year / (item["notice_id"] + ".xml")
 
574
  return parse_official_xml(payload), record["xml_sha256"]
575
 
576
 
577
+ def pick_samples(rows):
578
+ return sorted(rows, key=lambda row: (abs(row["token_count"] - 1500), sha(("sample:" + row["id"]).encode("utf-8"))))[:12]
579
+
580
+
581
+ def build(out, added=None):
582
  import pyarrow as pa
583
  import pyarrow.parquet as pq
584
  import tiktoken
 
601
  encoder = tiktoken.get_encoding("cl100k_base")
602
  identifier = LanguageIdentifier.from_modelstring(model, norm_probs=True)
603
  identifier.set_languages(["pl", "en", "de", "cs", "sk", "uk", "ru"])
604
+ added = added or inventory["created_at"][:10]
605
  rows, attribution, decisions = [], [], []
606
  seen = {}
607
  reject_counts = Counter()
 
666
  pq.write_table(pa.Table.from_pylist(rows, schema=schema), root / "data/train-00000-of-00001.parquet", compression="zstd")
667
  write_lines(root / "artifacts/attribution.jsonl", attribution)
668
  write_lines(root / "artifacts/decisions.jsonl", decisions)
669
+ samples = pick_samples(rows)
 
670
  write_lines(root / "artifacts/sample.jsonl", samples)
671
  source_index = [{
672
  "notice_id": record["notice_id"], "date": record["date"], "mirror_url": record["mirror_url"],
 
687
  qa = {"official_sources_only": True, "source_protocol": "official TED Search API narrative fields with official XML fallback",
688
  "mirror_text_used_for_training": False,
689
  "mirror_encoding_defect": "U+FFFD observed in pilot; mirror used only to enumerate official notice identifiers",
690
+ "license_gate": LICENSE_GATE,
691
  "pii_pattern_matches_replaced": dict(pii), "structured_contacts_omitted": True,
692
  "boilerplate": {"method": "drop exact normalized narrative chunks present in >=1% and at least 100 documents",
693
  "threshold_documents": boilerplate_threshold, "removed_chunk_hashes": len(boilerplate)},
694
  "exact_normalized_dedup": True,
695
  "near_dedup": {"method": "seeded MinHash 128 / LSH 0.86 candidates / exact 5-word Jaccard >=0.9", "removed": near_removed},
696
  "cross_source_dedup": "pending target integration", "benchmark_overlap": "pending",
697
+ "limitations": LIMITATIONS}
 
698
  save(root / "artifacts/stats.json", stats)
699
  save(root / "artifacts/qa.json", qa)
700
  input_hashes = [{"notice_id": row["notice_id"], "source_kind": row["source_kind"],
 
706
  print(json.dumps(stats, ensure_ascii=False, indent=2), flush=True)
707
 
708
 
709
+ def install(out, data):
710
+ """Replace parquet, attribution, sample, stats and qa in `data` with the rebuild in `out`.
711
+
712
+ The document set, metadata and upstream bytes must be the shipped ones; decisions.jsonl stays as built from
713
+ the full 20,588-notice acquisition. Sidecars keep their line endings.
714
+ """
715
+ import pyarrow.parquet as pq
716
+ built, stem = out / "hf_repo", data / SOURCE
717
+ old_rows = pq.read_table(f"{stem}.parquet").to_pylist()
718
+ rows = pq.read_table(built / "data/train-00000-of-00001.parquet").to_pylist()
719
+ if [row["id"] for row in rows] != [row["id"] for row in old_rows]:
720
+ raise ValueError("rebuilt document set differs from the shipped one")
721
+ fixed = [field for field in FIELDS if field not in ("text", "token_count")]
722
+ for new, old in zip(rows, old_rows):
723
+ if any(new[field] != old[field] for field in fixed):
724
+ raise ValueError("metadata changed for " + new["id"])
725
+ attribution = read_lines(built / "artifacts/attribution.jsonl")
726
+ old_hash = {item["id"]: item["source_sha256"] for item in read_lines(Path(f"{stem}.attribution.jsonl"))}
727
+ if any(item["source_sha256"] != old_hash[item["id"]] for item in attribution):
728
+ raise ValueError("TED source bytes changed since the shipped build")
729
+ text_files = [Path(f"{stem}.{name}") for name in ("attribution.jsonl", "sample.jsonl", "stats.json", "qa.json")]
730
+ crlf = {path: b"\r\n" in path.read_bytes() for path in text_files} # the contribution was committed with CRLF
731
+ built_stats, built_qa = load(built / "artifacts/stats.json"), load(built / "artifacts/qa.json")
732
+ stats = load(Path(f"{stem}.stats.json"))
733
+ qa = load(Path(f"{stem}.qa.json"))
734
+ qa.pop("pii_rescrub", None)
735
+ qa["pii_rebuild"] = {
736
+ "documents": len(rows), "tokens_before": sum(row["token_count"] for row in old_rows), "tokens_after": built_stats["tokens"],
737
+ "previous_pii_pattern_matches_replaced": qa["pii_pattern_matches_replaced"],
738
+ "boilerplate_threshold_documents": built_qa["boilerplate"]["threshold_documents"],
739
+ "boilerplate_chunks_removed": built_qa["boilerplate"]["removed_chunk_hashes"],
740
+ "note": "text rebuilt from the raw TED API/XML of the shipped notices with redact_pii applied once; "
741
+ "pii_pattern_matches_replaced now counts these documents, the previous counters covered the original 20,588-notice build"}
742
+ qa.update(license_gate=LICENSE_GATE, limitations=LIMITATIONS, pii_pattern_matches_replaced=built_qa["pii_pattern_matches_replaced"])
743
+ stats.update(tokens=built_stats["tokens"], characters=built_stats["characters"], sample_count=built_stats["sample_count"])
744
+ shutil.copy2(built / "data/train-00000-of-00001.parquet", f"{stem}.parquet")
745
+ write_lines(Path(f"{stem}.attribution.jsonl"), attribution)
746
+ write_lines(Path(f"{stem}.sample.jsonl"), pick_samples(rows))
747
+ save(Path(f"{stem}.stats.json"), stats)
748
+ save(Path(f"{stem}.qa.json"), qa)
749
+ for path in text_files:
750
+ if crlf[path]:
751
+ path.write_bytes(path.read_bytes().replace(b"\n", b"\r\n"))
752
+ print(json.dumps(qa["pii_rebuild"], ensure_ascii=False, indent=2), flush=True)
753
+
754
+
755
+ def rebuild(out, data, workers):
756
+ """Re-acquire exactly the shipped notices from TED, build them with the current redact_pii and install the result in `data`."""
757
+ write_lines(out / "source_index.jsonl", shipped_index(data))
758
+ save(out / "source_files.json", {"mirror": MIRROR, "revision": MIRROR_REVISION, "years": list(YEARS),
759
+ "note": "index restricted to the shipped notice ids; mirror files not downloaded again"})
760
+ acquire(out, workers, 0)
761
+ build(out, added=load(data / f"{SOURCE}.stats.json")["added"])
762
+ install(out, data)
763
+
764
+
765
  def checksums(root):
766
  excluded = {"artifacts/checksums.json", "artifacts/ontology.json", "artifacts/validation_run.json"}
767
  return {path.relative_to(root).as_posix(): sha(path.read_bytes()) for path in sorted(root.rglob("*"))
 
1067
  parser.add_argument("--output", type=Path, required=True)
1068
  parser.add_argument("--workers", type=int, default=12)
1069
  parser.add_argument("--limit", type=int, default=0)
1070
+ parser.add_argument("--data", type=Path, default=Path("data") / SOURCE, help="shipped contribution folder for rebuild")
1071
+ parser.add_argument("command", choices=["acquire", "build", "rebuild", "prepare", "verify", "publish", "audit"])
1072
  args = parser.parse_args()
1073
  if args.command == "acquire":
1074
  acquire(args.output, args.workers, args.limit)
1075
+ elif args.command == "rebuild":
1076
+ rebuild(args.output, args.data, args.workers)
1077
  elif args.command == "prepare":
1078
  raise SystemExit("prepare is executed by publish against the current target revision")
1079
  else:
src/sources.py CHANGED
@@ -468,16 +468,34 @@ SOURCES = {
468
  "pretty": "TED Polish public-procurement notices",
469
  "license": "TED notice reuse terms",
470
  "license_spdx": "LicenseRef-TED-Notice-Reuse",
471
- "traceable": "TED legal notice permits commercial and non-commercial reuse of procurement "
472
- "notices unless otherwise noted, implementing Commission Decision 2011/833/EU "
473
- "on the reuse of Commission documents (CELEX:32011D0833); official Search API/XML "
474
- "provenance and SHA-256 are preserved per record. Metadata is CC0, while notice "
475
- "text uses the separate reuse grant.",
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
476
  "upstream": "https://ted.europa.eu/",
477
  "provenance": "Pinned PiotrSty/ted-polish-procurement-notices snapshot; PleIAs/TEDEUTenders "
478
  "is used only as a pinned identifier index, while text is rebuilt from official "
479
  "TED Search API narrative fields with official XML fallback. Pattern PII "
480
- "redaction only - re-run through SlayerLab/NERGAL before release.",
 
 
481
  "domain": "public procurement / institutional / technical",
482
  "created": "2023-02-15, 2024-05-15",
483
  "is_ocr": False,
 
468
  "pretty": "TED Polish public-procurement notices",
469
  "license": "TED notice reuse terms",
470
  "license_spdx": "LicenseRef-TED-Notice-Reuse",
471
+ "traceable": "Two bases, recorded separately; neither is lawyer-signed-off. (1) EU: TED legal "
472
+ "notice (https://ted.europa.eu/en/legal-notice, read 2026-10-05): \"Unless otherwise "
473
+ "noted, the procurement notices published in the Supplement to the Official Journal "
474
+ "of the European Union can be freely reused, for commercial or non-commercial "
475
+ "purposes.\" The notice names Commission Decision 2011/833/EU of 12 December 2011 as "
476
+ "its reuse policy; the Decision itself covers Commission documents (arts 1, 2(1)). "
477
+ "SIMAP metadata is CC0 and SIMAP editorial content is CC BY 4.0; neither is the "
478
+ "grant for notice text. (2) PL: notices drafted by Polish contracting authorities - "
479
+ "Prawo autorskie art. 4 pkt 2 (Dz.U. 2025 poz. 24: official documents are not "
480
+ "subject to copyright) and, for obliged public bodies, the Open Data Act "
481
+ "(Dz.U. 2023 poz. 1524, art. 2 pkt 8, art. 3, art. 14 ust. 1; art. 6 ust. 2 limits "
482
+ "reuse for natural persons' privacy). Official Search API/XML provenance and "
483
+ "SHA-256 are preserved per record. Clause text, URLs and page hashes: "
484
+ "data/ted_pl/ted_pl.license-evidence.json.",
485
+ "legal_note": "Not lawyer-signed-off. The PL basis is an inference: Open Data Act art. 5 covers "
486
+ "information in the obliged entity's own BIP/system whereas TED is an EU system; "
487
+ "about 20% of authors carry a company form (heuristic), and not every company is a "
488
+ "podmiot zobowiazany; treating a tender notice as an official document under "
489
+ "art. 4 pkt 2 is untested. The TED notice itself excepts third-party works and "
490
+ "identifiable private individuals, so per-notice exceptions are not cleared. "
491
+ "Admission waits for the NERGAL pass (v2#60).",
492
  "upstream": "https://ted.europa.eu/",
493
  "provenance": "Pinned PiotrSty/ted-polish-procurement-notices snapshot; PleIAs/TEDEUTenders "
494
  "is used only as a pinned identifier index, while text is rebuilt from official "
495
  "TED Search API narrative fields with official XML fallback. Pattern PII "
496
+ "redaction only (e-mail, phone, labelled national IDs; v0.2.6 rebuilt the "
497
+ "shipped 15,544 notices from the raw TED API with the extended patterns, applied once); "
498
+ "personal names are not redacted - re-run through SlayerLab/NERGAL before release.",
499
  "domain": "public procurement / institutional / technical",
500
  "created": "2023-02-15, 2024-05-15",
501
  "is_ocr": False,
src/test_ted_pl_contract.py ADDED
@@ -0,0 +1,259 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ """Contract tests for the ted_pl PII rules and the rebuild from the raw TED text (v0.2.6, v2#57, v2#60)."""
2
+ from __future__ import annotations
3
+
4
+ import json
5
+ import re
6
+ import sys
7
+ from pathlib import Path
8
+
9
+ import pytest
10
+
11
+ sys.path.insert(0, str(Path(__file__).resolve().parent))
12
+
13
+ import build_ted_pl as ted # noqa: E402
14
+
15
+ DATA = Path(__file__).resolve().parents[1] / "data" / "ted_pl"
16
+
17
+
18
+ def redact(text):
19
+ return ted.redact_pii(text)[0]
20
+
21
+
22
+ @pytest.mark.parametrize("raw", [
23
+ "adres: przetargi@kpnmab. pl oraz",
24
+ "odwołania@uzp.gov.pl",
25
+ "dcopih@ezamawiający.pl",
26
+ "au.suzbr@mon. gov.pl",
27
+ "jan.kowalski@gmina-przykład.example",
28
+ "adres e-mail: tod@.wodociagi.katowice.pl. Faktury",
29
+ ])
30
+ def test_email_forms_are_redacted(raw):
31
+ assert "@" not in redact(raw) and "[PII]" in redact(raw)
32
+
33
+
34
+ @pytest.mark.parametrize("raw", [
35
+ "projektu „Cyfrowa Szkoła Wielkopolsk@ 2030”",
36
+ "„Mieszk@niec” oraz „Dl@”",
37
+ "....@....",
38
+ "e-mail: iod@ .pl", # domain missing in the notice itself, nothing to leak
39
+ ])
40
+ def test_non_emails_are_left_alone(raw):
41
+ assert redact(raw) == raw
42
+
43
+
44
+ @pytest.mark.parametrize("raw", [
45
+ "tel. 34/367-30-00 e-mail",
46
+ "Tel.: +48 22457801 Faks",
47
+ "telefonu (22) 458 77 99 lub",
48
+ "numer telefonu: 74 888-05-60.",
49
+ "telefonicznie pod numerem 32 765 11 16.",
50
+ "fax:+48(42)272-60-01,",
51
+ "tel. + 41 22 799 49 00",
52
+ "kontakt +48 71 787 35 34 (infolinia)",
53
+ "Sekretariat: (22) 458 78 01,",
54
+ "kierownik: Anna Przykładowa, 94/348-44-32;",
55
+ "tel.: 65-529-49-34, fax",
56
+ "skontaktować się z A.Decem - 815384157, e-mail",
57
+ ])
58
+ def test_phone_forms_are_redacted(raw):
59
+ out, counts = ted.redact_pii(raw)
60
+ assert "[Telefon]" in out and counts["phone"] >= 1
61
+ assert not re.search(r"\d{2,}[ /-]\d", out), out
62
+
63
+
64
+ def test_labelled_phone_is_cut_at_the_number():
65
+ # the label stays; the trailing "5" belongs to the next list item, only 9 digits are consumed
66
+ assert redact("Tel.: 22 1551 626 5) Zadanie") == "Tel.: [Telefon] 5) Zadanie"
67
+ assert redact("tel. 42/638-58-53 3.9.1.2 Zamawiający") == "tel. [Telefon] 3.9.1.2 Zamawiający"
68
+
69
+
70
+ def test_second_number_of_a_pair_is_redacted():
71
+ assert redact("tel. 22 123 45 67 lub 22 765 43 21, od poniedziałku") == "tel. [Telefon] lub [Telefon], od poniedziałku"
72
+ assert redact("tel. 600 100 200; 22 458 78 03") == "tel. [Telefon]; [Telefon]"
73
+
74
+
75
+ @pytest.mark.parametrize("raw", [
76
+ "kredyt w wysokości 100 000 000,00 PLN",
77
+ "wartość 250 000 000 zł brutto",
78
+ "suma 1 250 123 456 euro",
79
+ "gwarancja 123 456 789 zł",
80
+ "kod CPV 45233120-6 oraz 72611000-6",
81
+ "telefoniczne i przesyłu danych, 72611000-6",
82
+ "telefonicznych, kody CPV dodatkowe: 64216110-7",
83
+ "numer postępowania PUZ-2380-600 100 200/2024/DZ",
84
+ "rachunek PL61 1090 1014 0000 0712 1981 2874",
85
+ "tel. 2024-05-12 oraz telefon 04.05.2024",
86
+ "telefony 2.000.000 zł",
87
+ "w terminie 12 345 678 sztuk",
88
+ "kategoria A - 123456789 zł",
89
+ "numer identyfikacyjny: 811931430 oraz rys. nr 100613211",
90
+ ])
91
+ def test_amounts_codes_and_dates_are_not_phones(raw):
92
+ assert redact(raw) == raw
93
+
94
+
95
+ def test_redaction_is_idempotent():
96
+ raw = "Kontakt: Jan Nowak, tel. 22 123 45 67 lub 22 765 43 21, e-mail: jan@urzad. pl, NIP: 123-456-78-90, +48 600 100 200."
97
+ once = redact(raw)
98
+ assert redact(once) == once
99
+ assert ted.redact_pii(once)[1] == {"email": 0, "national_id": 0, "phone": 0}
100
+
101
+
102
+ def test_counts_cover_each_kind():
103
+ _, counts = ted.redact_pii("a@b.pl, NIP: 123-456-78-90, tel. 600 100 200, (22) 458 78 01")
104
+ assert counts == {"email": 1, "national_id": 1, "phone": 2}
105
+
106
+
107
+ def _build_deps_or_skip():
108
+ for name in ("pyarrow", "datasketch", "langid", "tiktoken"):
109
+ pytest.importorskip(name)
110
+ import tiktoken
111
+ try:
112
+ tiktoken.get_encoding("cl100k_base")
113
+ except Exception as error: # offline runner without the cached vocabulary
114
+ pytest.skip(f"cl100k_base unavailable: {error}")
115
+
116
+
117
+ RAW_TEXTS = [
118
+ "Przedmiotem zamówienia jest dostawa sprzętu komputerowego dla szkół podstawowych na terenie gminy. Osoba do kontaktu: "
119
+ "Jan Nowak, tel. 600 100 200, e-mail: biuro@urzad.pl. Szacunkowa wartość zamówienia wynosi 12 345 678,90 PLN. "
120
+ "Zamawiający dopuszcza składanie ofert częściowych oraz przewiduje możliwość udzielenia zamówień uzupełniających.",
121
+ "Zakres prac obejmuje remont drogi gminnej wraz z budową chodnika, oświetlenia ulicznego i kanalizacji deszczowej. "
122
+ "Wykonawca zobowiązany jest do zapewnienia kierownika budowy posiadającego odpowiednie uprawnienia budowlane oraz do "
123
+ "zachowania terminu realizacji wskazanego w dokumentach zamówienia, z uwzględnieniem warunków atmosferycznych.",
124
+ ]
125
+
126
+
127
+ def _acquired_fixture(out):
128
+ """The notices of RAW_TEXTS as acquire() stores them: Search API files plus inventory.json."""
129
+ records = []
130
+ for index, text in enumerate(RAW_TEXTS):
131
+ notice_id = f"00000{index}-2024"
132
+ payload = (json.dumps({"publication-number": notice_id, "buyer-name": {"pol": ["Urząd Miasta"]},
133
+ "description-proc": {"pol": [text]}}, ensure_ascii=False, sort_keys=True) + "\n").encode("utf-8")
134
+ path = out / "raw_api" / "2024" / f"{notice_id}.json"
135
+ path.parent.mkdir(parents=True, exist_ok=True)
136
+ path.write_bytes(payload)
137
+ records.append({"notice_id": notice_id, "date": "03/01/2024", "mirror_url": f"https://ted.europa.eu/udl?uri=TED:NOTICE:{notice_id}:TEXT:PL:HTML",
138
+ "official_xml_url": f"https://ted.europa.eu/en/notice/{notice_id}/xml", "source_kind": "official_search_api",
139
+ "api_path": path.relative_to(out).as_posix(), "api_sha256": ted.sha(payload), "api_bytes": len(payload), "api_has_narrative": True})
140
+ ted.save(out / "inventory.json", {"created_at": "2026-10-06T00:00:00+00:00", "complete": True, "indexed": len(records),
141
+ "attempted": len(records), "acquired": len(records), "api_acquired": len(records), "xml_fallback": 0, "records": records,
142
+ "failures": [], "source_files": {}})
143
+ ted.save(out / "source_files.json", {})
144
+
145
+
146
+ def _shipped_fixture(out, data, crlf=True):
147
+ """A shipped contribution in `data` whose texts carry the old over-redaction ("[Telefon]" for the amount)."""
148
+ import pyarrow as pa
149
+ import pyarrow.parquet as pq
150
+ built = pq.read_table(out / "hf_repo/data/train-00000-of-00001.parquet").to_pylist()
151
+ rows = [{**row, "text": row["text"].replace("12 345 678,90 PLN", "[Telefon] PLN"), "token_count": 1} for row in built]
152
+ data.mkdir(parents=True, exist_ok=True)
153
+ schema = pa.schema([(field, pa.int64() if field == "token_count" else pa.string()) for field in ted.FIELDS])
154
+ pq.write_table(pa.Table.from_pylist(rows, schema=schema), data / "ted_pl.parquet")
155
+ attribution = [{**item, "text_sha256": "old", "transformations": item["transformations"] + ["old note"]}
156
+ for item in ted.read_lines(out / "hf_repo/artifacts/attribution.jsonl")]
157
+ files = {"attribution.jsonl": "".join(json.dumps(item) + "\n" for item in attribution),
158
+ "sample.jsonl": "".join(json.dumps(row) + "\n" for row in rows[:1]),
159
+ "stats.json": json.dumps({"kept": len(rows), "indexed": 99, "tokens": 2, "characters": 2, "sample_count": 1}, indent=2) + "\n",
160
+ "qa.json": json.dumps({"limitations": ["old"], "license_gate": "old", "pii_rescrub": {"documents_changed": 1},
161
+ "pii_pattern_matches_replaced": {"phone": 7}}, indent=2) + "\n",
162
+ "decisions.jsonl": json.dumps({"id": "ted_pl_x"}) + "\n"}
163
+ for name, content in files.items():
164
+ (data / f"ted_pl.{name}").write_bytes(content.replace("\n", "\r\n" if crlf else "\n").encode("utf-8"))
165
+ return rows
166
+
167
+
168
+ def test_shipped_index_lists_the_shipped_notices_only(tmp_path):
169
+ items = [{"id": "ted_pl_9-2024", "notice_id": "9-2024", "created": "2024-02-03", "mirror_record_url": "https://m/9",
170
+ "official_xml_url": "https://x/9"},
171
+ {"id": "ted_pl_1-2023", "notice_id": "1-2023", "created": "unknown", "mirror_record_url": "https://m/1",
172
+ "official_xml_url": "https://x/1"}]
173
+ ted.write_lines(tmp_path / "ted_pl.attribution.jsonl", items)
174
+ assert ted.shipped_index(tmp_path) == [
175
+ {"notice_id": "1-2023", "mirror_url": "https://m/1", "official_xml_url": "https://x/1", "date": ""},
176
+ {"notice_id": "9-2024", "mirror_url": "https://m/9", "official_xml_url": "https://x/9", "date": "03/02/2024"}]
177
+
178
+
179
+ def test_build_applies_redact_pii_once_and_install_replaces_the_shipped_files(tmp_path):
180
+ _build_deps_or_skip()
181
+ import pyarrow.parquet as pq
182
+ out, data = tmp_path / "raw", tmp_path / "data"
183
+ _acquired_fixture(out)
184
+ ted.build(out, added="2026-09-08")
185
+ built = pq.read_table(out / "hf_repo/data/train-00000-of-00001.parquet").to_pylist()
186
+ assert [row["added"] for row in built] == ["2026-09-08"] * 2
187
+ assert "tel. [Telefon]," in built[0]["text"] and "[PII]" in built[0]["text"] # label kept, e-mail redacted
188
+ assert "12 345 678,90 PLN" in built[0]["text"] and "600" not in built[0]["text"]
189
+ old = _shipped_fixture(out, data)
190
+ decisions = (data / "ted_pl.decisions.jsonl").read_bytes()
191
+ ted.install(out, data)
192
+ rows = pq.read_table(data / "ted_pl.parquet").to_pylist()
193
+ assert [row["text"] for row in rows] == [row["text"] for row in built] and old[0]["text"] != rows[0]["text"]
194
+ attribution = ted.read_lines(data / "ted_pl.attribution.jsonl")
195
+ assert [item["text_sha256"] for item in attribution] == [ted.sha(row["text"].encode("utf-8")) for row in rows]
196
+ assert not any("old note" in item["transformations"] for item in attribution)
197
+ stats = ted.load(data / "ted_pl.stats.json")
198
+ assert stats["indexed"] == 99 and stats["kept"] == 2 # history of the original acquisition is kept
199
+ assert stats["tokens"] == sum(row["token_count"] for row in rows) > 2
200
+ assert stats["characters"] == sum(len(row["text"]) for row in rows) and stats["sample_count"] == 2
201
+ qa = ted.load(data / "ted_pl.qa.json")
202
+ assert qa["limitations"] == ted.LIMITATIONS and qa["license_gate"] == ted.LICENSE_GATE and "pii_rescrub" not in qa
203
+ assert qa["pii_pattern_matches_replaced"] == {"email": 1, "national_id": 0, "phone": 1}
204
+ assert qa["pii_rebuild"]["previous_pii_pattern_matches_replaced"] == {"phone": 7} and qa["pii_rebuild"]["tokens_before"] == 2
205
+ assert qa["pii_rebuild"]["tokens_after"] == stats["tokens"] and qa["pii_rebuild"]["documents"] == 2
206
+ assert [json.loads(line)["id"] for line in (data / "ted_pl.sample.jsonl").read_text(encoding="utf-8").splitlines()] == [
207
+ row["id"] for row in ted.pick_samples(rows)]
208
+ assert (data / "ted_pl.decisions.jsonl").read_bytes() == decisions
209
+ for name in ("attribution.jsonl", "sample.jsonl", "stats.json", "qa.json"): # CRLF is kept
210
+ raw = (data / f"ted_pl.{name}").read_bytes()
211
+ assert raw.count(b"\r\n") == raw.count(b"\n") > 0
212
+
213
+
214
+ def test_install_refuses_a_different_document_set_or_changed_source(tmp_path):
215
+ _build_deps_or_skip()
216
+ import pyarrow as pa
217
+ import pyarrow.parquet as pq
218
+ out, data = tmp_path / "raw", tmp_path / "data"
219
+ _acquired_fixture(out)
220
+ ted.build(out, added="2026-09-08")
221
+ rows = _shipped_fixture(out, data, crlf=False)
222
+ schema = pa.schema([(field, pa.int64() if field == "token_count" else pa.string()) for field in ted.FIELDS])
223
+ pq.write_table(pa.Table.from_pylist(rows[:1], schema=schema), data / "ted_pl.parquet")
224
+ with pytest.raises(ValueError, match="document set"):
225
+ ted.install(out, data)
226
+ _shipped_fixture(out, data, crlf=False)
227
+ attribution = ted.read_lines(data / "ted_pl.attribution.jsonl")
228
+ attribution[0]["source_sha256"] = "0" * 64
229
+ ted.write_lines(data / "ted_pl.attribution.jsonl", attribution)
230
+ with pytest.raises(ValueError, match="source bytes changed"):
231
+ ted.install(out, data)
232
+
233
+
234
+ def _shipped_rows():
235
+ pq = pytest.importorskip("pyarrow.parquet")
236
+ path = DATA / "ted_pl.parquet"
237
+ if path.read_bytes()[:20] == b"version https://git-":
238
+ pytest.skip("parquet is an LFS pointer in this checkout")
239
+ return pq.read_table(path).to_pylist()
240
+
241
+
242
+ def test_shipped_text_has_no_residual_email_or_phone():
243
+ rows = _shipped_rows()
244
+ assert not [row["id"] for row in rows if ted.EMAIL_RE.search(row["text"])]
245
+ # redact_pii is a fixed point on the shipped text: nothing it knows about is left
246
+ assert not [row["id"] for row in rows if ted.redact_pii(row["text"]) != (row["text"], {"email": 0, "national_id": 0, "phone": 0})]
247
+
248
+
249
+ def test_shipped_sidecars_match_the_parquet():
250
+ rows = _shipped_rows()
251
+ stats = ted.load(DATA / "ted_pl.stats.json")
252
+ assert stats["kept"] == len(rows) and stats["tokens"] == sum(row["token_count"] for row in rows)
253
+ assert stats["characters"] == sum(len(row["text"]) for row in rows)
254
+ attribution = {item["id"]: item for item in ted.read_lines(DATA / "ted_pl.attribution.jsonl")}
255
+ assert all(attribution[row["id"]]["text_sha256"] == ted.sha(row["text"].encode("utf-8")) for row in rows)
256
+ assert [item["id"] for item in ted.read_lines(DATA / "ted_pl.sample.jsonl")] == [row["id"] for row in ted.pick_samples(rows)]
257
+ qa = ted.load(DATA / "ted_pl.qa.json")
258
+ assert qa["license_gate"] == ted.LICENSE_GATE and qa["limitations"] == ted.LIMITATIONS
259
+ assert qa["pii_rebuild"]["tokens_after"] == stats["tokens"] and qa["pii_rebuild"]["documents"] == len(rows)