ted_pl: cite both licence bases, rescrub missed e-mails and phones (v0.2.6, v2#57)
#75
by ppuzio - opened
- artifacts/source_findings.md +42 -0
- artifacts/ted_pl_ontology_manifest.json +36 -21
- data/ted_pl/NOTICE.md +1 -0
- data/ted_pl/ted_pl.attribution.jsonl +1 -1
- data/ted_pl/ted_pl.license-evidence.json +147 -0
- data/ted_pl/ted_pl.md +135 -29
- data/ted_pl/ted_pl.parquet +2 -2
- data/ted_pl/ted_pl.qa.json +20 -5
- data/ted_pl/ted_pl.sample.jsonl +1 -1
- data/ted_pl/ted_pl.stats.json +2 -2
- src/build_ted_pl.py +180 -12
- src/sources.py +24 -6
- src/test_ted_pl_contract.py +259 -0
artifacts/source_findings.md
CHANGED
|
@@ -1847,3 +1847,45 @@ References: polish-dynaword-v2 #57, #54, #60; `rights_audit_2026-10/REVIEW.html`
|
|
| 1847 |
|
| 1848 |
**Lesson** — "contained in a released source" needs a size floor and a date check: a
|
| 1849 |
containment score of one stock sentence says nothing about reuse.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1847 |
|
| 1848 |
**Lesson** — "contained in a released source" needs a size floor and a date check: a
|
| 1849 |
containment score of one stock sentence says nothing about reuse.
|
| 1850 |
+
|
| 1851 |
+
## ted_pl: two licence bases cited, text rebuilt from the TED API with fixed PII patterns (2026-10-06)
|
| 1852 |
+
|
| 1853 |
+
Audit actions from slayerlabs/polish-dynaword-v2#57; stays `release: None` until the
|
| 1854 |
+
NERGAL pass (#60).
|
| 1855 |
+
|
| 1856 |
+
### Verified
|
| 1857 |
+
|
| 1858 |
+
- TED legal notice (read 2026-10-05, sha256 `c010943c01af22cf9cb30a32ca4044a3a1ee4e36a090e2dd2d8ee3d15a498997`):
|
| 1859 |
+
procurement notices "can be freely reused, for commercial or non-commercial purposes"
|
| 1860 |
+
unless otherwise noted. The CC BY 4.0 sentence covers SIMAP editorial content and the CC0
|
| 1861 |
+
sentence covers system metadata, not the notice text.
|
| 1862 |
+
- Decision 2011/833/EU is dated 12 December 2011 (the old datasheet said 21 December) and covers
|
| 1863 |
+
Commission documents (arts 1, 2(1)); it is not shown to license notices written by national authorities.
|
| 1864 |
+
- Full scan of 15,544 docs: 13 e-mails in 13 docs and 480 phone numbers had survived the old
|
| 1865 |
+
rules. Of 33 docs containing "@", 20 are not addresses. Fixed in `redact_pii`.
|
| 1866 |
+
- Rebuild: the 15,544 shipped notice ids were re-fetched from the TED Search API (XML
|
| 1867 |
+
fallback), 0 unresolved, raw bytes hash-identical to the original acquisition, no key, terms
|
| 1868 |
+
or throttling. `redact_pii` is applied once to the raw text (`build_ted_pl.py rebuild`, tests in
|
| 1869 |
+
`src/test_ted_pl_contract.py`); the earlier `rescrub` step is gone. Tokens 42,475,098
|
| 1870 |
+
(v0.2.5) to 42,471,550 (rescrub) to 42,473,050; `[Telefon]` 470 to 950 to 785 spans; `[PII]`
|
| 1871 |
+
1,080 to 1,093 to 1,093 spans.
|
| 1872 |
+
- 164 `[Telefon]` spans in 81 docs from the rescrub are restored (amounts, quantities, part
|
| 1873 |
+
numbers, a procurement code, a bank account); 10 read in context, 10 of 10 correct. A fresh
|
| 1874 |
+
sample of 12 `[Telefon]` spans: 11 phones, 1 part number.
|
| 1875 |
+
|
| 1876 |
+
### Not established
|
| 1877 |
+
|
| 1878 |
+
- Polish basis (Copyright Act art. 4 pkt 2, Open Data Act arts 2 pkt 8, 3, 5, 14, 15) is Inferred:
|
| 1879 |
+
art. 5 covers an entity's own BIP/system, TED is an EU system; about 20% of authors carry a
|
| 1880 |
+
company form and may not be "podmioty zobowiązane". No lawyer sign-off.
|
| 1881 |
+
- Personal names are not redacted (heuristic lower bound: 172 docs); NERGAL handles them.
|
| 1882 |
+
- Labelled PESEL/NIP/REGON are still replaced by `[PII]` for companies too (pattern unchanged
|
| 1883 |
+
since v0.2.5), so company identifiers did not come back. 242 raw matches (NIP in 66 docs,
|
| 1884 |
+
REGON in 38). One contractor looks like a natural person with a NIP next to the name
|
| 1885 |
+
(`ted_pl_167339-2024`), three more are partnerships with personal names; no author is a person.
|
| 1886 |
+
Bank accounts (1,111 docs) and KRS numbers are not redacted.
|
| 1887 |
+
- Dotted 3-3-3 part numbers are still read as phones (5 spans in 2 docs).
|
| 1888 |
+
|
| 1889 |
+
**Lesson:** a label-anchored phone regex with no number-shape guard turns amounts and part
|
| 1890 |
+
numbers into "phones"; check redactions for false positives, not only misses. Keep the raw
|
| 1891 |
+
download recipe runnable: a rescrub of already-redacted text cannot undo a false positive.
|
artifacts/ted_pl_ontology_manifest.json
CHANGED
|
@@ -19,8 +19,8 @@
|
|
| 19 |
"id": "claim:official-source",
|
| 20 |
"statement": "Every retained text is rebuilt from a checksum-addressed official TED Search API record or official XML fallback; mirror text is not training input.",
|
| 21 |
"supported_by": [
|
| 22 |
-
"evidence:checksums:
|
| 23 |
-
"evidence:qa:
|
| 24 |
]
|
| 25 |
},
|
| 26 |
{
|
|
@@ -28,34 +28,34 @@
|
|
| 28 |
"id": "claim:rights-qualified",
|
| 29 |
"statement": "TED's official legal notice permits commercial and non-commercial reuse of notices unless otherwise noted; exceptions are not claimed absent.",
|
| 30 |
"supported_by": [
|
| 31 |
-
"evidence:qa:
|
| 32 |
]
|
| 33 |
}
|
| 34 |
],
|
| 35 |
"evidence": [
|
| 36 |
{
|
| 37 |
-
"id": "evidence:checksums:
|
| 38 |
"observation_type": "checksums",
|
| 39 |
"payload": {
|
| 40 |
"NOTICE.md": "60af2d405b7be812321ee40413a8de07b8918727a3baf91a3efb6a6e56002523",
|
| 41 |
"README.md": "fd50a9f8139ef079d903e30eac14c8e19717d0bf7a7bf094b76cf72042f07ae0",
|
| 42 |
-
"artifacts/attribution.jsonl": "
|
| 43 |
"artifacts/decisions.jsonl": "d3e89a6f0eb33193cabc7ae33be603cd65df2673d40fed1251a333ab93dead58",
|
| 44 |
-
"artifacts/qa.json": "
|
| 45 |
"artifacts/run.json": "e2ad9ad14d29a5929f9180c16d559532d4b31d5afaf44cc237e4a6f00ac4ab77",
|
| 46 |
-
"artifacts/sample.jsonl": "
|
| 47 |
"artifacts/source_files.json": "cf810be2b4539f0c9e4ab2b98c779bb559f83e7b32fcab9de799cd28ac697c1f",
|
| 48 |
"artifacts/source_index.jsonl.gz": "fca83e9af2004c555070a53a555046845f424acdea0b973813295782e187ab8a",
|
| 49 |
-
"artifacts/stats.json": "
|
| 50 |
-
"data/train-00000-of-00001.parquet": "
|
| 51 |
-
"src/build_ted_pl.py": "
|
| 52 |
"src/requirements.txt": "c0df158dc054d8df8e514735f07e98dbd7d3359cba54440ae89f9df41b9a4332",
|
| 53 |
"src/test_ted_pl_contribution.py": "e4b2d19a67a9da344d128a427dec7bdc5a491b139f3fa469b99bb0d7fbb1c516"
|
| 54 |
},
|
| 55 |
"produced_by": "run:5060f76e9d8526a4bffb39aaa45c837c292381204907b9b439350e2aba7b68a8"
|
| 56 |
},
|
| 57 |
{
|
| 58 |
-
"id": "evidence:qa:
|
| 59 |
"observation_type": "qa",
|
| 60 |
"payload": {
|
| 61 |
"benchmark_overlap": "pending",
|
|
@@ -66,9 +66,11 @@
|
|
| 66 |
},
|
| 67 |
"cross_source_dedup": "pending target integration",
|
| 68 |
"exact_normalized_dedup": true,
|
| 69 |
-
"license_gate": "TED legal notice
|
| 70 |
"limitations": [
|
| 71 |
-
"
|
|
|
|
|
|
|
| 72 |
"third-party works and per-notice exceptions require review",
|
| 73 |
"source is institutional/legal-administrative and requires a deliberate mix cap",
|
| 74 |
"official records may contain repeated form language below the frequency threshold"
|
|
@@ -8482,9 +8484,22 @@
|
|
| 8482 |
},
|
| 8483 |
"official_sources_only": true,
|
| 8484 |
"pii_pattern_matches_replaced": {
|
| 8485 |
-
"email":
|
| 8486 |
-
"national_id":
|
| 8487 |
-
"phone":
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 8488 |
},
|
| 8489 |
"source_protocol": "official TED Search API narrative fields with official XML fallback",
|
| 8490 |
"structured_contacts_omitted": true
|
|
@@ -8522,17 +8537,17 @@
|
|
| 8522 |
"relations": [
|
| 8523 |
{
|
| 8524 |
"predicate": "DERIVED_FROM",
|
| 8525 |
-
"source": "version:dataset:
|
| 8526 |
"target": "version:source:f972b8e5bcf08d04724841b10d196810aab0d67ae9cee5422e29f91d130f9658"
|
| 8527 |
},
|
| 8528 |
{
|
| 8529 |
"predicate": "GENERATED_BY",
|
| 8530 |
-
"source": "version:dataset:
|
| 8531 |
"target": "run:08d36bcb01f2de7ab076205a77e3992bb64ac72620924755baa22fcf4c0f436d"
|
| 8532 |
},
|
| 8533 |
{
|
| 8534 |
"predicate": "VALIDATED_AGAINST",
|
| 8535 |
-
"source": "version:dataset:
|
| 8536 |
"target": "run:5060f76e9d8526a4bffb39aaa45c837c292381204907b9b439350e2aba7b68a8"
|
| 8537 |
}
|
| 8538 |
],
|
|
@@ -8581,8 +8596,8 @@
|
|
| 8581 |
"object": "object:source:ted"
|
| 8582 |
},
|
| 8583 |
{
|
| 8584 |
-
"content_address": "
|
| 8585 |
-
"id": "version:dataset:
|
| 8586 |
"object": "object:dataset:ted-pl"
|
| 8587 |
}
|
| 8588 |
]
|
|
|
|
| 19 |
"id": "claim:official-source",
|
| 20 |
"statement": "Every retained text is rebuilt from a checksum-addressed official TED Search API record or official XML fallback; mirror text is not training input.",
|
| 21 |
"supported_by": [
|
| 22 |
+
"evidence:checksums:7956ea69ea4226addb0dd3dac17a154accff97c6becb16239962933632f467cd",
|
| 23 |
+
"evidence:qa:8dfb0e4222a019981947f44ae2de5540464a6dca6e5637b7b8fca16f2a1bf5c2"
|
| 24 |
]
|
| 25 |
},
|
| 26 |
{
|
|
|
|
| 28 |
"id": "claim:rights-qualified",
|
| 29 |
"statement": "TED's official legal notice permits commercial and non-commercial reuse of notices unless otherwise noted; exceptions are not claimed absent.",
|
| 30 |
"supported_by": [
|
| 31 |
+
"evidence:qa:8dfb0e4222a019981947f44ae2de5540464a6dca6e5637b7b8fca16f2a1bf5c2"
|
| 32 |
]
|
| 33 |
}
|
| 34 |
],
|
| 35 |
"evidence": [
|
| 36 |
{
|
| 37 |
+
"id": "evidence:checksums:7956ea69ea4226addb0dd3dac17a154accff97c6becb16239962933632f467cd",
|
| 38 |
"observation_type": "checksums",
|
| 39 |
"payload": {
|
| 40 |
"NOTICE.md": "60af2d405b7be812321ee40413a8de07b8918727a3baf91a3efb6a6e56002523",
|
| 41 |
"README.md": "fd50a9f8139ef079d903e30eac14c8e19717d0bf7a7bf094b76cf72042f07ae0",
|
| 42 |
+
"artifacts/attribution.jsonl": "460bdc66c54e96d1c07b3143492099f4074e9f8de30e5e74849d5e4e2560f881",
|
| 43 |
"artifacts/decisions.jsonl": "d3e89a6f0eb33193cabc7ae33be603cd65df2673d40fed1251a333ab93dead58",
|
| 44 |
+
"artifacts/qa.json": "f26a53f1e16de4965777dd38df313f4a952f925072099b869c05c751b068a2f3",
|
| 45 |
"artifacts/run.json": "e2ad9ad14d29a5929f9180c16d559532d4b31d5afaf44cc237e4a6f00ac4ab77",
|
| 46 |
+
"artifacts/sample.jsonl": "aa770b2d76c1d721d0e85278bd797365cc96e097a701235e911e0454ddbe94ea",
|
| 47 |
"artifacts/source_files.json": "cf810be2b4539f0c9e4ab2b98c779bb559f83e7b32fcab9de799cd28ac697c1f",
|
| 48 |
"artifacts/source_index.jsonl.gz": "fca83e9af2004c555070a53a555046845f424acdea0b973813295782e187ab8a",
|
| 49 |
+
"artifacts/stats.json": "d1aacc9988f7f9765ebe5e51f78e58609aa313a921bc918575a95c06991e280c",
|
| 50 |
+
"data/train-00000-of-00001.parquet": "b3217a59ee7fbf7ce8899ba6d39eb5991fae2f9d68026f48bdd232b2cb49714a",
|
| 51 |
+
"src/build_ted_pl.py": "2fdebba30a540c42d3da786a79f63984eeb249a2b0ecacfcd13a65f2b17b12d9",
|
| 52 |
"src/requirements.txt": "c0df158dc054d8df8e514735f07e98dbd7d3359cba54440ae89f9df41b9a4332",
|
| 53 |
"src/test_ted_pl_contribution.py": "e4b2d19a67a9da344d128a427dec7bdc5a491b139f3fa469b99bb0d7fbb1c516"
|
| 54 |
},
|
| 55 |
"produced_by": "run:5060f76e9d8526a4bffb39aaa45c837c292381204907b9b439350e2aba7b68a8"
|
| 56 |
},
|
| 57 |
{
|
| 58 |
+
"id": "evidence:qa:8dfb0e4222a019981947f44ae2de5540464a6dca6e5637b7b8fca16f2a1bf5c2",
|
| 59 |
"observation_type": "qa",
|
| 60 |
"payload": {
|
| 61 |
"benchmark_overlap": "pending",
|
|
|
|
| 66 |
},
|
| 67 |
"cross_source_dedup": "pending target integration",
|
| 68 |
"exact_normalized_dedup": true,
|
| 69 |
+
"license_gate": "two bases, both needed: (1) TED legal notice / Publications Office reuse terms, https://ted.europa.eu/en/legal-notice; (2) for notices drafted by Polish contracting authorities, the Polish public-body basis (Copyright Act art. 4 pt 2; Open Data Act, Dz.U. 2023 poz. 1524, arts 2, 3, 5, 6); exceptions for third-party works and identifiable private individuals remain reviewable per notice; see ted_pl.license-evidence.json",
|
| 70 |
"limitations": [
|
| 71 |
+
"personal names of contact persons in free text are not de-identified here; the SlayerLab/NERGAL pass must run before release",
|
| 72 |
+
"pattern redaction only: some unlabelled phone numbers, IBAN account numbers and role mailboxes with a missing domain can remain",
|
| 73 |
+
"labelled PESEL/NIP/REGON numbers are redacted whether they belong to a person or a company; identifiers without such a label (KRS numbers, bank accounts) stay in the text, including any printed next to a sole trader's name",
|
| 74 |
"third-party works and per-notice exceptions require review",
|
| 75 |
"source is institutional/legal-administrative and requires a deliberate mix cap",
|
| 76 |
"official records may contain repeated form language below the frequency threshold"
|
|
|
|
| 8484 |
},
|
| 8485 |
"official_sources_only": true,
|
| 8486 |
"pii_pattern_matches_replaced": {
|
| 8487 |
+
"email": 1832,
|
| 8488 |
+
"national_id": 242,
|
| 8489 |
+
"phone": 2441
|
| 8490 |
+
},
|
| 8491 |
+
"pii_rebuild": {
|
| 8492 |
+
"boilerplate_chunks_removed": 1,
|
| 8493 |
+
"boilerplate_threshold_documents": 155,
|
| 8494 |
+
"documents": 15544,
|
| 8495 |
+
"note": "text rebuilt from the raw TED API/XML of the shipped notices with redact_pii applied once; pii_pattern_matches_replaced now counts these documents, the previous counters covered the original 20,588-notice build",
|
| 8496 |
+
"previous_pii_pattern_matches_replaced": {
|
| 8497 |
+
"email": 2433,
|
| 8498 |
+
"national_id": 366,
|
| 8499 |
+
"phone": 2128
|
| 8500 |
+
},
|
| 8501 |
+
"tokens_after": 42473050,
|
| 8502 |
+
"tokens_before": 42471550
|
| 8503 |
},
|
| 8504 |
"source_protocol": "official TED Search API narrative fields with official XML fallback",
|
| 8505 |
"structured_contacts_omitted": true
|
|
|
|
| 8537 |
"relations": [
|
| 8538 |
{
|
| 8539 |
"predicate": "DERIVED_FROM",
|
| 8540 |
+
"source": "version:dataset:7956ea69ea4226addb0dd3dac17a154accff97c6becb16239962933632f467cd",
|
| 8541 |
"target": "version:source:f972b8e5bcf08d04724841b10d196810aab0d67ae9cee5422e29f91d130f9658"
|
| 8542 |
},
|
| 8543 |
{
|
| 8544 |
"predicate": "GENERATED_BY",
|
| 8545 |
+
"source": "version:dataset:7956ea69ea4226addb0dd3dac17a154accff97c6becb16239962933632f467cd",
|
| 8546 |
"target": "run:08d36bcb01f2de7ab076205a77e3992bb64ac72620924755baa22fcf4c0f436d"
|
| 8547 |
},
|
| 8548 |
{
|
| 8549 |
"predicate": "VALIDATED_AGAINST",
|
| 8550 |
+
"source": "version:dataset:7956ea69ea4226addb0dd3dac17a154accff97c6becb16239962933632f467cd",
|
| 8551 |
"target": "run:5060f76e9d8526a4bffb39aaa45c837c292381204907b9b439350e2aba7b68a8"
|
| 8552 |
}
|
| 8553 |
],
|
|
|
|
| 8596 |
"object": "object:source:ted"
|
| 8597 |
},
|
| 8598 |
{
|
| 8599 |
+
"content_address": "7956ea69ea4226addb0dd3dac17a154accff97c6becb16239962933632f467cd",
|
| 8600 |
+
"id": "version:dataset:7956ea69ea4226addb0dd3dac17a154accff97c6becb16239962933632f467cd",
|
| 8601 |
"object": "object:dataset:ted-pl"
|
| 8602 |
}
|
| 8603 |
]
|
data/ted_pl/NOTICE.md
CHANGED
|
@@ -2,6 +2,7 @@
|
|
| 2 |
|
| 3 |
Source notice text: https://ted.europa.eu/
|
| 4 |
Official reuse terms: https://ted.europa.eu/en/legal-notice
|
|
|
|
| 5 |
|
| 6 |
Unless otherwise noted, procurement notices in the Supplement to the Official Journal of the European Union may be freely reused for commercial or non-commercial purposes. The same legal notice identifies exceptions for third-party works and identifiable private individuals. TED metadata is CC0; this does not silently relabel the notice text as CC0.
|
| 7 |
|
|
|
|
| 2 |
|
| 3 |
Source notice text: https://ted.europa.eu/
|
| 4 |
Official reuse terms: https://ted.europa.eu/en/legal-notice
|
| 5 |
+
Polish public-body basis for notices drafted by Polish contracting authorities (inferred, not lawyer-signed-off): Copyright Act art. 4 pkt 2 (Dz.U. 2025 poz. 24, https://api.sejm.gov.pl/eli/acts/DU/2025/24/text.pdf) and Open Data Act (Dz.U. 2023 poz. 1524, https://api.sejm.gov.pl/eli/acts/DU/2023/1524/text.pdf). Clauses, retrieval dates and hashes: ted_pl.license-evidence.json.
|
| 6 |
|
| 7 |
Unless otherwise noted, procurement notices in the Supplement to the Official Journal of the European Union may be freely reused for commercial or non-commercial purposes. The same legal notice identifies exceptions for third-party works and identifiable private individuals. TED metadata is CC0; this does not silently relabel the notice text as CC0.
|
| 8 |
|
data/ted_pl/ted_pl.attribution.jsonl
CHANGED
|
@@ -1,3 +1,3 @@
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
-
oid sha256:
|
| 3 |
size 17223335
|
|
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:460bdc66c54e96d1c07b3143492099f4074e9f8de30e5e74849d5e4e2560f881
|
| 3 |
size 17223335
|
data/ted_pl/ted_pl.license-evidence.json
ADDED
|
@@ -0,0 +1,147 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"source": "ted_pl",
|
| 3 |
+
"checked_at": "2026-10-05T23:38:00Z",
|
| 4 |
+
"second_read_at": "2026-10-06T00:19:00Z",
|
| 5 |
+
"license": "TED notice reuse terms",
|
| 6 |
+
"license_spdx": "LicenseRef-TED-Notice-Reuse",
|
| 7 |
+
"status": "held-for-review-two-bases-recorded",
|
| 8 |
+
"review_scope": "Licence basis and PII pattern scan of the shipped 15,544 documents. Source stays release: None until the NERGAL pass (slayerlabs/polish-dynaword-v2#60). Method: .agents/skills/source-rights-review. V = read on the page on the retrieval date; I = inferred, not verified, not lawyer-signed-off.",
|
| 9 |
+
"finding": "Two independent bases, recorded separately. (1) EU: the TED legal notice states that procurement notices in the Supplement to the OJEU can be freely reused for commercial or non-commercial purposes unless otherwise noted (V). (2) PL: notices drafted by Polish contracting authorities fall under the official-documents carve-out of the Copyright Act (art. 4 pkt 2) and, for obliged public bodies, the Open Data Act (I). The PL basis is an inference; it is not relied on alone and has open points listed in not_checked.",
|
| 10 |
+
"basis_eu": {
|
| 11 |
+
"mark": "V",
|
| 12 |
+
"title": "TED legal notice (Publications Office / SIMAP)",
|
| 13 |
+
"url": "https://ted.europa.eu/en/legal-notice",
|
| 14 |
+
"retrieved": "2026-10-05",
|
| 15 |
+
"sha256_of_page_as_read": "c010943c01af22cf9cb30a32ca4044a3a1ee4e36a090e2dd2d8ee3d15a498997",
|
| 16 |
+
"sha256_of_extracted_text": "3201466836f8944d5979597f287fcf7ef70e9b80ea050f5151530ba196348ea4",
|
| 17 |
+
"note_on_hash": "The page is served dynamically. A second read on 2026-10-06 returned a different byte hash (030baad8f212a73f2adef9e6960b494b52c768762150af871365689f4d234ee8) and still contained every quote below.",
|
| 18 |
+
"clause_relied_on": "reuse sentence for procurement notices",
|
| 19 |
+
"quotes": {
|
| 20 |
+
"reuse_policy_and_notice_grant": "The European Commission's reuse policy is implemented by the Commission Decision of 12 December 2011 on the reuse of Commission documents. Unless otherwise noted, the procurement notices published in the Supplement to the Official Journal of the European Union can be freely reused, for commercial or non-commercial purposes.",
|
| 21 |
+
"editorial_content_cc_by_4_0": "The copyright over the editorial content of the SIMAP websites (TED, TED eNotices2, TED Developer Docs and TED Developer Portal) is licensed under the Creative Commons Attribution 4.0 International (CC BY 4.0) license. This means that reuse is allowed provided appropriate credit is given and any changes made are indicated.",
|
| 22 |
+
"third_party_and_individuals": "You may be required to clear additional rights if specific content depicts identifiable private individuals or includes third-party works. To use or reproduce content that is not owned by the EU, you may need to seek permission directly from the rightholders.",
|
| 23 |
+
"metadata_cc0": "The SIMAP's system metadata is dedicated to the public domain in accordance with the Creative Commons Universal Public Domain Dedication deed (CC0 1.0).",
|
| 24 |
+
"disclaimer": "Only public tenders notices electronically signed published in the Supplement ... are authentic."
|
| 25 |
+
},
|
| 26 |
+
"reading": "The notice-text grant is the 'unless otherwise noted ... can be freely reused' sentence. The CC BY 4.0 sentence covers SIMAP editorial content, not necessarily notice text, and the CC0 sentence covers system metadata; the dataset therefore keeps LicenseRef-TED-Notice-Reuse and does not relabel the text CC0 or CC BY (I).",
|
| 27 |
+
"decision_2011_833": {
|
| 28 |
+
"title": "Commission Decision 2011/833/EU of 12 December 2011 on the reuse of Commission documents",
|
| 29 |
+
"url": "https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:32011D0833",
|
| 30 |
+
"retrieved": "2026-10-05",
|
| 31 |
+
"sha256_of_page_as_read": "2f1e7b602f21e286dfc576cc9f1387878e1099f9b2c7dcca5777fcbed611e1ed",
|
| 32 |
+
"sha256_of_extracted_text": "a87a13e55346c111bb7f267d85651e31ba0f6c2c1b2045308a2d40b68f9e8679",
|
| 33 |
+
"article_1": "This Decision determines the conditions for the reuse of documents held by the Commission or on its behalf by the Publications Office of the European Union (the Publications Office) ...",
|
| 34 |
+
"article_2_1": "This Decision applies to public documents produced by the Commission or by public and private entities on its behalf: (a) which have been published by the Commission or by the Publications Office on its behalf through publications, websites or dissemination tools; ...",
|
| 35 |
+
"article_2_2_b": "This Decision shall not apply: ... (b) to documents for which the Commission is not in a position to allow their reuse in view of intellectual property rights of third parties; ...",
|
| 36 |
+
"caveat": "The Decision covers Commission documents. The TED notice names it as the Commission's reuse policy; it is not shown to be the legal instrument that licenses notices drafted by national contracting authorities (I). The previous datasheet dated it 21 December 2011 and called it 'the legal instrument behind that grant'; both statements are corrected."
|
| 37 |
+
}
|
| 38 |
+
},
|
| 39 |
+
"basis_pl": {
|
| 40 |
+
"mark": "I",
|
| 41 |
+
"applies_to": "notices drafted by Polish contracting authorities (author field of the record names the authority)",
|
| 42 |
+
"copyright_act": {
|
| 43 |
+
"title": "Ustawa o prawie autorskim i prawach pokrewnych, tekst jednolity, Dz.U. 2025 poz. 24",
|
| 44 |
+
"url": "https://api.sejm.gov.pl/eli/acts/DU/2025/24/text.pdf",
|
| 45 |
+
"retrieved": "2026-10-05",
|
| 46 |
+
"sha256_of_file_as_read": "1c2e9a082a66fad6e26bba1d4d01a22bd67871657416729cea62b4b9f71cff86",
|
| 47 |
+
"sha256_of_extracted_text": "5202a7955c5c5e17b5e162cf1947fcfc1e44d46b7efc48ac7a4f4310cd4a746c",
|
| 48 |
+
"clause_relied_on": "art. 4 pkt 2",
|
| 49 |
+
"quote": "Art. 4. Nie stanowią przedmiotu prawa autorskiego: ... 2) urzędowe dokumenty, materiały, znaki i symbole;",
|
| 50 |
+
"caveat": "Whether a tender notice is an 'urzędowy dokument' in this sense is a reading, not a settled point; the carve-out is also territorial (it is Polish law)."
|
| 51 |
+
},
|
| 52 |
+
"open_data_act": {
|
| 53 |
+
"title": "Ustawa o otwartych danych i ponownym wykorzystywaniu informacji sektora publicznego, tekst jednolity, Dz.U. 2023 poz. 1524",
|
| 54 |
+
"url": "https://api.sejm.gov.pl/eli/acts/DU/2023/1524/text.pdf",
|
| 55 |
+
"retrieved": "2026-10-05",
|
| 56 |
+
"sha256_of_file_as_read": "54820a69c1b4e470cb372a22249558241bc68058ce447abbddfba1c61dd88f05",
|
| 57 |
+
"sha256_of_extracted_text": "c7e1a06d84d4d10b8e9ca5d810824eb8ec1fed1b68417c089f0cd2bc2b447fd7",
|
| 58 |
+
"clauses_relied_on": [
|
| 59 |
+
"art. 2 pkt 8",
|
| 60 |
+
"art. 3",
|
| 61 |
+
"art. 5 pkt 1",
|
| 62 |
+
"art. 6 ust. 2",
|
| 63 |
+
"art. 14 ust. 1",
|
| 64 |
+
"art. 15"
|
| 65 |
+
],
|
| 66 |
+
"quotes": {
|
| 67 |
+
"art_2_pkt_8": "informacja sektora publicznego – każdą treść lub jej część, niezależnie od sposobu utrwalenia, w szczególności w postaci papierowej, elektronicznej, dźwiękowej, wizualnej lub audiowizualnej, będącą w posiadaniu podmiotu zobowiązanego;",
|
| 68 |
+
"art_3_pkt_1": "Podmiotami zobowiązanymi do udostępniania lub przekazywania informacji sektora publicznego w celu ponownego wykorzystywania, zwanymi dalej „podmiotami zobowiązanymi”, są: 1) jednostki sektora finansów publicznych ...",
|
| 69 |
+
"art_5_pkt_1": "Każdemu przysługuje prawo do ponownego wykorzystywania informacji sektora publicznego: 1) udostępnianych w Biuletynie Informacji Publicznej podmiotu zobowiązanego lub w portalu danych, lub w innym systemie teleinformatycznym podmiotu zobowiązanego;",
|
| 70 |
+
"art_6_ust_2": "Prawo do ponownego wykorzystywania podlega ograniczeniu ze względu na tajemnicę przedsiębiorstwa lub prywatność osoby fizycznej, w tym ochronę danych osobowych. ...",
|
| 71 |
+
"art_14_ust_1": "Informacje sektora publicznego udostępnia się lub przekazuje w celu ponownego wykorzystywania bezwarunkowo, z wyjątkiem przypadków określonych w ustawie.",
|
| 72 |
+
"art_15_ust_1_pkt_1": "Podmiot zobowiązany może określić warunki ponownego wykorzystywania: 1) dotyczące obowiązku poinformowania o źródle, czasie wytworzenia i pozyskania informacji sektora publicznego od podmiotu zobowiązanego ..."
|
| 73 |
+
},
|
| 74 |
+
"caveat": "Art. 5 pkt 1 speaks of information in the obliged entity's own BIP or system; TED is an EU system (I). Art. 6 ust. 2 limits reuse for the privacy of natural persons, which is why contact data are pattern-redacted and names are left to NERGAL."
|
| 75 |
+
}
|
| 76 |
+
},
|
| 77 |
+
"also_read_not_relied_on": [
|
| 78 |
+
{
|
| 79 |
+
"url": "https://api.sejm.gov.pl/eli/acts/DU/2026/793/text.pdf",
|
| 80 |
+
"what": "Prawo zamowien publicznych, tekst jednolity (Dz.U. 2026 poz. 793)",
|
| 81 |
+
"sha256_of_file_as_read": "0733d4f45dd255be40abeb96d77a1460e5800d0228a4f685a505bb1f62994237",
|
| 82 |
+
"why": "Read to check whether the Act itself states a reuse rule for notices; no clause was cited from it."
|
| 83 |
+
}
|
| 84 |
+
],
|
| 85 |
+
"unusable_captures": [
|
| 86 |
+
"https://eli.gov.pl/api/acts/DU/2025/24/text.html returned an empty body (sha256 e3b0c442...); https://op.europa.eu/en/web/about-us/legal-notices/eu-publications-office-copyright returned 404. Neither is cited."
|
| 87 |
+
],
|
| 88 |
+
"chain_of_title": [
|
| 89 |
+
{
|
| 90 |
+
"hop": "contracting authority (author field)",
|
| 91 |
+
"statement": "notice text is drafted by the authority and sent to TED",
|
| 92 |
+
"mark": "I"
|
| 93 |
+
},
|
| 94 |
+
{
|
| 95 |
+
"hop": "Publications Office TED (Search API / XML)",
|
| 96 |
+
"statement": "TED legal notice reuse sentence (basis_eu)",
|
| 97 |
+
"mark": "V"
|
| 98 |
+
},
|
| 99 |
+
{
|
| 100 |
+
"hop": "PleIAs/TEDEUTenders mirror at revision 2752d9d6f7628387583eac2435caa11edb36b9c1",
|
| 101 |
+
"statement": "identifier index only, no text taken",
|
| 102 |
+
"mark": "V"
|
| 103 |
+
},
|
| 104 |
+
{
|
| 105 |
+
"hop": "PiotrSty/ted-polish-procurement-notices snapshot",
|
| 106 |
+
"statement": "pinned snapshot, text rebuilt from official TED fields",
|
| 107 |
+
"mark": "V"
|
| 108 |
+
}
|
| 109 |
+
],
|
| 110 |
+
"pii_scan_2026_10": {
|
| 111 |
+
"scanned_documents": 15544,
|
| 112 |
+
"method": "the shipped notices were re-fetched by id from the official TED Search API/XML and rebuilt with redact_pii of src/build_ted_pl.py applied once (command: rebuild); tests: src/test_ted_pl_contract.py",
|
| 113 |
+
"raw_notice_hashes_identical_to_original_acquisition": true,
|
| 114 |
+
"pattern_matches_replaced_in_rebuild": {
|
| 115 |
+
"email": 1832,
|
| 116 |
+
"national_id": 242,
|
| 117 |
+
"phone": 2441
|
| 118 |
+
},
|
| 119 |
+
"documents_containing_at_sign": 20,
|
| 120 |
+
"spans_before_after_vs_rescrub_1ceac95": {
|
| 121 |
+
"[Telefon]": "950 -> 785",
|
| 122 |
+
"[PII]": "1093 -> 1093"
|
| 123 |
+
},
|
| 124 |
+
"restored_false_positive_spans": "164 spans in 81 documents (amounts, quantities, part and catalogue numbers, a procurement code, a bank account)",
|
| 125 |
+
"hand_check": "10 restored spans read in context, 10 of 10 correct; a fresh sample of 12 [Telefon] spans holds 11 phones and 1 part number",
|
| 126 |
+
"labelled_national_ids_in_raw": "242 matches (NIP in 66 documents, REGON in 38, PESEL in none); still replaced by [PII] whether person or company",
|
| 127 |
+
"sole_traders": "1 contractor looks like a natural person with a NIP next to the name (ted_pl_167339-2024); 3 more are partnerships with personal names; no author is a natural person; the identifiers stay [PII]",
|
| 128 |
+
"personal_full_names": "not redacted; heuristic lower bound 172 documents (116 by nominative given name + surname from a 108-name list, 60 by honorific + two capitalised words, 4 overlap). Left to the NERGAL pass.",
|
| 129 |
+
"company_authors_heuristic": "3110 of 15544 documents have an author with a company form (sp. z o.o., S.A., spolka)"
|
| 130 |
+
},
|
| 131 |
+
"limitations": [
|
| 132 |
+
"privacy of natural persons (names of contact persons) and per-notice third-party works are not cleared",
|
| 133 |
+
"no upstream CC grant is asserted for notice text",
|
| 134 |
+
"labelled PESEL/NIP/REGON are replaced by [PII] whether they belong to a person or a company; identifiers without such a label (KRS numbers, bank accounts) stay in the text, including any printed next to a sole trader's name",
|
| 135 |
+
"dotted 3-3-3 part numbers are still read as phones (5 spans in 2 documents); phones without a label and without spaces, helpline numbers shorter than 7 digits and role mailboxes with a missing domain remain"
|
| 136 |
+
],
|
| 137 |
+
"not_checked": [
|
| 138 |
+
"per-notice third-party works and identifiable-individual exceptions beyond the 60-record spot check of v0.2.5",
|
| 139 |
+
"whether Open Data Act art. 5 reaches information that the contracting authority published on TED rather than in its own BIP/system",
|
| 140 |
+
"whether each company contracting authority is a 'podmiot zobowiazany' under art. 3",
|
| 141 |
+
"whether the 'urzedowe dokumenty' carve-out of Copyright Act art. 4 pkt 2 covers a tender notice",
|
| 142 |
+
"equivalence between TED notice content and the same content on the national BZP platform",
|
| 143 |
+
"lawyer sign-off on either basis",
|
| 144 |
+
"personal names (NERGAL pass, v2#60)",
|
| 145 |
+
"the raw TED downloads are kept only in the working directory of the rebuild, not in the repository"
|
| 146 |
+
]
|
| 147 |
+
}
|
data/ted_pl/ted_pl.md
CHANGED
|
@@ -20,7 +20,7 @@ Polish narrative text rebuilt from official TED procurement-notice records.
|
|
| 20 |
- Search API records: 20,588
|
| 21 |
- XML fallbacks: 1,255
|
| 22 |
- Retained documents: 15,544
|
| 23 |
-
- Tokens: 42,
|
| 24 |
- Dates: 2023-02-15 to 2024-05-15
|
| 25 |
- Contracting-authority attribution: 100.0%
|
| 26 |
|
|
@@ -30,15 +30,53 @@ See `NOTICE.md` and `artifacts/` for the source index, attribution, selection de
|
|
| 30 |
|
| 31 |
## License basis
|
| 32 |
|
| 33 |
-
|
| 34 |
-
|
| 35 |
-
|
| 36 |
-
|
| 37 |
-
|
| 38 |
-
|
| 39 |
-
|
| 40 |
-
|
| 41 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 42 |
|
| 43 |
## What the texts are
|
| 44 |
|
|
@@ -63,7 +101,9 @@ All steps in `src/build_ted_pl.py` against the pinned acquisition:
|
|
| 63 |
`Company`, `PartyName`, `PostalAddress`, `Contact`, `PartyLegalEntity`,
|
| 64 |
`Person` blocks are excluded by construction.
|
| 65 |
- Boilerplate: chunks whose normalized form occurs in >= max(100, 1% of
|
| 66 |
-
documents) are dropped
|
|
|
|
|
|
|
| 67 |
- Gates: contracting authority present; text >= 300 characters after cleaning;
|
| 68 |
langid Polish (7-language set pl/en/de/cs/sk/uk/ru on the first 20,000 chars,
|
| 69 |
rejection at confidence >= 0.98); exact dedup on normalized text; near dedup
|
|
@@ -78,26 +118,92 @@ All steps in `src/build_ted_pl.py` against the pinned acquisition:
|
|
| 78 |
Scrubber that ran: **pattern redaction in `src/build_ted_pl.py`** - e-mail ->
|
| 79 |
`[PII]`, phone -> `[Telefon]`, labelled PESEL/NIP/REGON -> `[PII]`. This is
|
| 80 |
**not** [SlayerLab/NERGAL](https://huggingface.co/SlayerLab/NERGAL); the shard
|
| 81 |
-
must be re-run through NERGAL before it is admitted to a release. Merge
|
| 82 |
-
`release: None` is fine meanwhile.
|
| 83 |
-
|
| 84 |
-
|
| 85 |
-
|
| 86 |
-
|
| 87 |
-
|
| 88 |
-
|
| 89 |
-
|
| 90 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 91 |
|
| 92 |
## Legal-exception and name review (scoped)
|
| 93 |
|
| 94 |
-
|
| 95 |
-
|
| 96 |
-
|
| 97 |
-
|
| 98 |
-
|
| 99 |
-
|
| 100 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 101 |
|
| 102 |
## Overlap with uzp_orzeczenia_pl and inclusion argument
|
| 103 |
|
|
@@ -113,4 +219,4 @@ lifecycle; ordinary cross-source dedup at integration is enough.
|
|
| 113 |
|
| 114 |
## Limitations
|
| 115 |
|
| 116 |
-
Free-text personal names are not
|
|
|
|
| 20 |
- Search API records: 20,588
|
| 21 |
- XML fallbacks: 1,255
|
| 22 |
- Retained documents: 15,544
|
| 23 |
+
- Tokens: 42,473,050 (`cl100k_base` proxy)
|
| 24 |
- Dates: 2023-02-15 to 2024-05-15
|
| 25 |
- Contracting-authority attribution: 100.0%
|
| 26 |
|
|
|
|
| 30 |
|
| 31 |
## License basis
|
| 32 |
|
| 33 |
+
Two bases, recorded separately. Neither is signed off by a lawyer. Clause text,
|
| 34 |
+
URLs, retrieval dates and page hashes are in `ted_pl.license-evidence.json`
|
| 35 |
+
(slayerlabs/polish-dynaword-v2#57).
|
| 36 |
+
|
| 37 |
+
**1. EU: TED legal notice** (<https://ted.europa.eu/en/legal-notice>, read
|
| 38 |
+
2026-10-05, sha256 of the page as read `c010943c01af22cf9cb30a32ca4044a3a1ee4e36a090e2dd2d8ee3d15a498997`).
|
| 39 |
+
Clause relied on: "Unless otherwise noted, the procurement notices published in
|
| 40 |
+
the Supplement to the Official Journal of the European Union can be freely
|
| 41 |
+
reused, for commercial or non-commercial purposes." The notice names
|
| 42 |
+
**Commission Decision 2011/833/EU of 12 December 2011 on the reuse of
|
| 43 |
+
Commission documents** as the Commission's reuse policy
|
| 44 |
+
(<https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:32011D0833>, read
|
| 45 |
+
2026-10-05, sha256 `2f1e7b602f21e286dfc576cc9f1387878e1099f9b2c7dcca5777fcbed611e1ed`).
|
| 46 |
+
The Decision covers Commission documents (arts 1 and 2(1)); it is not shown to
|
| 47 |
+
license notices drafted by national contracting authorities. The notice's CC BY
|
| 48 |
+
4.0 sentence covers SIMAP editorial content and its CC0 sentence covers system
|
| 49 |
+
metadata; neither is the grant for notice text, so the text is recorded as
|
| 50 |
+
`LicenseRef-TED-Notice-Reuse` and not relabelled CC0 or CC BY. The notice also
|
| 51 |
+
says that identifiable private individuals and third-party works may need
|
| 52 |
+
additional clearance.
|
| 53 |
+
|
| 54 |
+
**2. PL: notices drafted by Polish contracting authorities** (inferred, not
|
| 55 |
+
verified against a ruling or an authority's statement):
|
| 56 |
+
|
| 57 |
+
- Ustawa o prawie autorskim, Dz.U. 2025 poz. 24
|
| 58 |
+
(<https://api.sejm.gov.pl/eli/acts/DU/2025/24/text.pdf>, read 2026-10-05, sha256
|
| 59 |
+
`1c2e9a082a66fad6e26bba1d4d01a22bd67871657416729cea62b4b9f71cff86`), art. 4
|
| 60 |
+
pkt 2: "Nie stanowią przedmiotu prawa autorskiego: ... 2) urzędowe dokumenty,
|
| 61 |
+
materiały, znaki i symbole".
|
| 62 |
+
- Ustawa o otwartych danych i ponownym wykorzystywaniu informacji sektora
|
| 63 |
+
publicznego, Dz.U. 2023 poz. 1524
|
| 64 |
+
(<https://api.sejm.gov.pl/eli/acts/DU/2023/1524/text.pdf>, read 2026-10-05, sha256
|
| 65 |
+
`54820a69c1b4e470cb372a22249558241bc68058ce447abbddfba1c61dd88f05`), art. 2
|
| 66 |
+
pkt 8 (public-sector information), art. 3 (obliged entities), art. 14 ust. 1
|
| 67 |
+
(reuse "bezwarunkowo, z wyjątkiem przypadków określonych w ustawie"), art. 15
|
| 68 |
+
(conditions the entity may set). Art. 6 ust. 2 limits reuse for the privacy of
|
| 69 |
+
natural persons, including personal data.
|
| 70 |
+
|
| 71 |
+
Open points: art. 5 pkt 1 of the Open Data Act speaks of information in the
|
| 72 |
+
obliged entity's own BIP or system, whereas TED is an EU system; about 20% of
|
| 73 |
+
documents (3,110 of 15,544, heuristic on the `author` field) have an author with
|
| 74 |
+
a company form, and not every company is a "podmiot zobowiązany" under art. 3;
|
| 75 |
+
treating a tender notice as an "urzędowy dokument" is a reading, not a settled
|
| 76 |
+
point. An earlier version of this section dated the Decision 21 December 2011
|
| 77 |
+
and called it "the legal instrument behind that grant"; both statements were
|
| 78 |
+
wrong and are removed. Exceptions to the grant (third-party works, identifiable
|
| 79 |
+
private individuals) are handled in "Legal-exception and name review" below.
|
| 80 |
|
| 81 |
## What the texts are
|
| 82 |
|
|
|
|
| 101 |
`Company`, `PartyName`, `PostalAddress`, `Contact`, `PartyLegalEntity`,
|
| 102 |
`Person` blocks are excluded by construction.
|
| 103 |
- Boilerplate: chunks whose normalized form occurs in >= max(100, 1% of
|
| 104 |
+
documents) are dropped (one chunk, "Zamawiający nie stawia szczególnych
|
| 105 |
+
wymagań ..."; the v0.2.6 rebuild over 15,544 documents uses a threshold of 155
|
| 106 |
+
documents instead of 205 and removes the same chunk).
|
| 107 |
- Gates: contracting authority present; text >= 300 characters after cleaning;
|
| 108 |
langid Polish (7-language set pl/en/de/cs/sk/uk/ru on the first 20,000 chars,
|
| 109 |
rejection at confidence >= 0.98); exact dedup on normalized text; near dedup
|
|
|
|
| 118 |
Scrubber that ran: **pattern redaction in `src/build_ted_pl.py`** - e-mail ->
|
| 119 |
`[PII]`, phone -> `[Telefon]`, labelled PESEL/NIP/REGON -> `[PII]`. This is
|
| 120 |
**not** [SlayerLab/NERGAL](https://huggingface.co/SlayerLab/NERGAL); the shard
|
| 121 |
+
must be re-run through NERGAL before it is admitted to a release (v2#60). Merge
|
| 122 |
+
with `release: None` is fine meanwhile.
|
| 123 |
+
|
| 124 |
+
**v0.2.6 rebuild.** The text was rebuilt from the official TED records, not
|
| 125 |
+
patched: `python src/build_ted_pl.py --output <work dir> --data data/ted_pl
|
| 126 |
+
rebuild` re-fetches exactly the 15,544 shipped notice ids (Search API in batches
|
| 127 |
+
of 100, official XML where the API has no narrative), applies `redact_pii` once to
|
| 128 |
+
the raw text and installs the Parquet, attribution hashes, sample, stats and QA
|
| 129 |
+
sidecars (tests: `src/test_ted_pl_contract.py`). The raw downloads are not
|
| 130 |
+
committed. All 15,544 notices resolved, their raw bytes hash identically to the
|
| 131 |
+
original acquisition, and no API key, terms prompt or rate limit was met. The
|
| 132 |
+
document set and order are unchanged; nothing was added, dropped or re-deduplicated.
|
| 133 |
+
An intermediate v0.2.6 rescrub of the shipped text (commit `1ceac95`) was replaced
|
| 134 |
+
by this rebuild and its code removed; the extended e-mail and phone patterns it
|
| 135 |
+
introduced are the ones applied now. Phone labels ("Tel.:", "telefon") stay in the
|
| 136 |
+
text and only the number is replaced.
|
| 137 |
+
|
| 138 |
+
| | v0.2.5 build | rescrub (`1ceac95`) | rebuild |
|
| 139 |
+
|---|---|---|---|
|
| 140 |
+
| Documents | 15,544 | 15,544 | 15,544 |
|
| 141 |
+
| Characters | 112,883,460 | 112,878,041 | 112,881,592 |
|
| 142 |
+
| Tokens | 42,475,098 | 42,471,550 | 42,473,050 |
|
| 143 |
+
| `[Telefon]` spans / documents | 470 / 237 | 950 / 483 | 785 / 408 |
|
| 144 |
+
| `[PII]` spans / documents | 1,080 / 703 | 1,093 / 714 | 1,093 / 714 |
|
| 145 |
+
|
| 146 |
+
Against the rescrub, 164 `[Telefon]` spans in 81 documents are restored: the old
|
| 147 |
+
phone rule had replaced money amounts, quantities, part and catalogue numbers, one
|
| 148 |
+
procurement code and one bank account. `[PII]` does not change because labelled
|
| 149 |
+
PESEL/NIP/REGON are still replaced (see below). A further 295 documents differ
|
| 150 |
+
only because the phone label is now kept. One bare "Tel.:" line (ted_pl_663681-2023) is
|
| 151 |
+
now dropped as a chunk shorter than 20 characters after redaction.
|
| 152 |
+
|
| 153 |
+
**Hand-check of redactions** (false positives). Ten restored spans were read in
|
| 154 |
+
context. All ten are correct restorations and none identifies a person: amounts
|
| 155 |
+
("w kwocie 199 998 723,10 zł", ted_pl_96037-2024; "520.000.000,00 złotych",
|
| 156 |
+
ted_pl_244198-2024; "150.000.000,00 zł", ted_pl_251403-2024; "200 000 000,00 PLN",
|
| 157 |
+
ted_pl_679171-2023), a quantity ("230 000 000 j. m.", ted_pl_141676-2024), part and
|
| 158 |
+
catalogue numbers ("rys. nr 20.008.150.002", ted_pl_131542-2024; "150-022-002",
|
| 159 |
+
ted_pl_236159-2024; "NR KAT. 433.302.002.0", ted_pl_232043-2024), a procurement code
|
| 160 |
+
("PUZ-2380-025-060-025/2024/DZ", ted_pl_220094-2024) and an amount without a
|
| 161 |
+
currency sign ("3 000 000 000 (trzy miliardy) PLN", ted_pl_507970-2023). No
|
| 162 |
+
NIP/REGON/KRS was restored, because their pattern did not change. A fresh sample of 12 random `[Telefon]`
|
| 163 |
+
spans in the rebuilt text (seed 20261006) holds 11 real phone or fax numbers and 1
|
| 164 |
+
part number ("( 008.003.000 )", ted_pl_283348-2024). Dotted 3-3-3 part numbers are
|
| 165 |
+
still read as phones: 5 spans in 2 documents (ted_pl_232043-2024,
|
| 166 |
+
ted_pl_283348-2024). CPV codes are untouched.
|
| 167 |
+
|
| 168 |
+
**Company and sole-trader identifiers.** Labelled PESEL/NIP/REGON numbers are
|
| 169 |
+
replaced by `[PII]` whether they belong to a person or a company (the pattern is
|
| 170 |
+
unchanged since v0.2.5): 242 matches in the raw text, NIP in 66 documents, REGON in
|
| 171 |
+
38, PESEL in none. Contractor names next to such a number were reviewed: one
|
| 172 |
+
contractor looks like a natural person trading under their own name
|
| 173 |
+
(ted_pl_167339-2024: "PARTNER D*** A***, (ul. P*** X, XX-XXX W***, NIP
|
| 174 |
+
XXX-XXX-XX-XX)", masked); three more carry personal names but are partnerships
|
| 175 |
+
(ted_pl_91828-2024, ted_pl_156428-2024, ted_pl_183186-2024). No contracting
|
| 176 |
+
authority is a natural person. In the text these numbers are `[PII]`; the names are
|
| 177 |
+
not redacted (NERGAL pass).
|
| 178 |
+
|
| 179 |
+
Spot check of the earlier build (60 of 15,544 records, seed 20260928) found one
|
| 180 |
+
residual contact, `ted_pl_188212-2024` ("skontaktować się z A.Decem -
|
| 181 |
+
815384157"): an unspaced 9-digit phone after a name. The rebuild redacts it.
|
| 182 |
+
Other hits were benign: institutional delivery addresses (52), statutory
|
| 183 |
+
mentions of PESEL/NIP (3).
|
| 184 |
+
|
| 185 |
+
Known residual: bank account numbers (about 2,100 numbers in 1,111 documents,
|
| 186 |
+
nearly all contracting-authority "wadium" accounts) and KRS numbers are not touched;
|
| 187 |
+
phones written without a label and without spaces, helpline numbers shorter than 7
|
| 188 |
+
digits ("116 123") and role mailboxes with a missing domain ("iod@ .pl") remain; a
|
| 189 |
+
few labelled numbers leave a trailing digit ("Tel.: 22 1551 626 5" -> "Tel.:
|
| 190 |
+
[Telefon] 5").
|
| 191 |
|
| 192 |
## Legal-exception and name review (scoped)
|
| 193 |
|
| 194 |
+
Personal names are **not** redacted in this release candidate; the NERGAL pass
|
| 195 |
+
(v2#60) handles them. A heuristic scan counts names only: 172 documents contain
|
| 196 |
+
a candidate full name of a contact person (116 with a nominative given name from
|
| 197 |
+
a 108-name list followed by a capitalised surname, 60 with "p."/"Pan"/"Pani" +
|
| 198 |
+
two capitalised words, 4 overlap). It is a lower bound: it misses inflected
|
| 199 |
+
names and unlisted given names, and it has false positives.
|
| 200 |
+
|
| 201 |
+
Third-party and name cues were sampled on 60 records of the earlier build
|
| 202 |
+
(per-notice coverage remains a release gate): free-text name cues were
|
| 203 |
+
statutory phrasing only ("imię i nazwisko" in the Public Procurement Law's
|
| 204 |
+
description of an appeal); third-party markers were product names (Windows
|
| 205 |
+
Server, Microsoft 365), standard *numbers* (ISO 9001, PN-EN 14065) and legal
|
| 206 |
+
citations/titles - no reproduced third-party texts found.
|
| 207 |
|
| 208 |
## Overlap with uzp_orzeczenia_pl and inclusion argument
|
| 209 |
|
|
|
|
| 219 |
|
| 220 |
## Limitations
|
| 221 |
|
| 222 |
+
Free-text personal names are not de-identified (NERGAL pass pending, v2#60). The official reuse notice has exceptions for third-party works and identifiable private individuals, so per-notice/legal review remains appropriate, and the Polish public-body basis is an inference that no lawyer has confirmed. Labelled PESEL/NIP/REGON are replaced by `[PII]` whether they belong to a person or a company, and a few dotted part numbers are still read as phones. Residual unlabelled numbers, bank accounts and role mailboxes with a missing domain are listed above. Cross-source DynaWord deduplication, benchmark-overlap checks and controlled training ablations remain pending. This administrative/technical register should be capped deliberately in a training mix.
|
data/ted_pl/ted_pl.parquet
CHANGED
|
@@ -1,3 +1,3 @@
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
-
oid sha256:
|
| 3 |
-
size
|
|
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:b3217a59ee7fbf7ce8899ba6d39eb5991fae2f9d68026f48bdd232b2cb49714a
|
| 3 |
+
size 21589859
|
data/ted_pl/ted_pl.qa.json
CHANGED
|
@@ -7,9 +7,11 @@
|
|
| 7 |
},
|
| 8 |
"cross_source_dedup": "pending target integration",
|
| 9 |
"exact_normalized_dedup": true,
|
| 10 |
-
"license_gate": "TED legal notice
|
| 11 |
"limitations": [
|
| 12 |
-
"
|
|
|
|
|
|
|
| 13 |
"third-party works and per-notice exceptions require review",
|
| 14 |
"source is institutional/legal-administrative and requires a deliberate mix cap",
|
| 15 |
"official records may contain repeated form language below the frequency threshold"
|
|
@@ -8423,9 +8425,22 @@
|
|
| 8423 |
},
|
| 8424 |
"official_sources_only": true,
|
| 8425 |
"pii_pattern_matches_replaced": {
|
| 8426 |
-
"email":
|
| 8427 |
-
"national_id":
|
| 8428 |
-
"phone":
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 8429 |
},
|
| 8430 |
"source_protocol": "official TED Search API narrative fields with official XML fallback",
|
| 8431 |
"structured_contacts_omitted": true
|
|
|
|
| 7 |
},
|
| 8 |
"cross_source_dedup": "pending target integration",
|
| 9 |
"exact_normalized_dedup": true,
|
| 10 |
+
"license_gate": "two bases, both needed: (1) TED legal notice / Publications Office reuse terms, https://ted.europa.eu/en/legal-notice; (2) for notices drafted by Polish contracting authorities, the Polish public-body basis (Copyright Act art. 4 pt 2; Open Data Act, Dz.U. 2023 poz. 1524, arts 2, 3, 5, 6); exceptions for third-party works and identifiable private individuals remain reviewable per notice; see ted_pl.license-evidence.json",
|
| 11 |
"limitations": [
|
| 12 |
+
"personal names of contact persons in free text are not de-identified here; the SlayerLab/NERGAL pass must run before release",
|
| 13 |
+
"pattern redaction only: some unlabelled phone numbers, IBAN account numbers and role mailboxes with a missing domain can remain",
|
| 14 |
+
"labelled PESEL/NIP/REGON numbers are redacted whether they belong to a person or a company; identifiers without such a label (KRS numbers, bank accounts) stay in the text, including any printed next to a sole trader's name",
|
| 15 |
"third-party works and per-notice exceptions require review",
|
| 16 |
"source is institutional/legal-administrative and requires a deliberate mix cap",
|
| 17 |
"official records may contain repeated form language below the frequency threshold"
|
|
|
|
| 8425 |
},
|
| 8426 |
"official_sources_only": true,
|
| 8427 |
"pii_pattern_matches_replaced": {
|
| 8428 |
+
"email": 1832,
|
| 8429 |
+
"national_id": 242,
|
| 8430 |
+
"phone": 2441
|
| 8431 |
+
},
|
| 8432 |
+
"pii_rebuild": {
|
| 8433 |
+
"boilerplate_chunks_removed": 1,
|
| 8434 |
+
"boilerplate_threshold_documents": 155,
|
| 8435 |
+
"documents": 15544,
|
| 8436 |
+
"note": "text rebuilt from the raw TED API/XML of the shipped notices with redact_pii applied once; pii_pattern_matches_replaced now counts these documents, the previous counters covered the original 20,588-notice build",
|
| 8437 |
+
"previous_pii_pattern_matches_replaced": {
|
| 8438 |
+
"email": 2433,
|
| 8439 |
+
"national_id": 366,
|
| 8440 |
+
"phone": 2128
|
| 8441 |
+
},
|
| 8442 |
+
"tokens_after": 42473050,
|
| 8443 |
+
"tokens_before": 42471550
|
| 8444 |
},
|
| 8445 |
"source_protocol": "official TED Search API narrative fields with official XML fallback",
|
| 8446 |
"structured_contacts_omitted": true
|
data/ted_pl/ted_pl.sample.jsonl
CHANGED
|
@@ -6,7 +6,7 @@
|
|
| 6 |
{"added": "2026-09-08", "author": "UNIWERSYTET MEDYCZNY W BIAŁYMSTOKU", "created": "2024-05-13", "id": "ted_pl_278506-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Sukcesywne dostawy drobnego sprzętu laboratoryjnego dla Zakładów UMB do celów naukowo-badawczych\n\nPrzedmiotem zamówienia są: sukcesywne dostawy drobnego sprzętu laboratoryjnego dla Zakładów UMB do celów naukowo-badawczych Szczegółowy opis przedmiotu zamówienia, ilości i wymagane parametry zamówienia zawiera załącznik Nr 2 do SWZ – Opis przedmiotu zamówienia - formularz cenowy na dostawę drobnego sprzętu laboratoryjnego do celów naukowo - badawczych, stanowiące integralną część SWZ.\n\nPrzedmiotem zamówienia są: sukcesywne dostawy drobnego sprzętu laboratoryjnego dla Zakładów UMB do celów naukowo-badawczych Szczegółowy opis przedmiotu zamówienia, ilości i wymagane parametry zamówienia zawiera załącznik Nr 2 do SWZ – Opis przedmiotu zamówienia - formularz cenowy na dostawę drobnego sprzętu laboratoryjnego do celów naukowo - badawczych, stanowiące integralną część niniejszej SWZ.\n\nKryterium TERMIN DOSTAWY (TD): TD = TD min./ TD of x 40. gdzie: TD min. najkrótszy możliwy termin dostawy (5 dni roboczych od daty złożenia zamówienia), TD of. –termin dostawy oferty badanej, UWAGA: W kryterium termin dostawy (TD,) ilość punktów obliczona będzie na podstawie danych podanych przez Wykonawcę w Formularzu ofertowym (wg załącznika nr 1 do SWZ). W przypadku, gdy Wykonawca nie wpisze zaoferowanego terminu dostawy Zamawiający przyjmie termin maksymalny dopuszczony (25 dni roboczych od daty złożenia zamówienia)\n\nOcena ofert w zakresie przedstawionego poniżej kryterium zostanie dokonana wg następujących zasad: kryterium CENA OFERTOWA (C): C = (C min./C of.) x 60 gdzie: C min. cena najniższa spośród badanych ofert, C of. cena oferty badanej.\n\nZamawiający prowadził postępowanie nr AZP.25.1.99.2023 część 5, w którym złożono dwie oferty, jednak postępowanie w tej części nie zakończyło się zawarciem umowy. Jedna oferta podlegała odrzuceniu, druga przekraczała środki, które przeznaczył Zamawiający na sfinansowanie przedmiotu zamówienia.Biorąc pod uwagę 30-dniowy termin na składanie ofert, czas konieczny na dokonanie oceny ofert, jak również to iż badania przy użyciu próbówek będących przedmiotem zamówienia trwają cały czas i są potrzebne na bieżąco (dostawa przewidziana na koniec kwietnia 2024 r.), skrócenie terminu składania ofert jest uzasadnione.\n\n1. Środki ochrony prawnej przewidziane w Dziale IX ustawy Pzp przysługują wykonawcy, a także innemu podmiotowi, jeżeli ma lub miał interes w uzyskaniu danego zamówienia oraz poniósł lub może ponieść szkodę w wyniku naruszenia przez zamawiającego przepisów ustawy. 2. Środki ochrony prawnej wobec ogłoszenia o zamówieniu oraz specyfikacji istotnych warunków zamówienia przysługują również organizacjom wpisanym na listę organizacji uprawnionych do wnoszenia środków ochrony prawnej prowadzoną i ogłaszaną przez Prezesa Urzędu Zamówień Publicznych oraz Rzecznikowi Małych i Średnich Przedsiębiorców. 3. Odwołanie przysługuje wyłącznie od niezgodnej z przepisami ustawy czynności zamawiającego podjętej w postępowaniu o udzielenie zamówienia lub zaniechania czynności, do której zamawiający jest zobowiązany na podstawie ustawy. 4. Odwołanie wnosi się w przypadku zamówień, których wartość jest równa albo przekracza progi unijne w terminie : a) 10 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana przy użyciu środków komunikacji elektronicznej, b) 15 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana w sposób inny niż określony w lit. a. 5. Odwołanie wobec treści ogłoszenia wszczynającego postępowanie o udzielenie zamówienia lub wobec treści dokumentów zamówienia wnosi się w terminie 10 dni od dnia publikacji ogłoszenia w Dzienniku Urzędowym Unii Europejskiej lub zamieszczenia dokumentów na na stronie internetowej. 6. Odwołanie w przypadkach innych niż określone powyżej wnosi się w terminie 10 dni od dnia, w którym powzięto lub przy zachowaniu należytej staranności można było powziąć wiadomość o okolicznościach stanowiących podstawę jego wniesienia. 7. Szczegółowe zasady wnoszenia środków ochrony prawnej oraz postępowania toczonego wskutek ich wniesienia określa Dział IX ustawy Pzp.", "token_count": 1499}
|
| 7 |
{"added": "2026-09-08", "author": "Gmina Miasto Ostrów Wielkopolski", "created": "2024-01-05", "id": "ted_pl_8152-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Świadczenie usługi administrowania obiektami sportowo – rekreacyjnymi stanowiącymi własność Gminy Miasto Ostrów Wielkopolski\n\n1. Przedmiotem umowy jest administrowanie obiektami sportowo-rekreacyjnymi, stanowiącymi własność Gminy Miasto Ostrów Wielkopolski, w ilości: 1) place zabaw – 19 obiektów, 2) siłownie zewnętrzne – 15 obiektów, 3) boiska sportowe – 8 obiektów, 4) skatepark – 1 obiekt, 5) street wokaut park – 1 obiekt, 6) murawa stadionu miejskiego – 1 obiekt, 7) pomieszczenia w budynku świetlicy – 1 obiekt, 8) amfiteatr – 1 obiekt. 2. Wykaz obiektów sportowych zawarty jest w załączniku nr 10. 3. Szczegółowy opis przedmiotu zamówienia zawarty jest w załączniku nr 11. 4. Inne wymagania. 1) Wykonawca w okresie realizacji umowy będzie ubezpieczony od odpowiedzialności cywilnej w zakresie prowadzonej działalności związanej z przedmiotem zamówienia na kwotę nie mniejszą niż 500.000,00 zł (słownie: pięćset tysięcy złotych). 2) Wykonawca zobowiązany jest do podejmowania skutecznych działań zgłaszanych telefonicznie lub drogą elektroniczną przez przedstawiciela zamawiającego w czasie nie dłuższym niż 8 godzin od chwili otrzymania zgłoszenia o awariach, zabezpieczeniu uszkodzonych urządzeń, aktach wandalizmu. Czas reakcji na awarie, zabezpieczenie uszkodzonych urządzeń, akty wandalizmu stanowi kryterium oceny oferty w niniejszym postępowaniu. 3) Przed złożeniem oferty zaleca się dokonanie wizji lokalnej na obiektach. 5. Pozostałe informacje. 1) Zamawiający nie dokonuje podziału zamówienia na części. Biorąc pod uwagę faktyczny zakres świadczenia usług oraz sezonowość i specyfikę obiektu, dzielenie zamówienia na części powodowałoby komplikacje na etapie wykonawczym uniemożliwiając rzetelne wykonanie zadania. Niedokonanie podziału na części zagwarantuje efektywne, profesjonalne i prawidłowe administrowanie obiektem, zgodnie z przeznaczeniem. Ze względu na zróżnicowanie atrakcyjności obiektów istnieje ryzyko przy dopuszczeniu podziału na części braku zainteresowania ze strony wykonawców. Ponadto, przedmiot zamówienia może być wykonany w całości przez MŚP. 2) Nie przewiduje się udzielenia zamówienia polegającego na powtórzeniu podobnych usług. 3) Nie dopuszcza się składania ofert wariantowych. 4) Zamawiający nie przewiduje możliwości skorzystania z prawa opcji.\n\n1. Warunek ten będzie spełniony jeżeli wykonawca wykaże, że w okresie ostatnich 3 lat przed upływem terminu składania ofert, a jeżeli okres działalności jest krótszy – w tym okresie, wykonywał bądź wykonuje przez okres minimum 6 miesięcy usługę prowadzenia i utrzymania co najmniej: a) jednego boiska wielofunkcyjnego typu „Orlik 2012”, b) jednej murawy na stadionie, z nawierzchnią trawiastą o powierzchni minimum 3000 m2, c) jednego placu zabaw z minimum 8 urządzeniami zabawowymi, d) jednej siłowni zewnętrznej z minimum 6 urządzeniami do ćwiczeń. UWAGA: „W przypadku wykonawców wspólnie ubiegających się o udzielenie zamówienia warunek określony w ppkt 4 lit. a musi być spełniony w całości przez co najmniej jednego z wykonawców wspólnie ubiegających się o zamówienie Natomiast w przypadku polegania na zasobach podmiotów trzecich, warunek określony w ppkt 4 lit. a SWZ musi być spełniony w całości wyłącznie przez jeden podmiot udostępniający zasoby. W obu przypadkach podmioty te muszą zrealizować usługi będące przedmiotem zamówienia.” 2. Warunek ten będzie spełniony, jeżeli wykonawca wykaże, że w trakcie realizacji zamówienia będzie dysponował co najmniej: a) jednym podnośnikiem koszowym do 3,5 Mg (zasięg kosza min. 20 m) b) trzema kosami mechanicznymi, c) trzema kosiarkami spalinowymi, d) jedną kosiarką samobieżną, e) jednym wertykulatorem spalinowym, f) jednym aeratorem spalinowym, g) jednym siewnikiem do nasion, h) jednym wałem, i) jedną włóką do równomiernego rozłożenia piasku, j) jedną piaskarką zaciągnikową, k) jednym ciągnikiem rolniczym, lekkim do 0,9 Mg, l) jedną beczką do podlewania.", "token_count": 1499}
|
| 8 |
{"added": "2026-09-08", "author": "Powiat Rycki", "created": "2023-10-27", "id": "ted_pl_658009-2023", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Udzielenie i obsługa długoterminowego kredytu bankowego w kwocie 3 000 000,00 zł na pokrycie planowanego deficytu\n\nOtwarcie ofert dokonywane jest przez odszyfrowanie i otwarcie ofert.\n\n1. Wykonawcy oraz innemu podmiotowi, jeżeli ma lub miał interes w uzyskaniu zamówienia oraz poniósł lub może ponieść szkodę w wyniku naruszenia przez Zamawiającego przepisów ustawy, przysługują środki ochrony prawnej określone w dziale IX ustawy. 2. Środki ochrony prawnej wobec ogłoszenia wszczynającego postępowanie o udzielenie zamówienia oraz dokumentów zamówienia przysługują również organizacjom wpisanym na listę, o której mowa w art. 469 pkt 15 ustawy oraz Rzecznikowi Małych i Średnich Przedsiębiorców. 3. Odwołanie przysługuje na: a. niezgodną z przepisami ustawy czynność Zamawiającego, podjętą w postępowaniu o udzielenie zamówienia, w tym na projektowane postanowienie umowy; b. zaniechanie czynności w postępowaniu o udzielenie zamówienia, do której zamawiający był obowiązany na podstawie ustawy. 4. Odwołanie wnosi się do Prezesa Izby. Odwołujący przekazuje zamawiającemu odwołanie wniesione w formie elektronicznej albo postaci elektronicznej albo kopię tego odwołania, jeżeli zostało ono wniesione w formie pisemnej przed upływem terminu do wniesienia odwołania w taki sposób, aby mógł on zapoznać się z jego treścią przed upływem tego terminu. Domniemywa się, że zamawiający mógł zapoznać się z treścią odwołania przed upływem terminu do jego wniesienia, jeżeli przekazanie odpowiednio odwołania lub jego kopii nastąpiło przed upływem terminu do jego wniesienia przy użyciu środków komunikacji elektronicznej. 5. Odwołanie wnosi się w terminie: a) 10 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana przy użyciu środków komunikacji elektronicznej, b) 15 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana w sposób inny niż określony w ust. 5 lit. a. 6. Odwołanie wobec treści ogłoszenia wszczynającego postępowanie o udzielenie zamówienia lub wobec treści dokumentów zamówienia wnosi się w terminie 10 dni od dnia publikacji ogłoszenia w Dzienniku Urzędowym Unii Europejskiej lub zamieszczenia dokumentów zamówienia na stronie internetowej. 7. Odwołanie w przypadkach innych niż określone w ust. 5 i 6 wnosi się w terminie 10 dni od dnia, w którym powzięto lub przy zachowaniu należytej staranności można było powziąć wiadomość o okolicznościach stanowiących podstawę jego wniesienia. 8. Na orzeczenie Izby oraz postanowienie Prezesa Izby, o którym mowa w art. 519 ust. 1 Ustawy, stronom oraz uczestnikom postępowania odwoławczego przysługuje skarga do sądu. 9. W postępowaniu toczącym się wskutek wniesienia skargi stosuje się odpowiednio przepisy ustawy z dnia 17.11.1964 r. - Kodeks postępowania cywilnego o apelacji, jeżeli przepisy niniejszego rozdziału nie stanowią inaczej. 10. Skargę wnosi się do Sądu Okręgowego w Warszawie - sądu zamówień publicznych,. 11. Skargę wnosi się za pośrednictwem Prezesa Izby, w terminie 14 dni od dnia doręczenia orzeczenia Izby lub postanowienia Prezesa Izby, o którym mowa w art. 519 ust. 1 ustawy, przesyłając jednocześnie jej odpis przeciwnikowi skargi. Złożenie skargi w placówce pocztowej operatora wyznaczonego w rozumieniu ustawy z dnia 23.11.2012 r. – Prawo pocztowe jest równoznaczne z jej wniesieniem. 12. Prezes Izby przekazuje skargę wraz z aktami postępowania odwoławczego do sądu zamówień publicznych w terminie 7 dni od dnia jej otrzymania.\n\nW celu potwierdzenia warunku należy złożyć aktualne zezwolenie uprawniające do wykonywania czynności bankowych na terenie Rzeczypospolitej Polskiej wydanego przez Komisję Nadzoru Finansowego zgodnie z ustawą z dnia 29 sierpnia 1997 r. Prawo bankowe (t.j. Dz. z 2022 r. poz. 2324) lub innego dokumentu potwierdzającego, że Wykonawca jest uprawniony do wykonywania czynności bankowych na terenie Rzeczypospolitej Polskiej ale tylko w przypadku gdy Wykonawca nie działa na podstawie zezwolenia wydanego przez Komisję Nadzoru Finansowego.", "token_count": 1499}
|
| 9 |
-
{"added": "2026-09-08", "author": "Powiat Tucholski", "created": "2023-12-27", "id": "ted_pl_790193-2023", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Organizowanie publicznego transportu zbiorowego na terenie Powiatu Tucholskiego\n\nŚwiadczenie usług w zakresie publicznego transportu zbiorowego na liniach komunikacyjnych o charakterze użyteczności publicznej dla których Powiat Tucholski jest organizatorem. Zapotrzebowanie na transport zgodnie z art. 22 ust 1 pkt. 1 Ustawy z dnia 16 grudnia 2010 r. o publicznym transporcie zbiorowym.\n\nZgodnie z art. 13 ust. 1−2 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z 27.04.2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) (Dz. Urz. UE L 119, s. 1) – dalej RODO − informujemy, że:\n\n1. Administratorem Pani/Pana danych osobowych jest Starosta Tucholski z siedzibą w Tucholi przy ul. Pocztowej 7, 89-500 Tuchola.\n\n2. Inspektorem ochrony danych jest Pani Hanna Borzyszkowska, z którym możesz się skontaktować w sprawach ochrony swoich danych osobowych poprzez e-mail: [PII] oraz pod numerem telefonu 52 559 07 00 lub pisemnie na adres naszej siedziby, wskazany w pkt 1.\n\n3. Administrator danych przetwarza Pani/Pana dane osobowe na podstawie obowiązujących przepisów prawa, zawartych umów oraz na podstawie udzielonej zgody.\n\n4. Pani/Pana dane osobowe przetwarzane będą w celu/celach:\n\na) wypełnienia obowiązków prawnych ciążących na administratorze zgodnie z art. 6 pkt 1 lit. c RODO;\n\nb) realizacji celu w jakim Pan/Pani wyraził/a zgodę na przetwarzanie swoich danych osobowych (art. 6 ust. 1 lit. a RODO) lub w przypadku podania danych należących do szczególnych kategorii danych (art. 9 ust. 2 lit. a RODO);\n\nc) wykonania umowy, której Pani/Pan jest stroną lub do podjęcia działań na Pani/Pana żądanie przed zawarciem umowy (art. 6 ust. 1 lit. b RODO);\n\nd) ochrony żywotnych interesów Pani/Pana lub innej osoby fizycznej (art. 6 ust. 1 lit. d RODO);\n\ne) wykonania zadania realizowanego w interesie publicznym lub w ramach sprawowania władzy publicznej powierzonej administratorowi (art. 6 ust. 1 lit. e RODO).\n\n5. Odbiorcami Pani/Pana danych osobowych będą wyłącznie podmioty uprawnione do uzyskania tych danych na podstawie przepisów prawa, tj. organy władzy publicznej oraz podmioty wykonujące zadania publiczne lub działające na zlecenie organów władzy publicznej, w zakresie i w celach, które wynikają z przepisów powszechnie obowiązującego prawa; inne podmioty, którym na podstawie stosownych umów podpisanych z Powiatem Tucholskim powierzono przetwarzanie danych osobowych, dla których administratorem jest Starosta Tucholski.\n\n6. Pani/Pana dane nie będą przekazywane do państw trzecich lub organizacji międzynarodowych.\n\n7. Pani/Pana dane osobowe przechowywane będą w czasie określonym przepisami prawa, zgodnie z rozporządzeniem Prezesa Rady Ministrów z dnia 18 stycznia 2011 r. w sprawie instrukcji kancelaryjnej, jednolitych rzeczowych wykazów akt oraz instrukcji w sprawie organizacji i zakresu działania archiwów zakładowych. Dane przetwarzane będą przez okres nie dłuższy, niż jest to niezbędne do celów, w których dane te są przetwarzane. Dane osobowe można przechowywać przez okres dłuższy, o ile będą one przetwarzane wyłącznie do celów archiwalnych w interesie publicznym.\n\n8. W związku z przetwarzaniem Pani/Pana danych osobowych przysługuje Pani/Panu prawo do: dostępu do swoich danych osobowych, w tym prawo do uzyskania kopii tych danych; sprostowania danych (poprawiania); ograniczenia przetwarzania; wniesienia sprzeciwu wobec przetwarzania danych; usunięcia danych oraz ich przenoszenia danych.\n\nInformuję również, że powyższe uprawnienia, na podstawie przepisów powszechnie obowiązujących, mogą być ograniczone lub wyłączone. W takim przypadku skorzystanie z danego uprawnienia będzie niemożliwe.\n\n9. Jeżeli przetwarzanie Pani/Pana danych osobowych odbywa się na podstawie zgody na przetwarzanie danych osobowych (art. 6 ust. 1 lit. a RODO), przysługuje Pani/Panu prawo do cofnięcia tej zgody w dowolnym momencie. Cofnięcie to nie ma wpływu na zgodność przetwarzania, którego dokonano na podstawie zgody przed jej cofnięciem, z obowiązującym prawem.\n\n10. Posiada Pani/Pan prawo wniesienia skargi do organu nadzorczego, tj. Prezesa Urzędu Ochrony Danych Osobowych (00-193 Warszawa, ul. Stawki 2), gdy uzna Pani/Pan, że przetwarzanie danych osobowych", "token_count": 1499}
|
| 10 |
{"added": "2026-09-08", "author": "Prokuratura Okręgowa w Świdnicy", "created": "2024-03-01", "id": "ted_pl_128349-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Kompleksowe wykonywanie usług porządkowo - czystościowych w budynkach prokuratur okręgu świdnickiego\n\nPrzedmiotem zamówienia jest wykonywanie kompleksowych usług porządkowo - czystościowych w budynkach prokuratur okręgu świdnickiego o ogólnej powierzchni: Prokuratura Okręgowa w Świdnicy ul. 1 Maja 21 - około 2.000 m2, Prokuratura Rejonowa w Świdnicy ul. Zamkowa 2- około 1.214 m2, Prokuratura Rejonowa w Wałbrzychu Pl. Magistracki 7 - około 1.090 m2 oraz Dział Śledczy przy ul. Kilińskiego 1- około -372,50 m2, Prokuratura Rejonowa w Kłodzku Pl. Chrobrego 20 - około 1.165 m2, Prokuratura Rejonowa w Dzierżoniowie ul. Rolna 1- około 975m 2, Prokuratura Rejonowa w Ząbkowicach Śląskich ul. Niepodległości 2- około 581,00 m2 oraz Prokuratura Rejonowa w Bystrzycy Kłodzkiej ul. Sempołowskiej 4 - około 644 m2.\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Okręgowej w Świdnicy przy ul. 1 Maja 21\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Świdnicy przy ul. Zamkowej 2\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynkach Prokuratury Rejonowej w Wałbrzychu przy Pl. Magistrackim 7 i w Dziale Śledczym przy ul. Kilińskiego 1\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Kłodzku przy Pl. Chrobrego 20\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Dzierżoniowie przy ul. Rolnej 1\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Ząbkowicach Śląskich przy ul. Niepodległości 2\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Bystrzycy Kłodzkiej przy ul. Sempołowskiej 4\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Okręgowej w Świdnicy przy ul. 1 Maja 21o ogólnej powierzchni 2.000 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Świdnicy przy ul. Zamkowej 2 o ogólnej powierzchni 1.214 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynkach Prokuratury Rejonowej w Wałbrzychu przy Pl. Magistrackim 7 o ogólnej powierzchni 1.090 m2 oraz Dziale Śledczym przy ul. Kilińskiego 1 o ogólnej powierzchni 372,50 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Kłodzku przy Pl. Chrobrego 20 o ogólnej powierzchni 1.165,10 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Dzierżoniowie przy ul. Rolnej 1 o ogólnej powierzchni 975 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Ząbkowicach Śl. przy ul. Niepodległości 2 o ogólnej powierzchni 581 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Bystrzycy Kłodzkiej przy ul. Sempołowskiej 4 o ogólnej powierzchni 644 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nCena – 60 %, C = (Cmin : Cx) x 60 pkt\n\nN- Organizacja nadzoru usługi sprzątania — przy ocenie ofert w kryterium organizacja nadzoru Zamawiający będzie oceniał zaoferowaną częstotliwość kontroli przez Koordynatora jakości wykonywanych usług w następujący sposób: - raz na dwa tygodnie - Zamawiający przyzna 40 pkt.; - raz na miesiąc - Zamawiający przyzna 20 pkt.; - raz na kwartał - Zamawiający przyzna 0 pkt.; Maksymalna ilość punktów przyznana w tym kryterium wynosi 40.", "token_count": 1502}
|
| 11 |
{"added": "2026-09-08", "author": "Urząd Komunikacji Elektronicznej", "created": "2024-02-13", "id": "ted_pl_90791-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Zakup licencji, gwarancji i wsparcia na oprogramowanie oraz sprzęt sieciowy\n\n1. Przedmiotem zamówienia jest zakup licencji, wydłużenie gwarancji i wsparcia na oprogramowanie oraz sprzęt sieciowy, posiadany przez Zamawiającego - niezbędne do prawidłowego działania systemów informatycznych. 2. Zamówienie zostało podzielone na 4 (słownie: cztery) części: • Część nr 1 - Zakup licencji dla systemu Hitachi Data Protection Suite w celu rozszerzenia pojemności danych wraz ze wsparciem i utrzymaniem do dnia 31.12.2024 roku. • Część nr 2 - Świadczenie usługi wsparcia i gwarancji producenta dla posiadanego przez Zamawiającego klastra systemu zapór sieciowych firmy CheckPoint 7000 Plus Appliance with SandBlast. • Część nr 3 - Świadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń F5. • Część nr 4 - Świadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń Cisco Nexus. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nCzęść nr 1 - Zakup licencji dla systemu Hitachi Data Protection Suite w celu rozszerzenia pojemności danych wraz ze wsparciem i utrzymaniem do dnia 31.12.2024 roku\n\nCzęść nr 2 - Świadczenie usługi wsparcia i gwarancji producenta dla posiadanego przez Zamawiającego klastra systemu zapór sieciowych firmy CheckPoint 7000 Plus Appliance with SandBlast\n\nCzęść nr 3 - Świadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń F5\n\nCzęść nr 4 - Świadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń Cisco Nexus\n\nZakup licencji dla systemu Hitachi Data Protection Suite w celu rozszerzenia pojemności danych wraz ze wsparciem i utrzymaniem do dnia 31.12.2024 roku. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nŚwiadczenie usługi wsparcia i gwarancji producenta dla posiadanego przez Zamawiającego klastra systemu zapór sieciowych firmy CheckPoint 7000 Plus Appliance with SandBlast. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nŚwiadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń F5. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nŚwiadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń Cisco Nexus. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nZamawiający dopuszcza składanie ofert częściowych. Wykonawca może złożyć ofertę na jedną lub więcej części zamówienia.\n\nKryterium Cena = 100% Pi (C)=Cmin/Ci ∙max(C) gdzie: i – numer oferty; Pi (C) – liczba punktów jakie otrzyma oferta „i” za kryterium „Cena (C)”; Cmin – najniższa cena brutto spośród wszystkich nieodrzuconych ofert; Ci – cena brutto oferty „i” (oferty badanej); max(C) – maksymalna liczba punktów jakie może otrzymać badana oferta za kryterium „Cena (C)”, tj. 100 punktów. Przedmiot zamówienia stanowi wykup licencji, standardowego wsparcia i gwarancji producenta dla poszczególnego oprogramowania, tym samym jest to zamówienie o określonych parametrach jakościowych, a sam przedmiot zamówienia jest powszechnie dostępny. Zatem zastosowanie kryterium ceny jako jedynego przy zakupie standardowego wsparcia producenta rozwiązania nie wiąże się z ryzykiem pojawienia się dodatkowych kosztów w trakcie realizacji zamówienia, co uprawnia do stwierdzenia, iż jest to świadczenie, które może być nabywane przy kryterium ceny określonym na poziomie 100%. Charakter i specyfika zamówienia posiada ustalone standardy jakościowe i została szczegółowo określona w SWZ - wskazanie innych kryteriów oceny ofert niż cena, naruszałoby zasadę efektywnego i oszczędnego wydatkowania środków publicznych.\n\nKryterium Cena = 100% Pi (C)=Cmin/Ci ∙max(C) gdzie: i – numer oferty; Pi (C) – liczba punktów jakie otrzyma oferta „i” za kryterium „Cena (C)”; Cmin – najniższa cena brutto spośród wszystkich nieodrzuconych ofert; Ci – cena brutto oferty „i” (oferty badanej); max(C) – maksymalna liczba punktów jakie może otrzymać badana oferta za kryterium „Cena (C)”, tj. 100 punktów.\n\nWykonawcom przysługują środki ochrony prawnej zgodnie z Działem IX ustawy Pzp.", "token_count": 1498}
|
| 12 |
{"added": "2026-09-08", "author": "Mazowieckie Centrum Polityki Społecznej", "created": "2024-02-16", "id": "ted_pl_99977-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "„Przygotowanie i organizacja szkoleń specjalistycznych nt. profilaktyki uzależnień”\n\nPrzedmiotem zamówienia jest usługa przygotowania i realizacji szkoleń specjalistycznych nt. profilaktyki uzależnień w formie stacjonarnej dla uczestników z terenu województwa mazowieckiego z podziałem na części: Część 1 – Przygotowanie i realizacja 6 szkoleń „Profilaktyka uzależnień chemicznych i behawioralnych”; Część 2 – Przygotowanie i realizacja 1 szkolenia „Edukator profilaktyki uzależnień chemicznych i behawioralnych - I stopnia”; Część 3 – Przygotowanie i realizacja 1 szkolenia „Edukator profilaktyki uzależnień chemicznych i behawioralnych - II stopnia”; Część 4 – Przygotowanie i realizacja 1 szkolenia „Psychoterapia uzależnień dzieci i młodzieży”; Część 5 – Przygotowanie i realizacja 1 szkolenia „Rozwój i superwizja w profilaktyce uzależnień”.\n\nPrzygotowanie i realizacja 6 szkoleń „Profilaktyka uzależnień chemicznych i behawioralnych\n\nPrzygotowanie i realizacja 1 szkolenia „Edukator profilaktyki uzależnień chemicznych i behawioralnych - I stopnia”\n\nPrzygotowanie i realizacja 1 szkolenia „Edukator profilaktyki uzależnień chemicznych i behawioralnych - II stopnia”\n\nPrzygotowanie i realizacja 1 szkolenia „Psychoterapia uzależnień dzieci i młodzieży”\n\nPrzygotowanie i realizacja 1 szkolenia „Rozwój i superwizja w profilaktyce uzależnień”\n\nDoświadczenie wykładowcy - trenera\n\nArt. 138 ust. 2 pkt. 2 Pzp , pilna potrzeba udzielenia zamówienia i skrócenia terminu składania ofert.\n\nWykonawca wykaże, że dysponuje co najmniej 2 (dwoma) trenerami zdolnymi do wykonania zamówienia, z których każdy posiada co najmniej: wykształcenie wyższe II stopnia (tytuł magistra); certyfikat/dyplom specjalisty psychoterapii uzależnień wydany przez Krajowe Centrum Przeciwdziałania Uzależnieniom (KCPU) lub przez Państwową Agencję Rozwiązywania Problemów Alkoholowych (PARPA) lub przez Krajowe Biuro do Spraw Przeciwdziałania Narkomanii (KBPN) lub przez Centrum Egzaminów Medycznych (CEM). w okresie ostatnich 3 lat przed terminem składania ofert, zrealizował faktycznie co najmniej 50 godzin dydaktycznych szkoleń (w formie stacjonarnej i/lub w formie zdalnej) w zakresie uzależnień chemicznych lub behawioralnych (1 godzina dydaktyczna = 45 minut). Zamawiający informuje, iż w doświadczeniu trenera nie bierze pod uwagę zajęć na uczelni a faktycznie zrealizowane szkolenia (w formie stacjonarnej i/lub w formie zdalnej) w zakresie profilaktyki uzależnień chemicznych lub behawioralnych. jeden spośród 2 wyżej wymaganych trenerów musi posiadać dodatkowo rekomendację superwizora/certyfikat superwizora wydany przez dyrektora Krajowego Centrum Przeciwdziałania Uzależnieniom (KCPU) lub przez Państwową Agencję Rozwiązywania Problemów Alkoholowych (PARPA) lub przez Krajowe Biuro do Spraw Przeciwdziałania Narkomanii (KBPN).\n\nWykonawca wykaże, że dysponuje co najmniej 4 (czterema) trenerami zdolnymi do wykonania zamówienia, z których każdy posiada co najmniej: wykształcenie wyższe II stopnia (tytuł magistra); co najmniej 10 lat doświadczenia w pracy dydaktycznej, profilaktycznej i terapeutycznej; certyfikat/dyplom specjalisty psychoterapii uzależnień wydany przez Krajowe Centrum Przeciwdziałania Uzależnieniom (KCPU) lub przez Państwową Agencję Rozwiązywania Problemów Alkoholowych (PARPA) lub przez Krajowe Biuro do Spraw Przeciwdziałania Narkomanii (KBPN) lub przez Centrum Egzaminów Medycznych (CEM). w okresie ostatnich 3 lat, przed terminem składania ofert, zrealizował co najmniej 50 godzin dydaktycznych szkoleń (w formie stacjonarnej i/lub w formie zdalnej) w zakresie profilaktyki uzależnień chemicznych lub behawioralnych (1 godzina dydaktyczna = 45 minut); dwóch spośród 4 wyżej wymaganych trenerów musi posiadać dodatkowo rekomendację superwizora/certyfikat superwizora wydany przez dyrektora Krajowego Centrum Przeciwdziałania Uzależnieniom (KCPU) lub przez Państwową Agencję Rozwiązywania Problemów Alkoholowych (PARPA) lub przez Krajowe Biuro do Spraw Przeciwdziałania Narkomanii (KBPN).", "token_count": 1502}
|
|
|
|
|
|
| 6 |
{"added": "2026-09-08", "author": "UNIWERSYTET MEDYCZNY W BIAŁYMSTOKU", "created": "2024-05-13", "id": "ted_pl_278506-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Sukcesywne dostawy drobnego sprzętu laboratoryjnego dla Zakładów UMB do celów naukowo-badawczych\n\nPrzedmiotem zamówienia są: sukcesywne dostawy drobnego sprzętu laboratoryjnego dla Zakładów UMB do celów naukowo-badawczych Szczegółowy opis przedmiotu zamówienia, ilości i wymagane parametry zamówienia zawiera załącznik Nr 2 do SWZ – Opis przedmiotu zamówienia - formularz cenowy na dostawę drobnego sprzętu laboratoryjnego do celów naukowo - badawczych, stanowiące integralną część SWZ.\n\nPrzedmiotem zamówienia są: sukcesywne dostawy drobnego sprzętu laboratoryjnego dla Zakładów UMB do celów naukowo-badawczych Szczegółowy opis przedmiotu zamówienia, ilości i wymagane parametry zamówienia zawiera załącznik Nr 2 do SWZ – Opis przedmiotu zamówienia - formularz cenowy na dostawę drobnego sprzętu laboratoryjnego do celów naukowo - badawczych, stanowiące integralną część niniejszej SWZ.\n\nKryterium TERMIN DOSTAWY (TD): TD = TD min./ TD of x 40. gdzie: TD min. najkrótszy możliwy termin dostawy (5 dni roboczych od daty złożenia zamówienia), TD of. –termin dostawy oferty badanej, UWAGA: W kryterium termin dostawy (TD,) ilość punktów obliczona będzie na podstawie danych podanych przez Wykonawcę w Formularzu ofertowym (wg załącznika nr 1 do SWZ). W przypadku, gdy Wykonawca nie wpisze zaoferowanego terminu dostawy Zamawiający przyjmie termin maksymalny dopuszczony (25 dni roboczych od daty złożenia zamówienia)\n\nOcena ofert w zakresie przedstawionego poniżej kryterium zostanie dokonana wg następujących zasad: kryterium CENA OFERTOWA (C): C = (C min./C of.) x 60 gdzie: C min. cena najniższa spośród badanych ofert, C of. cena oferty badanej.\n\nZamawiający prowadził postępowanie nr AZP.25.1.99.2023 część 5, w którym złożono dwie oferty, jednak postępowanie w tej części nie zakończyło się zawarciem umowy. Jedna oferta podlegała odrzuceniu, druga przekraczała środki, które przeznaczył Zamawiający na sfinansowanie przedmiotu zamówienia.Biorąc pod uwagę 30-dniowy termin na składanie ofert, czas konieczny na dokonanie oceny ofert, jak również to iż badania przy użyciu próbówek będących przedmiotem zamówienia trwają cały czas i są potrzebne na bieżąco (dostawa przewidziana na koniec kwietnia 2024 r.), skrócenie terminu składania ofert jest uzasadnione.\n\n1. Środki ochrony prawnej przewidziane w Dziale IX ustawy Pzp przysługują wykonawcy, a także innemu podmiotowi, jeżeli ma lub miał interes w uzyskaniu danego zamówienia oraz poniósł lub może ponieść szkodę w wyniku naruszenia przez zamawiającego przepisów ustawy. 2. Środki ochrony prawnej wobec ogłoszenia o zamówieniu oraz specyfikacji istotnych warunków zamówienia przysługują również organizacjom wpisanym na listę organizacji uprawnionych do wnoszenia środków ochrony prawnej prowadzoną i ogłaszaną przez Prezesa Urzędu Zamówień Publicznych oraz Rzecznikowi Małych i Średnich Przedsiębiorców. 3. Odwołanie przysługuje wyłącznie od niezgodnej z przepisami ustawy czynności zamawiającego podjętej w postępowaniu o udzielenie zamówienia lub zaniechania czynności, do której zamawiający jest zobowiązany na podstawie ustawy. 4. Odwołanie wnosi się w przypadku zamówień, których wartość jest równa albo przekracza progi unijne w terminie : a) 10 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana przy użyciu środków komunikacji elektronicznej, b) 15 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana w sposób inny niż określony w lit. a. 5. Odwołanie wobec treści ogłoszenia wszczynającego postępowanie o udzielenie zamówienia lub wobec treści dokumentów zamówienia wnosi się w terminie 10 dni od dnia publikacji ogłoszenia w Dzienniku Urzędowym Unii Europejskiej lub zamieszczenia dokumentów na na stronie internetowej. 6. Odwołanie w przypadkach innych niż określone powyżej wnosi się w terminie 10 dni od dnia, w którym powzięto lub przy zachowaniu należytej staranności można było powziąć wiadomość o okolicznościach stanowiących podstawę jego wniesienia. 7. Szczegółowe zasady wnoszenia środków ochrony prawnej oraz postępowania toczonego wskutek ich wniesienia określa Dział IX ustawy Pzp.", "token_count": 1499}
|
| 7 |
{"added": "2026-09-08", "author": "Gmina Miasto Ostrów Wielkopolski", "created": "2024-01-05", "id": "ted_pl_8152-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Świadczenie usługi administrowania obiektami sportowo – rekreacyjnymi stanowiącymi własność Gminy Miasto Ostrów Wielkopolski\n\n1. Przedmiotem umowy jest administrowanie obiektami sportowo-rekreacyjnymi, stanowiącymi własność Gminy Miasto Ostrów Wielkopolski, w ilości: 1) place zabaw – 19 obiektów, 2) siłownie zewnętrzne – 15 obiektów, 3) boiska sportowe – 8 obiektów, 4) skatepark – 1 obiekt, 5) street wokaut park – 1 obiekt, 6) murawa stadionu miejskiego – 1 obiekt, 7) pomieszczenia w budynku świetlicy – 1 obiekt, 8) amfiteatr – 1 obiekt. 2. Wykaz obiektów sportowych zawarty jest w załączniku nr 10. 3. Szczegółowy opis przedmiotu zamówienia zawarty jest w załączniku nr 11. 4. Inne wymagania. 1) Wykonawca w okresie realizacji umowy będzie ubezpieczony od odpowiedzialności cywilnej w zakresie prowadzonej działalności związanej z przedmiotem zamówienia na kwotę nie mniejszą niż 500.000,00 zł (słownie: pięćset tysięcy złotych). 2) Wykonawca zobowiązany jest do podejmowania skutecznych działań zgłaszanych telefonicznie lub drogą elektroniczną przez przedstawiciela zamawiającego w czasie nie dłuższym niż 8 godzin od chwili otrzymania zgłoszenia o awariach, zabezpieczeniu uszkodzonych urządzeń, aktach wandalizmu. Czas reakcji na awarie, zabezpieczenie uszkodzonych urządzeń, akty wandalizmu stanowi kryterium oceny oferty w niniejszym postępowaniu. 3) Przed złożeniem oferty zaleca się dokonanie wizji lokalnej na obiektach. 5. Pozostałe informacje. 1) Zamawiający nie dokonuje podziału zamówienia na części. Biorąc pod uwagę faktyczny zakres świadczenia usług oraz sezonowość i specyfikę obiektu, dzielenie zamówienia na części powodowałoby komplikacje na etapie wykonawczym uniemożliwiając rzetelne wykonanie zadania. Niedokonanie podziału na części zagwarantuje efektywne, profesjonalne i prawidłowe administrowanie obiektem, zgodnie z przeznaczeniem. Ze względu na zróżnicowanie atrakcyjności obiektów istnieje ryzyko przy dopuszczeniu podziału na części braku zainteresowania ze strony wykonawców. Ponadto, przedmiot zamówienia może być wykonany w całości przez MŚP. 2) Nie przewiduje się udzielenia zamówienia polegającego na powtórzeniu podobnych usług. 3) Nie dopuszcza się składania ofert wariantowych. 4) Zamawiający nie przewiduje możliwości skorzystania z prawa opcji.\n\n1. Warunek ten będzie spełniony jeżeli wykonawca wykaże, że w okresie ostatnich 3 lat przed upływem terminu składania ofert, a jeżeli okres działalności jest krótszy – w tym okresie, wykonywał bądź wykonuje przez okres minimum 6 miesięcy usługę prowadzenia i utrzymania co najmniej: a) jednego boiska wielofunkcyjnego typu „Orlik 2012”, b) jednej murawy na stadionie, z nawierzchnią trawiastą o powierzchni minimum 3000 m2, c) jednego placu zabaw z minimum 8 urządzeniami zabawowymi, d) jednej siłowni zewnętrznej z minimum 6 urządzeniami do ćwiczeń. UWAGA: „W przypadku wykonawców wspólnie ubiegających się o udzielenie zamówienia warunek określony w ppkt 4 lit. a musi być spełniony w całości przez co najmniej jednego z wykonawców wspólnie ubiegających się o zamówienie Natomiast w przypadku polegania na zasobach podmiotów trzecich, warunek określony w ppkt 4 lit. a SWZ musi być spełniony w całości wyłącznie przez jeden podmiot udostępniający zasoby. W obu przypadkach podmioty te muszą zrealizować usługi będące przedmiotem zamówienia.” 2. Warunek ten będzie spełniony, jeżeli wykonawca wykaże, że w trakcie realizacji zamówienia będzie dysponował co najmniej: a) jednym podnośnikiem koszowym do 3,5 Mg (zasięg kosza min. 20 m) b) trzema kosami mechanicznymi, c) trzema kosiarkami spalinowymi, d) jedną kosiarką samobieżną, e) jednym wertykulatorem spalinowym, f) jednym aeratorem spalinowym, g) jednym siewnikiem do nasion, h) jednym wałem, i) jedną włóką do równomiernego rozłożenia piasku, j) jedną piaskarką zaciągnikową, k) jednym ciągnikiem rolniczym, lekkim do 0,9 Mg, l) jedną beczką do podlewania.", "token_count": 1499}
|
| 8 |
{"added": "2026-09-08", "author": "Powiat Rycki", "created": "2023-10-27", "id": "ted_pl_658009-2023", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Udzielenie i obsługa długoterminowego kredytu bankowego w kwocie 3 000 000,00 zł na pokrycie planowanego deficytu\n\nOtwarcie ofert dokonywane jest przez odszyfrowanie i otwarcie ofert.\n\n1. Wykonawcy oraz innemu podmiotowi, jeżeli ma lub miał interes w uzyskaniu zamówienia oraz poniósł lub może ponieść szkodę w wyniku naruszenia przez Zamawiającego przepisów ustawy, przysługują środki ochrony prawnej określone w dziale IX ustawy. 2. Środki ochrony prawnej wobec ogłoszenia wszczynającego postępowanie o udzielenie zamówienia oraz dokumentów zamówienia przysługują również organizacjom wpisanym na listę, o której mowa w art. 469 pkt 15 ustawy oraz Rzecznikowi Małych i Średnich Przedsiębiorców. 3. Odwołanie przysługuje na: a. niezgodną z przepisami ustawy czynność Zamawiającego, podjętą w postępowaniu o udzielenie zamówienia, w tym na projektowane postanowienie umowy; b. zaniechanie czynności w postępowaniu o udzielenie zamówienia, do której zamawiający był obowiązany na podstawie ustawy. 4. Odwołanie wnosi się do Prezesa Izby. Odwołujący przekazuje zamawiającemu odwołanie wniesione w formie elektronicznej albo postaci elektronicznej albo kopię tego odwołania, jeżeli zostało ono wniesione w formie pisemnej przed upływem terminu do wniesienia odwołania w taki sposób, aby mógł on zapoznać się z jego treścią przed upływem tego terminu. Domniemywa się, że zamawiający mógł zapoznać się z treścią odwołania przed upływem terminu do jego wniesienia, jeżeli przekazanie odpowiednio odwołania lub jego kopii nastąpiło przed upływem terminu do jego wniesienia przy użyciu środków komunikacji elektronicznej. 5. Odwołanie wnosi się w terminie: a) 10 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana przy użyciu środków komunikacji elektronicznej, b) 15 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana w sposób inny niż określony w ust. 5 lit. a. 6. Odwołanie wobec treści ogłoszenia wszczynającego postępowanie o udzielenie zamówienia lub wobec treści dokumentów zamówienia wnosi się w terminie 10 dni od dnia publikacji ogłoszenia w Dzienniku Urzędowym Unii Europejskiej lub zamieszczenia dokumentów zamówienia na stronie internetowej. 7. Odwołanie w przypadkach innych niż określone w ust. 5 i 6 wnosi się w terminie 10 dni od dnia, w którym powzięto lub przy zachowaniu należytej staranności można było powziąć wiadomość o okolicznościach stanowiących podstawę jego wniesienia. 8. Na orzeczenie Izby oraz postanowienie Prezesa Izby, o którym mowa w art. 519 ust. 1 Ustawy, stronom oraz uczestnikom postępowania odwoławczego przysługuje skarga do sądu. 9. W postępowaniu toczącym się wskutek wniesienia skargi stosuje się odpowiednio przepisy ustawy z dnia 17.11.1964 r. - Kodeks postępowania cywilnego o apelacji, jeżeli przepisy niniejszego rozdziału nie stanowią inaczej. 10. Skargę wnosi się do Sądu Okręgowego w Warszawie - sądu zamówień publicznych,. 11. Skargę wnosi się za pośrednictwem Prezesa Izby, w terminie 14 dni od dnia doręczenia orzeczenia Izby lub postanowienia Prezesa Izby, o którym mowa w art. 519 ust. 1 ustawy, przesyłając jednocześnie jej odpis przeciwnikowi skargi. Złożenie skargi w placówce pocztowej operatora wyznaczonego w rozumieniu ustawy z dnia 23.11.2012 r. – Prawo pocztowe jest równoznaczne z jej wniesieniem. 12. Prezes Izby przekazuje skargę wraz z aktami postępowania odwoławczego do sądu zamówień publicznych w terminie 7 dni od dnia jej otrzymania.\n\nW celu potwierdzenia warunku należy złożyć aktualne zezwolenie uprawniające do wykonywania czynności bankowych na terenie Rzeczypospolitej Polskiej wydanego przez Komisję Nadzoru Finansowego zgodnie z ustawą z dnia 29 sierpnia 1997 r. Prawo bankowe (t.j. Dz. z 2022 r. poz. 2324) lub innego dokumentu potwierdzającego, że Wykonawca jest uprawniony do wykonywania czynności bankowych na terenie Rzeczypospolitej Polskiej ale tylko w przypadku gdy Wykonawca nie działa na podstawie zezwolenia wydanego przez Komisję Nadzoru Finansowego.", "token_count": 1499}
|
|
|
|
| 9 |
{"added": "2026-09-08", "author": "Prokuratura Okręgowa w Świdnicy", "created": "2024-03-01", "id": "ted_pl_128349-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Kompleksowe wykonywanie usług porządkowo - czystościowych w budynkach prokuratur okręgu świdnickiego\n\nPrzedmiotem zamówienia jest wykonywanie kompleksowych usług porządkowo - czystościowych w budynkach prokuratur okręgu świdnickiego o ogólnej powierzchni: Prokuratura Okręgowa w Świdnicy ul. 1 Maja 21 - około 2.000 m2, Prokuratura Rejonowa w Świdnicy ul. Zamkowa 2- około 1.214 m2, Prokuratura Rejonowa w Wałbrzychu Pl. Magistracki 7 - około 1.090 m2 oraz Dział Śledczy przy ul. Kilińskiego 1- około -372,50 m2, Prokuratura Rejonowa w Kłodzku Pl. Chrobrego 20 - około 1.165 m2, Prokuratura Rejonowa w Dzierżoniowie ul. Rolna 1- około 975m 2, Prokuratura Rejonowa w Ząbkowicach Śląskich ul. Niepodległości 2- około 581,00 m2 oraz Prokuratura Rejonowa w Bystrzycy Kłodzkiej ul. Sempołowskiej 4 - około 644 m2.\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Okręgowej w Świdnicy przy ul. 1 Maja 21\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Świdnicy przy ul. Zamkowej 2\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynkach Prokuratury Rejonowej w Wałbrzychu przy Pl. Magistrackim 7 i w Dziale Śledczym przy ul. Kilińskiego 1\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Kłodzku przy Pl. Chrobrego 20\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Dzierżoniowie przy ul. Rolnej 1\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Ząbkowicach Śląskich przy ul. Niepodległości 2\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Bystrzycy Kłodzkiej przy ul. Sempołowskiej 4\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Okręgowej w Świdnicy przy ul. 1 Maja 21o ogólnej powierzchni 2.000 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Świdnicy przy ul. Zamkowej 2 o ogólnej powierzchni 1.214 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynkach Prokuratury Rejonowej w Wałbrzychu przy Pl. Magistrackim 7 o ogólnej powierzchni 1.090 m2 oraz Dziale Śledczym przy ul. Kilińskiego 1 o ogólnej powierzchni 372,50 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Kłodzku przy Pl. Chrobrego 20 o ogólnej powierzchni 1.165,10 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Dzierżoniowie przy ul. Rolnej 1 o ogólnej powierzchni 975 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Ząbkowicach Śl. przy ul. Niepodległości 2 o ogólnej powierzchni 581 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Bystrzycy Kłodzkiej przy ul. Sempołowskiej 4 o ogólnej powierzchni 644 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nCena – 60 %, C = (Cmin : Cx) x 60 pkt\n\nN- Organizacja nadzoru usługi sprzątania — przy ocenie ofert w kryterium organizacja nadzoru Zamawiający będzie oceniał zaoferowaną częstotliwość kontroli przez Koordynatora jakości wykonywanych usług w następujący sposób: - raz na dwa tygodnie - Zamawiający przyzna 40 pkt.; - raz na miesiąc - Zamawiający przyzna 20 pkt.; - raz na kwartał - Zamawiający przyzna 0 pkt.; Maksymalna ilość punktów przyznana w tym kryterium wynosi 40.", "token_count": 1502}
|
| 10 |
{"added": "2026-09-08", "author": "Urząd Komunikacji Elektronicznej", "created": "2024-02-13", "id": "ted_pl_90791-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Zakup licencji, gwarancji i wsparcia na oprogramowanie oraz sprzęt sieciowy\n\n1. Przedmiotem zamówienia jest zakup licencji, wydłużenie gwarancji i wsparcia na oprogramowanie oraz sprzęt sieciowy, posiadany przez Zamawiającego - niezbędne do prawidłowego działania systemów informatycznych. 2. Zamówienie zostało podzielone na 4 (słownie: cztery) części: • Część nr 1 - Zakup licencji dla systemu Hitachi Data Protection Suite w celu rozszerzenia pojemności danych wraz ze wsparciem i utrzymaniem do dnia 31.12.2024 roku. • Część nr 2 - Świadczenie usługi wsparcia i gwarancji producenta dla posiadanego przez Zamawiającego klastra systemu zapór sieciowych firmy CheckPoint 7000 Plus Appliance with SandBlast. • Część nr 3 - Świadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń F5. • Część nr 4 - Świadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń Cisco Nexus. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nCzęść nr 1 - Zakup licencji dla systemu Hitachi Data Protection Suite w celu rozszerzenia pojemności danych wraz ze wsparciem i utrzymaniem do dnia 31.12.2024 roku\n\nCzęść nr 2 - Świadczenie usługi wsparcia i gwarancji producenta dla posiadanego przez Zamawiającego klastra systemu zapór sieciowych firmy CheckPoint 7000 Plus Appliance with SandBlast\n\nCzęść nr 3 - Świadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń F5\n\nCzęść nr 4 - Świadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń Cisco Nexus\n\nZakup licencji dla systemu Hitachi Data Protection Suite w celu rozszerzenia pojemności danych wraz ze wsparciem i utrzymaniem do dnia 31.12.2024 roku. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nŚwiadczenie usługi wsparcia i gwarancji producenta dla posiadanego przez Zamawiającego klastra systemu zapór sieciowych firmy CheckPoint 7000 Plus Appliance with SandBlast. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nŚwiadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń F5. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nŚwiadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń Cisco Nexus. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nZamawiający dopuszcza składanie ofert częściowych. Wykonawca może złożyć ofertę na jedną lub więcej części zamówienia.\n\nKryterium Cena = 100% Pi (C)=Cmin/Ci ∙max(C) gdzie: i – numer oferty; Pi (C) – liczba punktów jakie otrzyma oferta „i” za kryterium „Cena (C)”; Cmin – najniższa cena brutto spośród wszystkich nieodrzuconych ofert; Ci – cena brutto oferty „i” (oferty badanej); max(C) – maksymalna liczba punktów jakie może otrzymać badana oferta za kryterium „Cena (C)”, tj. 100 punktów. Przedmiot zamówienia stanowi wykup licencji, standardowego wsparcia i gwarancji producenta dla poszczególnego oprogramowania, tym samym jest to zamówienie o określonych parametrach jakościowych, a sam przedmiot zamówienia jest powszechnie dostępny. Zatem zastosowanie kryterium ceny jako jedynego przy zakupie standardowego wsparcia producenta rozwiązania nie wiąże się z ryzykiem pojawienia się dodatkowych kosztów w trakcie realizacji zamówienia, co uprawnia do stwierdzenia, iż jest to świadczenie, które może być nabywane przy kryterium ceny określonym na poziomie 100%. Charakter i specyfika zamówienia posiada ustalone standardy jakościowe i została szczegółowo określona w SWZ - wskazanie innych kryteriów oceny ofert niż cena, naruszałoby zasadę efektywnego i oszczędnego wydatkowania środków publicznych.\n\nKryterium Cena = 100% Pi (C)=Cmin/Ci ∙max(C) gdzie: i – numer oferty; Pi (C) – liczba punktów jakie otrzyma oferta „i” za kryterium „Cena (C)”; Cmin – najniższa cena brutto spośród wszystkich nieodrzuconych ofert; Ci – cena brutto oferty „i” (oferty badanej); max(C) – maksymalna liczba punktów jakie może otrzymać badana oferta za kryterium „Cena (C)”, tj. 100 punktów.\n\nWykonawcom przysługują środki ochrony prawnej zgodnie z Działem IX ustawy Pzp.", "token_count": 1498}
|
| 11 |
{"added": "2026-09-08", "author": "Mazowieckie Centrum Polityki Społecznej", "created": "2024-02-16", "id": "ted_pl_99977-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "„Przygotowanie i organizacja szkoleń specjalistycznych nt. profilaktyki uzależnień”\n\nPrzedmiotem zamówienia jest usługa przygotowania i realizacji szkoleń specjalistycznych nt. profilaktyki uzależnień w formie stacjonarnej dla uczestników z terenu województwa mazowieckiego z podziałem na części: Część 1 – Przygotowanie i realizacja 6 szkoleń „Profilaktyka uzależnień chemicznych i behawioralnych”; Część 2 – Przygotowanie i realizacja 1 szkolenia „Edukator profilaktyki uzależnień chemicznych i behawioralnych - I stopnia”; Część 3 – Przygotowanie i realizacja 1 szkolenia „Edukator profilaktyki uzależnień chemicznych i behawioralnych - II stopnia”; Część 4 – Przygotowanie i realizacja 1 szkolenia „Psychoterapia uzależnień dzieci i młodzieży”; Część 5 – Przygotowanie i realizacja 1 szkolenia „Rozwój i superwizja w profilaktyce uzależnień”.\n\nPrzygotowanie i realizacja 6 szkoleń „Profilaktyka uzależnień chemicznych i behawioralnych\n\nPrzygotowanie i realizacja 1 szkolenia „Edukator profilaktyki uzależnień chemicznych i behawioralnych - I stopnia”\n\nPrzygotowanie i realizacja 1 szkolenia „Edukator profilaktyki uzależnień chemicznych i behawioralnych - II stopnia”\n\nPrzygotowanie i realizacja 1 szkolenia „Psychoterapia uzależnień dzieci i młodzieży”\n\nPrzygotowanie i realizacja 1 szkolenia „Rozwój i superwizja w profilaktyce uzależnień”\n\nDoświadczenie wykładowcy - trenera\n\nArt. 138 ust. 2 pkt. 2 Pzp , pilna potrzeba udzielenia zamówienia i skrócenia terminu składania ofert.\n\nWykonawca wykaże, że dysponuje co najmniej 2 (dwoma) trenerami zdolnymi do wykonania zamówienia, z których każdy posiada co najmniej: wykształcenie wyższe II stopnia (tytuł magistra); certyfikat/dyplom specjalisty psychoterapii uzależnień wydany przez Krajowe Centrum Przeciwdziałania Uzależnieniom (KCPU) lub przez Państwową Agencję Rozwiązywania Problemów Alkoholowych (PARPA) lub przez Krajowe Biuro do Spraw Przeciwdziałania Narkomanii (KBPN) lub przez Centrum Egzaminów Medycznych (CEM). w okresie ostatnich 3 lat przed terminem składania ofert, zrealizował faktycznie co najmniej 50 godzin dydaktycznych szkoleń (w formie stacjonarnej i/lub w formie zdalnej) w zakresie uzależnień chemicznych lub behawioralnych (1 godzina dydaktyczna = 45 minut). Zamawiający informuje, iż w doświadczeniu trenera nie bierze pod uwagę zajęć na uczelni a faktycznie zrealizowane szkolenia (w formie stacjonarnej i/lub w formie zdalnej) w zakresie profilaktyki uzależnień chemicznych lub behawioralnych. jeden spośród 2 wyżej wymaganych trenerów musi posiadać dodatkowo rekomendację superwizora/certyfikat superwizora wydany przez dyrektora Krajowego Centrum Przeciwdziałania Uzależnieniom (KCPU) lub przez Państwową Agencję Rozwiązywania Problemów Alkoholowych (PARPA) lub przez Krajowe Biuro do Spraw Przeciwdziałania Narkomanii (KBPN).\n\nWykonawca wykaże, że dysponuje co najmniej 4 (czterema) trenerami zdolnymi do wykonania zamówienia, z których każdy posiada co najmniej: wykształcenie wyższe II stopnia (tytuł magistra); co najmniej 10 lat doświadczenia w pracy dydaktycznej, profilaktycznej i terapeutycznej; certyfikat/dyplom specjalisty psychoterapii uzależnień wydany przez Krajowe Centrum Przeciwdziałania Uzależnieniom (KCPU) lub przez Państwową Agencję Rozwiązywania Problemów Alkoholowych (PARPA) lub przez Krajowe Biuro do Spraw Przeciwdziałania Narkomanii (KBPN) lub przez Centrum Egzaminów Medycznych (CEM). w okresie ostatnich 3 lat, przed terminem składania ofert, zrealizował co najmniej 50 godzin dydaktycznych szkoleń (w formie stacjonarnej i/lub w formie zdalnej) w zakresie profilaktyki uzależnień chemicznych lub behawioralnych (1 godzina dydaktyczna = 45 minut); dwóch spośród 4 wyżej wymaganych trenerów musi posiadać dodatkowo rekomendację superwizora/certyfikat superwizora wydany przez dyrektora Krajowego Centrum Przeciwdziałania Uzależnieniom (KCPU) lub przez Państwową Agencję Rozwiązywania Problemów Alkoholowych (PARPA) lub przez Krajowe Biuro do Spraw Przeciwdziałania Narkomanii (KBPN).", "token_count": 1502}
|
| 12 |
+
{"added": "2026-09-08", "author": "Centrum Zakupów dla Sądownictwa Instytucja Gospodarki Budżetowej; Centrum Zakupów dla Sądownictwa Instytucja Gospodarki Budżetowej reprezentująca Sąd Apelacyjny w Krakowie; Krajowa Szkoła Sądownictwa i Prokuratury reprezentowana przez Centrum Zakupów dla Sądownictwa Instytucja Gospodarki Budżetowej", "created": "2024-03-15", "id": "ted_pl_158991-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Dostawa papieru białego A4 do wydruku i kopiowania\n\n1. Przedmiotem zamówienia jest sukcesywna realizacja dostaw papieru białego A4 do wydruku i kopiowania na rzecz jednostek sądownictwa oraz na rzecz CZdS IGB i KSSiP, zwanych łącznie Jednostkami. 2. Realizacja dostaw odbywać się będzie w formie dostaw częściowych do Jednostek, w tym do Centrum Cyfryzacji Obsługi Druku w Raciborzu (CCOD) wskazanego w Załączniku nr 5 do SWZ – Wzór umowy, na podstawie zamówień składanych przez Jednostki, za pośrednictwem systemu informatycznego Zamawiającego, na adres e-mail wskazany przez Wykonawcę. 3. Szczegółowy opis przedmiotu zamówienia, zawierający wielkość oraz zakres zamówienia stanowi Załącznik nr 2 do SWZ – Opis przedmiotu zamówienia – Formularz cenowy. 4. Szczegółowe zasady składania zamówień oraz realizacji dostaw częściowych określa Wzór Umowy, stanowiący Załącznik nr 5 do SWZ. 5. Wykaz Jednostek, na rzecz których prowadzone jest postępowanie zawiera Załącznik nr 8 do SWZ. 6. Dla celów skalkulowania oferty Zamawiający udostępnia strukturę zamówień w poprzednich latach wraz z opisem uwarunkowań architektonicznych CCOD Racibórz – Załącznik nr 9 do SWZ. 7. Zamawiający nie dopuszcza możliwości składania ofert częściowych.\n\n1. Przedmiotem zamówienia jest sukcesywna realizacja dostaw papieru białego A4 do wydruku i kopiowania na rzecz jednostek sądownictwa oraz na rzecz CZdS IGB i KSSiP, zwanych łącznie Jednostkami. 2. Realizacja dostaw odbywać się będzie w formie dostaw częściowych do Jednostek, w tym do Centrum Cyfryzacji Obsługi Druku w Raciborzu (CCOD) wskazanego w Załączniku nr 5 do SWZ – Wzór umowy, na podstawie zamówień składanych przez Jednostki, za pośrednictwem systemu informatycznego Zamawiającego, na adres e-mail wskazany przez Wykonawcę. 3. Szczegółowy opis przedmiotu zamówienia, zawierający wielkość oraz zakres zamówienia stanowi Załącznik nr 2 do SWZ – Opis przedmiotu zamówienia – Formularz cenowy. 4. Szczegółowe zasady składania zamówień oraz realizacji dostaw częściowych określa Wzór Umowy, stanowiący Załącznik nr 5 do SWZ. 5. Wykaz Jednostek, na rzecz których prowadzone jest postępowanie zawiera Załącznik nr 8 do SWZ.\n\nTermin dostawy częściowej (T)\n\nZatrudnienie osób defaworyzowanych (Z)\n\nCertyfikaty ekologiczne (E)\n\nZakres gwarantowany przedmiotu zamówienia i prawo opcji: 1. Zamawiający gwarantuje zrealizowanie Umowy w wysokości 50% przewidywanej wartości przedmiotu zamówienia. Zamawiający przewiduje możliwość ograniczenia zakresu zamówienia, w przypadku zmiany potrzeb Jednostek, na rzecz których prowadzone jest postępowanie. 2. Zamawiający, korzystając z prawa opcji, o którym mowa w art. 441 ust. 1 ustawy Pzp, zastrzega sobie prawo do zwiększenia przewidywanej wielkości przedmiotu zamówienia – tj. przewidywanej ilości zamawianego papieru, wskazanej w Załączniku nr 2 do Umowy – Opis przedmiotu zamówienia, w taki sposób, który może powodować zwiększenie wartości Umowy wskazanej w § 7 ust. 1 a) Umowy o nie więcej niż 10 %. Niewykonanie przez Zamawiającego Umowy w zakresie dodatkowych 10% ponad przewidywaną wartość przedmiotu zamówienia nie wymaga podania przyczyn i nie stanowi podstawy odpowiedzialności Zamawiającego lub Jednostek z tytułu niewykonania lub nienależytego wykonania Umowy – Wykonawcy nie przysługują żadne roszczenia z tego tytułu. a) Skorzystanie z prawa opcji następuje z mocy prawa, w chwili w której dojdzie do faktycznego zwiększenia przewidywanej ilości zamawianego papieru. Celem potwierdzenia skorzystania z prawa opcji, Zamawiający prześle Wykonawcy informację o skorzystaniu z prawa opcji. b) Zamawiający przewiduje możliwość skorzystania z prawa opcji w przypadku zwiększenia potrzeb Jednostek, na rzecz których prowadzone jest postępowanie np. (dołączenie nowych lub zwiększenie zapotrzebowania w już istniejących).\n\nMiejsce realizacji usług: usługi realizowane na terenie Polski na rzecz sądów powszechnych, KSSiP oraz CZdS IGB. Wykaz jednostek wraz z adresami stanowi Załącznik nr 8 do SWZ. NUTS: PL2, PL4, PL5, PL6, PL7, PL8, PL9.\n\nzgodnie z art. 515 Pzp", "token_count": 1502}
|
data/ted_pl/ted_pl.stats.json
CHANGED
|
@@ -3,7 +3,7 @@
|
|
| 3 |
"added": "2026-09-08",
|
| 4 |
"api_acquired": 20588,
|
| 5 |
"author_coverage": 1.0,
|
| 6 |
-
"characters":
|
| 7 |
"created_max": "2024-05-15",
|
| 8 |
"created_min": "2023-02-15",
|
| 9 |
"indexed": 20588,
|
|
@@ -15,6 +15,6 @@
|
|
| 15 |
"too_short_after_cleaning": 1014
|
| 16 |
},
|
| 17 |
"sample_count": 12,
|
| 18 |
-
"tokens":
|
| 19 |
"xml_fallback": 1255
|
| 20 |
}
|
|
|
|
| 3 |
"added": "2026-09-08",
|
| 4 |
"api_acquired": 20588,
|
| 5 |
"author_coverage": 1.0,
|
| 6 |
+
"characters": 112881592,
|
| 7 |
"created_max": "2024-05-15",
|
| 8 |
"created_min": "2023-02-15",
|
| 9 |
"indexed": 20588,
|
|
|
|
| 15 |
"too_short_after_cleaning": 1014
|
| 16 |
},
|
| 17 |
"sample_count": 12,
|
| 18 |
+
"tokens": 42473050,
|
| 19 |
"xml_fallback": 1255
|
| 20 |
}
|
src/build_ted_pl.py
CHANGED
|
@@ -37,12 +37,49 @@ LICENSE_URL = "https://ted.europa.eu/en/legal-notice"
|
|
| 37 |
SEARCH_API_URL = "https://api.ted.europa.eu/v3/notices/search"
|
| 38 |
FIELDS = ["id", "text", "source", "added", "created", "token_count", "license", "author"]
|
| 39 |
UA = "TEDPolishCorpusResearch/1.0 (PiotrSty; open research dataset)"
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 40 |
TEXT_TAGS = {"Name", "Title", "Description", "Note", "DocumentDescription", "ProcessReason", "ChangeDescription"}
|
| 41 |
EXCLUDED_ANCESTORS = {"Organization", "Company", "PartyName", "PostalAddress", "Contact", "PartyLegalEntity", "Person"}
|
| 42 |
-
|
| 43 |
-
|
| 44 |
-
|
|
|
|
|
|
|
| 45 |
)
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 46 |
NATIONAL_ID_RE = re.compile(r"(?i)\b(?:PESEL|NIP|REGON)\s*:?[ \t]*(?:\d[ -]?){9,14}\b")
|
| 47 |
THREAD_LOCAL = threading.local()
|
| 48 |
API_NARRATIVE_FIELDS = (
|
|
@@ -101,11 +138,70 @@ def normalize(text):
|
|
| 101 |
return re.sub(r"\n{3,}", "\n\n", "\n".join(lines)).strip()
|
| 102 |
|
| 103 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 104 |
def redact_pii(text):
|
| 105 |
counts = Counter()
|
| 106 |
text, counts["email"] = EMAIL_RE.subn("[PII]", text)
|
| 107 |
text, counts["national_id"] = NATIONAL_ID_RE.subn("[PII]", text)
|
| 108 |
-
text, counts["phone"] =
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 109 |
return normalize(text), dict(counts)
|
| 110 |
|
| 111 |
|
|
@@ -193,6 +289,17 @@ def build_index(out):
|
|
| 193 |
return index
|
| 194 |
|
| 195 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 196 |
def fetch_one(out, item):
|
| 197 |
year = item["notice_id"].rsplit("-", 1)[-1]
|
| 198 |
path = out / "raw_xml" / year / (item["notice_id"] + ".xml")
|
|
@@ -467,7 +574,11 @@ def parse_acquired_record(out, record):
|
|
| 467 |
return parse_official_xml(payload), record["xml_sha256"]
|
| 468 |
|
| 469 |
|
| 470 |
-
def
|
|
|
|
|
|
|
|
|
|
|
|
|
| 471 |
import pyarrow as pa
|
| 472 |
import pyarrow.parquet as pq
|
| 473 |
import tiktoken
|
|
@@ -490,7 +601,7 @@ def build(out):
|
|
| 490 |
encoder = tiktoken.get_encoding("cl100k_base")
|
| 491 |
identifier = LanguageIdentifier.from_modelstring(model, norm_probs=True)
|
| 492 |
identifier.set_languages(["pl", "en", "de", "cs", "sk", "uk", "ru"])
|
| 493 |
-
added = inventory["created_at"][:10]
|
| 494 |
rows, attribution, decisions = [], [], []
|
| 495 |
seen = {}
|
| 496 |
reject_counts = Counter()
|
|
@@ -555,8 +666,7 @@ def build(out):
|
|
| 555 |
pq.write_table(pa.Table.from_pylist(rows, schema=schema), root / "data/train-00000-of-00001.parquet", compression="zstd")
|
| 556 |
write_lines(root / "artifacts/attribution.jsonl", attribution)
|
| 557 |
write_lines(root / "artifacts/decisions.jsonl", decisions)
|
| 558 |
-
|
| 559 |
-
samples = candidates[:12]
|
| 560 |
write_lines(root / "artifacts/sample.jsonl", samples)
|
| 561 |
source_index = [{
|
| 562 |
"notice_id": record["notice_id"], "date": record["date"], "mirror_url": record["mirror_url"],
|
|
@@ -577,15 +687,14 @@ def build(out):
|
|
| 577 |
qa = {"official_sources_only": True, "source_protocol": "official TED Search API narrative fields with official XML fallback",
|
| 578 |
"mirror_text_used_for_training": False,
|
| 579 |
"mirror_encoding_defect": "U+FFFD observed in pilot; mirror used only to enumerate official notice identifiers",
|
| 580 |
-
"license_gate":
|
| 581 |
"pii_pattern_matches_replaced": dict(pii), "structured_contacts_omitted": True,
|
| 582 |
"boilerplate": {"method": "drop exact normalized narrative chunks present in >=1% and at least 100 documents",
|
| 583 |
"threshold_documents": boilerplate_threshold, "removed_chunk_hashes": len(boilerplate)},
|
| 584 |
"exact_normalized_dedup": True,
|
| 585 |
"near_dedup": {"method": "seeded MinHash 128 / LSH 0.86 candidates / exact 5-word Jaccard >=0.9", "removed": near_removed},
|
| 586 |
"cross_source_dedup": "pending target integration", "benchmark_overlap": "pending",
|
| 587 |
-
"limitations":
|
| 588 |
-
"source is institutional/legal-administrative and requires a deliberate mix cap", "official records may contain repeated form language below the frequency threshold"]}
|
| 589 |
save(root / "artifacts/stats.json", stats)
|
| 590 |
save(root / "artifacts/qa.json", qa)
|
| 591 |
input_hashes = [{"notice_id": row["notice_id"], "source_kind": row["source_kind"],
|
|
@@ -597,6 +706,62 @@ def build(out):
|
|
| 597 |
print(json.dumps(stats, ensure_ascii=False, indent=2), flush=True)
|
| 598 |
|
| 599 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 600 |
def checksums(root):
|
| 601 |
excluded = {"artifacts/checksums.json", "artifacts/ontology.json", "artifacts/validation_run.json"}
|
| 602 |
return {path.relative_to(root).as_posix(): sha(path.read_bytes()) for path in sorted(root.rglob("*"))
|
|
@@ -902,10 +1067,13 @@ if __name__ == "__main__":
|
|
| 902 |
parser.add_argument("--output", type=Path, required=True)
|
| 903 |
parser.add_argument("--workers", type=int, default=12)
|
| 904 |
parser.add_argument("--limit", type=int, default=0)
|
| 905 |
-
parser.add_argument("
|
|
|
|
| 906 |
args = parser.parse_args()
|
| 907 |
if args.command == "acquire":
|
| 908 |
acquire(args.output, args.workers, args.limit)
|
|
|
|
|
|
|
| 909 |
elif args.command == "prepare":
|
| 910 |
raise SystemExit("prepare is executed by publish against the current target revision")
|
| 911 |
else:
|
|
|
|
| 37 |
SEARCH_API_URL = "https://api.ted.europa.eu/v3/notices/search"
|
| 38 |
FIELDS = ["id", "text", "source", "added", "created", "token_count", "license", "author"]
|
| 39 |
UA = "TEDPolishCorpusResearch/1.0 (PiotrSty; open research dataset)"
|
| 40 |
+
LICENSE_GATE = ("two bases, both needed: (1) TED legal notice / Publications Office reuse terms, "
|
| 41 |
+
"https://ted.europa.eu/en/legal-notice; (2) for notices drafted by Polish contracting authorities, the Polish "
|
| 42 |
+
"public-body basis (Copyright Act art. 4 pt 2; Open Data Act, Dz.U. 2023 poz. 1524, arts 2, 3, 5, 6); "
|
| 43 |
+
"exceptions for third-party works and identifiable private individuals remain reviewable per notice; "
|
| 44 |
+
"see ted_pl.license-evidence.json")
|
| 45 |
+
LIMITATIONS = [
|
| 46 |
+
"personal names of contact persons in free text are not de-identified here; the SlayerLab/NERGAL pass must run before release",
|
| 47 |
+
"pattern redaction only: some unlabelled phone numbers, IBAN account numbers and role mailboxes with a missing domain can remain",
|
| 48 |
+
"labelled PESEL/NIP/REGON numbers are redacted whether they belong to a person or a company; identifiers without such a label (KRS numbers, bank accounts) stay in the text, including any printed next to a sole trader's name",
|
| 49 |
+
"third-party works and per-notice exceptions require review",
|
| 50 |
+
"source is institutional/legal-administrative and requires a deliberate mix cap",
|
| 51 |
+
"official records may contain repeated form language below the frequency threshold",
|
| 52 |
+
]
|
| 53 |
TEXT_TAGS = {"Name", "Title", "Description", "Note", "DocumentDescription", "ProcessReason", "ChangeDescription"}
|
| 54 |
EXCLUDED_ANCESTORS = {"Organization", "Company", "PartyName", "PostalAddress", "Contact", "PartyLegalEntity", "Person"}
|
| 55 |
+
# Email: also catches addresses with a space after a dot ("urzad.gmina. pl"), a stray dot after the @, national letters and unusual TLDs.
|
| 56 |
+
_TLD = r"(?i:pl|com|eu|org|net|edu|info|gov)"
|
| 57 |
+
EMAIL_RE = re.compile(
|
| 58 |
+
r"[\w.%+-]+@\.?(?:[\w-]+\.[ \t\xa0]?)+?" + _TLD + r"(?:\." + _TLD + r")*(?![a-ząćęłńóśźż])"
|
| 59 |
+
r"|[\w.%+-]+@\.?[\w-]+(?:\.[\w-]+)*\.[^\W\d_]{2,}\b"
|
| 60 |
)
|
| 61 |
+
# Phones. Labelled numbers ("tel.", "telefonu", "fax", ...) are cut at the first 9 digits (10 after a leading 0,
|
| 62 |
+
# 13 after "+"); unlabelled numbers need a recognisable shape. Amounts ("100 000 000,00 PLN"), CPV codes, dates and
|
| 63 |
+
# longer digit runs are left alone.
|
| 64 |
+
LABELLED_PHONE_RE = re.compile(
|
| 65 |
+
r"(?i)(?<!\w)(?:tel(?:efon(?:u|ów|em|ie|icznie)?)?|fax|faks|kom(?:órka)?|gsm|mobile|phone)(?![^\W\d_])(?!\])"
|
| 66 |
+
r"[^\d\n]{0,20}?(?P<num>\(?\+?[ \t]?\(?\d[\d \t()./\-–]{4,24}\d)"
|
| 67 |
+
)
|
| 68 |
+
BARE_PHONE_RE = re.compile(r"(?<![\w])(?<!\d[ .-])\d{3}[ .-]\d{3}[ .-]\d{3}(?!\d|[ .-]\d)")
|
| 69 |
+
PREFIXED_PHONE_RE = re.compile(
|
| 70 |
+
r"(?<![\w+])(?:(?:\(\+?\d{2}\)|\+[ \t]?\d{2})[ \t.\-]?\(?\d{2,3}\)?(?:[ \t.\-]?\d){5,8}"
|
| 71 |
+
r"|\(\d{2,3}\)[ \t.\-]?\d(?:[ \t.\-]?\d){5,8})(?!\d)"
|
| 72 |
+
)
|
| 73 |
+
DASHED_PHONE_RE = re.compile(r"(?<![\w/.,\-])\d{2}[/-]\d{3}-\d{2}-\d{2}(?![\d\-])")
|
| 74 |
+
# Unspaced 9-digit number after "word - " ("skontaktować się z A.Decem - 815384157"); amounts and ...000000 are kept by _bare_phone.
|
| 75 |
+
UNSPACED_PHONE_RE = re.compile(r"(?<=[^\W\d_][ \t][-–][ \t])[1-9]\d{8}(?![\w]|[.,]\d)")
|
| 76 |
+
# Second number of a pair ("tel. 22 123 45 67 lub 22 765 43 21"): only a 9-digit number that starts with a 2-digit area code.
|
| 77 |
+
CONTINUED_PHONE_RE = re.compile(
|
| 78 |
+
r"(?<=\[Telefon\])(?P<sep>[ \t]*(?:,|;|/|lub|oraz)[ \t]*)(?P<num>\d{2}(?:[ \t.-]\d{2,4}){2,3})(?!\d|,\d|[ \t.-]\d)"
|
| 79 |
+
)
|
| 80 |
+
_DATE_RE = re.compile(r"\d{4}-\d{2}-\d{2}|\d{1,2}[.-]\d{1,2}[.-]\d{4}")
|
| 81 |
+
_CPV_RE = re.compile(r"\d{8}-\d\b")
|
| 82 |
+
_AMOUNT_AFTER_RE = re.compile(r"(?i)[,.]\d|[ \t]*(?:zł|pln|eur|euro|€|usd|%|m2|m²|kwh|mwh|szt|kg|brutto|netto)")
|
| 83 |
NATIONAL_ID_RE = re.compile(r"(?i)\b(?:PESEL|NIP|REGON)\s*:?[ \t]*(?:\d[ -]?){9,14}\b")
|
| 84 |
THREAD_LOCAL = threading.local()
|
| 85 |
API_NARRATIVE_FIELDS = (
|
|
|
|
| 138 |
return re.sub(r"\n{3,}", "\n\n", "\n".join(lines)).strip()
|
| 139 |
|
| 140 |
|
| 141 |
+
def _phone_end(number):
|
| 142 |
+
"""Length of the phone-number prefix of `number`, 0 when it is a date, CPV code or too short."""
|
| 143 |
+
number = re.split(r"\.[ \t]", number)[0]
|
| 144 |
+
if _DATE_RE.match(number.lstrip("(+ \t")) or _CPV_RE.match(number):
|
| 145 |
+
return 0
|
| 146 |
+
digits = re.sub(r"\D", "", number)
|
| 147 |
+
if len(digits) < 7:
|
| 148 |
+
return 0
|
| 149 |
+
limit = min(len(digits), 13 if "+" in number else 10 if digits.startswith("0") else 9)
|
| 150 |
+
seen = 0
|
| 151 |
+
for position, char in enumerate(number):
|
| 152 |
+
seen += char.isdigit()
|
| 153 |
+
if seen == limit:
|
| 154 |
+
return position + 1
|
| 155 |
+
|
| 156 |
+
|
| 157 |
+
def _labelled_phone(match):
|
| 158 |
+
"""Replace the number only: the label ("Tel.:") and the space after it stay."""
|
| 159 |
+
number = match.group("num")
|
| 160 |
+
end = _phone_end(number)
|
| 161 |
+
if not end:
|
| 162 |
+
return match.group(0)
|
| 163 |
+
keep = match.start("num") + len(number) - len(number.lstrip(" \t"))
|
| 164 |
+
return match.string[match.start():keep] + "[Telefon]" + match.string[match.start("num") + end:match.end()]
|
| 165 |
+
|
| 166 |
+
|
| 167 |
+
def _bare_phone(match):
|
| 168 |
+
digits = re.sub(r"\D", "", match.group(0))
|
| 169 |
+
if digits.endswith("000000") or _AMOUNT_AFTER_RE.match(match.string, match.end()):
|
| 170 |
+
return match.group(0)
|
| 171 |
+
return "[Telefon]"
|
| 172 |
+
|
| 173 |
+
|
| 174 |
+
def _continued_phone(match):
|
| 175 |
+
number = match.group("num")
|
| 176 |
+
return match.group("sep") + "[Telefon]" if len(re.sub(r"\D", "", number)) == 9 and "000" not in number else match.group(0)
|
| 177 |
+
|
| 178 |
+
|
| 179 |
+
def _sub(pattern, handler, text):
|
| 180 |
+
"""re.sub that counts only the matches the handler actually changed."""
|
| 181 |
+
hits = 0
|
| 182 |
+
|
| 183 |
+
def run(match):
|
| 184 |
+
nonlocal hits
|
| 185 |
+
out = handler(match)
|
| 186 |
+
hits += out != match.group(0)
|
| 187 |
+
return out
|
| 188 |
+
|
| 189 |
+
return pattern.sub(run, text), hits
|
| 190 |
+
|
| 191 |
+
|
| 192 |
def redact_pii(text):
|
| 193 |
counts = Counter()
|
| 194 |
text, counts["email"] = EMAIL_RE.subn("[PII]", text)
|
| 195 |
text, counts["national_id"] = NATIONAL_ID_RE.subn("[PII]", text)
|
| 196 |
+
text, counts["phone"] = _sub(LABELLED_PHONE_RE, _labelled_phone, text)
|
| 197 |
+
for pattern, handler in ((BARE_PHONE_RE, _bare_phone), (UNSPACED_PHONE_RE, _bare_phone),
|
| 198 |
+
(PREFIXED_PHONE_RE, lambda m: "[Telefon]"), (DASHED_PHONE_RE, lambda m: "[Telefon]")):
|
| 199 |
+
text, hits = _sub(pattern, handler, text)
|
| 200 |
+
counts["phone"] += hits
|
| 201 |
+
hits = 1
|
| 202 |
+
while hits:
|
| 203 |
+
text, hits = _sub(CONTINUED_PHONE_RE, _continued_phone, text)
|
| 204 |
+
counts["phone"] += hits
|
| 205 |
return normalize(text), dict(counts)
|
| 206 |
|
| 207 |
|
|
|
|
| 289 |
return index
|
| 290 |
|
| 291 |
|
| 292 |
+
def shipped_index(data):
|
| 293 |
+
"""Index of exactly the notices in the shipped contribution; the mirror files are not downloaded again."""
|
| 294 |
+
index = [{"notice_id": item["notice_id"], "mirror_url": item["mirror_record_url"], "official_xml_url": item["official_xml_url"],
|
| 295 |
+
"date": datetime.strptime(item["created"], "%Y-%m-%d").strftime("%d/%m/%Y") if item["created"] != "unknown" else ""}
|
| 296 |
+
for item in read_lines(data / f"{SOURCE}.attribution.jsonl")]
|
| 297 |
+
index.sort(key=lambda row: row["notice_id"])
|
| 298 |
+
assert [date_iso(row["date"]) for row in index] == [item["created"] for item in sorted(
|
| 299 |
+
read_lines(data / f"{SOURCE}.attribution.jsonl"), key=lambda row: row["notice_id"])]
|
| 300 |
+
return index
|
| 301 |
+
|
| 302 |
+
|
| 303 |
def fetch_one(out, item):
|
| 304 |
year = item["notice_id"].rsplit("-", 1)[-1]
|
| 305 |
path = out / "raw_xml" / year / (item["notice_id"] + ".xml")
|
|
|
|
| 574 |
return parse_official_xml(payload), record["xml_sha256"]
|
| 575 |
|
| 576 |
|
| 577 |
+
def pick_samples(rows):
|
| 578 |
+
return sorted(rows, key=lambda row: (abs(row["token_count"] - 1500), sha(("sample:" + row["id"]).encode("utf-8"))))[:12]
|
| 579 |
+
|
| 580 |
+
|
| 581 |
+
def build(out, added=None):
|
| 582 |
import pyarrow as pa
|
| 583 |
import pyarrow.parquet as pq
|
| 584 |
import tiktoken
|
|
|
|
| 601 |
encoder = tiktoken.get_encoding("cl100k_base")
|
| 602 |
identifier = LanguageIdentifier.from_modelstring(model, norm_probs=True)
|
| 603 |
identifier.set_languages(["pl", "en", "de", "cs", "sk", "uk", "ru"])
|
| 604 |
+
added = added or inventory["created_at"][:10]
|
| 605 |
rows, attribution, decisions = [], [], []
|
| 606 |
seen = {}
|
| 607 |
reject_counts = Counter()
|
|
|
|
| 666 |
pq.write_table(pa.Table.from_pylist(rows, schema=schema), root / "data/train-00000-of-00001.parquet", compression="zstd")
|
| 667 |
write_lines(root / "artifacts/attribution.jsonl", attribution)
|
| 668 |
write_lines(root / "artifacts/decisions.jsonl", decisions)
|
| 669 |
+
samples = pick_samples(rows)
|
|
|
|
| 670 |
write_lines(root / "artifacts/sample.jsonl", samples)
|
| 671 |
source_index = [{
|
| 672 |
"notice_id": record["notice_id"], "date": record["date"], "mirror_url": record["mirror_url"],
|
|
|
|
| 687 |
qa = {"official_sources_only": True, "source_protocol": "official TED Search API narrative fields with official XML fallback",
|
| 688 |
"mirror_text_used_for_training": False,
|
| 689 |
"mirror_encoding_defect": "U+FFFD observed in pilot; mirror used only to enumerate official notice identifiers",
|
| 690 |
+
"license_gate": LICENSE_GATE,
|
| 691 |
"pii_pattern_matches_replaced": dict(pii), "structured_contacts_omitted": True,
|
| 692 |
"boilerplate": {"method": "drop exact normalized narrative chunks present in >=1% and at least 100 documents",
|
| 693 |
"threshold_documents": boilerplate_threshold, "removed_chunk_hashes": len(boilerplate)},
|
| 694 |
"exact_normalized_dedup": True,
|
| 695 |
"near_dedup": {"method": "seeded MinHash 128 / LSH 0.86 candidates / exact 5-word Jaccard >=0.9", "removed": near_removed},
|
| 696 |
"cross_source_dedup": "pending target integration", "benchmark_overlap": "pending",
|
| 697 |
+
"limitations": LIMITATIONS}
|
|
|
|
| 698 |
save(root / "artifacts/stats.json", stats)
|
| 699 |
save(root / "artifacts/qa.json", qa)
|
| 700 |
input_hashes = [{"notice_id": row["notice_id"], "source_kind": row["source_kind"],
|
|
|
|
| 706 |
print(json.dumps(stats, ensure_ascii=False, indent=2), flush=True)
|
| 707 |
|
| 708 |
|
| 709 |
+
def install(out, data):
|
| 710 |
+
"""Replace parquet, attribution, sample, stats and qa in `data` with the rebuild in `out`.
|
| 711 |
+
|
| 712 |
+
The document set, metadata and upstream bytes must be the shipped ones; decisions.jsonl stays as built from
|
| 713 |
+
the full 20,588-notice acquisition. Sidecars keep their line endings.
|
| 714 |
+
"""
|
| 715 |
+
import pyarrow.parquet as pq
|
| 716 |
+
built, stem = out / "hf_repo", data / SOURCE
|
| 717 |
+
old_rows = pq.read_table(f"{stem}.parquet").to_pylist()
|
| 718 |
+
rows = pq.read_table(built / "data/train-00000-of-00001.parquet").to_pylist()
|
| 719 |
+
if [row["id"] for row in rows] != [row["id"] for row in old_rows]:
|
| 720 |
+
raise ValueError("rebuilt document set differs from the shipped one")
|
| 721 |
+
fixed = [field for field in FIELDS if field not in ("text", "token_count")]
|
| 722 |
+
for new, old in zip(rows, old_rows):
|
| 723 |
+
if any(new[field] != old[field] for field in fixed):
|
| 724 |
+
raise ValueError("metadata changed for " + new["id"])
|
| 725 |
+
attribution = read_lines(built / "artifacts/attribution.jsonl")
|
| 726 |
+
old_hash = {item["id"]: item["source_sha256"] for item in read_lines(Path(f"{stem}.attribution.jsonl"))}
|
| 727 |
+
if any(item["source_sha256"] != old_hash[item["id"]] for item in attribution):
|
| 728 |
+
raise ValueError("TED source bytes changed since the shipped build")
|
| 729 |
+
text_files = [Path(f"{stem}.{name}") for name in ("attribution.jsonl", "sample.jsonl", "stats.json", "qa.json")]
|
| 730 |
+
crlf = {path: b"\r\n" in path.read_bytes() for path in text_files} # the contribution was committed with CRLF
|
| 731 |
+
built_stats, built_qa = load(built / "artifacts/stats.json"), load(built / "artifacts/qa.json")
|
| 732 |
+
stats = load(Path(f"{stem}.stats.json"))
|
| 733 |
+
qa = load(Path(f"{stem}.qa.json"))
|
| 734 |
+
qa.pop("pii_rescrub", None)
|
| 735 |
+
qa["pii_rebuild"] = {
|
| 736 |
+
"documents": len(rows), "tokens_before": sum(row["token_count"] for row in old_rows), "tokens_after": built_stats["tokens"],
|
| 737 |
+
"previous_pii_pattern_matches_replaced": qa["pii_pattern_matches_replaced"],
|
| 738 |
+
"boilerplate_threshold_documents": built_qa["boilerplate"]["threshold_documents"],
|
| 739 |
+
"boilerplate_chunks_removed": built_qa["boilerplate"]["removed_chunk_hashes"],
|
| 740 |
+
"note": "text rebuilt from the raw TED API/XML of the shipped notices with redact_pii applied once; "
|
| 741 |
+
"pii_pattern_matches_replaced now counts these documents, the previous counters covered the original 20,588-notice build"}
|
| 742 |
+
qa.update(license_gate=LICENSE_GATE, limitations=LIMITATIONS, pii_pattern_matches_replaced=built_qa["pii_pattern_matches_replaced"])
|
| 743 |
+
stats.update(tokens=built_stats["tokens"], characters=built_stats["characters"], sample_count=built_stats["sample_count"])
|
| 744 |
+
shutil.copy2(built / "data/train-00000-of-00001.parquet", f"{stem}.parquet")
|
| 745 |
+
write_lines(Path(f"{stem}.attribution.jsonl"), attribution)
|
| 746 |
+
write_lines(Path(f"{stem}.sample.jsonl"), pick_samples(rows))
|
| 747 |
+
save(Path(f"{stem}.stats.json"), stats)
|
| 748 |
+
save(Path(f"{stem}.qa.json"), qa)
|
| 749 |
+
for path in text_files:
|
| 750 |
+
if crlf[path]:
|
| 751 |
+
path.write_bytes(path.read_bytes().replace(b"\n", b"\r\n"))
|
| 752 |
+
print(json.dumps(qa["pii_rebuild"], ensure_ascii=False, indent=2), flush=True)
|
| 753 |
+
|
| 754 |
+
|
| 755 |
+
def rebuild(out, data, workers):
|
| 756 |
+
"""Re-acquire exactly the shipped notices from TED, build them with the current redact_pii and install the result in `data`."""
|
| 757 |
+
write_lines(out / "source_index.jsonl", shipped_index(data))
|
| 758 |
+
save(out / "source_files.json", {"mirror": MIRROR, "revision": MIRROR_REVISION, "years": list(YEARS),
|
| 759 |
+
"note": "index restricted to the shipped notice ids; mirror files not downloaded again"})
|
| 760 |
+
acquire(out, workers, 0)
|
| 761 |
+
build(out, added=load(data / f"{SOURCE}.stats.json")["added"])
|
| 762 |
+
install(out, data)
|
| 763 |
+
|
| 764 |
+
|
| 765 |
def checksums(root):
|
| 766 |
excluded = {"artifacts/checksums.json", "artifacts/ontology.json", "artifacts/validation_run.json"}
|
| 767 |
return {path.relative_to(root).as_posix(): sha(path.read_bytes()) for path in sorted(root.rglob("*"))
|
|
|
|
| 1067 |
parser.add_argument("--output", type=Path, required=True)
|
| 1068 |
parser.add_argument("--workers", type=int, default=12)
|
| 1069 |
parser.add_argument("--limit", type=int, default=0)
|
| 1070 |
+
parser.add_argument("--data", type=Path, default=Path("data") / SOURCE, help="shipped contribution folder for rebuild")
|
| 1071 |
+
parser.add_argument("command", choices=["acquire", "build", "rebuild", "prepare", "verify", "publish", "audit"])
|
| 1072 |
args = parser.parse_args()
|
| 1073 |
if args.command == "acquire":
|
| 1074 |
acquire(args.output, args.workers, args.limit)
|
| 1075 |
+
elif args.command == "rebuild":
|
| 1076 |
+
rebuild(args.output, args.data, args.workers)
|
| 1077 |
elif args.command == "prepare":
|
| 1078 |
raise SystemExit("prepare is executed by publish against the current target revision")
|
| 1079 |
else:
|
src/sources.py
CHANGED
|
@@ -468,16 +468,34 @@ SOURCES = {
|
|
| 468 |
"pretty": "TED Polish public-procurement notices",
|
| 469 |
"license": "TED notice reuse terms",
|
| 470 |
"license_spdx": "LicenseRef-TED-Notice-Reuse",
|
| 471 |
-
"traceable": "
|
| 472 |
-
"
|
| 473 |
-
"
|
| 474 |
-
"
|
| 475 |
-
"
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 476 |
"upstream": "https://ted.europa.eu/",
|
| 477 |
"provenance": "Pinned PiotrSty/ted-polish-procurement-notices snapshot; PleIAs/TEDEUTenders "
|
| 478 |
"is used only as a pinned identifier index, while text is rebuilt from official "
|
| 479 |
"TED Search API narrative fields with official XML fallback. Pattern PII "
|
| 480 |
-
"redaction only -
|
|
|
|
|
|
|
| 481 |
"domain": "public procurement / institutional / technical",
|
| 482 |
"created": "2023-02-15, 2024-05-15",
|
| 483 |
"is_ocr": False,
|
|
|
|
| 468 |
"pretty": "TED Polish public-procurement notices",
|
| 469 |
"license": "TED notice reuse terms",
|
| 470 |
"license_spdx": "LicenseRef-TED-Notice-Reuse",
|
| 471 |
+
"traceable": "Two bases, recorded separately; neither is lawyer-signed-off. (1) EU: TED legal "
|
| 472 |
+
"notice (https://ted.europa.eu/en/legal-notice, read 2026-10-05): \"Unless otherwise "
|
| 473 |
+
"noted, the procurement notices published in the Supplement to the Official Journal "
|
| 474 |
+
"of the European Union can be freely reused, for commercial or non-commercial "
|
| 475 |
+
"purposes.\" The notice names Commission Decision 2011/833/EU of 12 December 2011 as "
|
| 476 |
+
"its reuse policy; the Decision itself covers Commission documents (arts 1, 2(1)). "
|
| 477 |
+
"SIMAP metadata is CC0 and SIMAP editorial content is CC BY 4.0; neither is the "
|
| 478 |
+
"grant for notice text. (2) PL: notices drafted by Polish contracting authorities - "
|
| 479 |
+
"Prawo autorskie art. 4 pkt 2 (Dz.U. 2025 poz. 24: official documents are not "
|
| 480 |
+
"subject to copyright) and, for obliged public bodies, the Open Data Act "
|
| 481 |
+
"(Dz.U. 2023 poz. 1524, art. 2 pkt 8, art. 3, art. 14 ust. 1; art. 6 ust. 2 limits "
|
| 482 |
+
"reuse for natural persons' privacy). Official Search API/XML provenance and "
|
| 483 |
+
"SHA-256 are preserved per record. Clause text, URLs and page hashes: "
|
| 484 |
+
"data/ted_pl/ted_pl.license-evidence.json.",
|
| 485 |
+
"legal_note": "Not lawyer-signed-off. The PL basis is an inference: Open Data Act art. 5 covers "
|
| 486 |
+
"information in the obliged entity's own BIP/system whereas TED is an EU system; "
|
| 487 |
+
"about 20% of authors carry a company form (heuristic), and not every company is a "
|
| 488 |
+
"podmiot zobowiazany; treating a tender notice as an official document under "
|
| 489 |
+
"art. 4 pkt 2 is untested. The TED notice itself excepts third-party works and "
|
| 490 |
+
"identifiable private individuals, so per-notice exceptions are not cleared. "
|
| 491 |
+
"Admission waits for the NERGAL pass (v2#60).",
|
| 492 |
"upstream": "https://ted.europa.eu/",
|
| 493 |
"provenance": "Pinned PiotrSty/ted-polish-procurement-notices snapshot; PleIAs/TEDEUTenders "
|
| 494 |
"is used only as a pinned identifier index, while text is rebuilt from official "
|
| 495 |
"TED Search API narrative fields with official XML fallback. Pattern PII "
|
| 496 |
+
"redaction only (e-mail, phone, labelled national IDs; v0.2.6 rebuilt the "
|
| 497 |
+
"shipped 15,544 notices from the raw TED API with the extended patterns, applied once); "
|
| 498 |
+
"personal names are not redacted - re-run through SlayerLab/NERGAL before release.",
|
| 499 |
"domain": "public procurement / institutional / technical",
|
| 500 |
"created": "2023-02-15, 2024-05-15",
|
| 501 |
"is_ocr": False,
|
src/test_ted_pl_contract.py
ADDED
|
@@ -0,0 +1,259 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
"""Contract tests for the ted_pl PII rules and the rebuild from the raw TED text (v0.2.6, v2#57, v2#60)."""
|
| 2 |
+
from __future__ import annotations
|
| 3 |
+
|
| 4 |
+
import json
|
| 5 |
+
import re
|
| 6 |
+
import sys
|
| 7 |
+
from pathlib import Path
|
| 8 |
+
|
| 9 |
+
import pytest
|
| 10 |
+
|
| 11 |
+
sys.path.insert(0, str(Path(__file__).resolve().parent))
|
| 12 |
+
|
| 13 |
+
import build_ted_pl as ted # noqa: E402
|
| 14 |
+
|
| 15 |
+
DATA = Path(__file__).resolve().parents[1] / "data" / "ted_pl"
|
| 16 |
+
|
| 17 |
+
|
| 18 |
+
def redact(text):
|
| 19 |
+
return ted.redact_pii(text)[0]
|
| 20 |
+
|
| 21 |
+
|
| 22 |
+
@pytest.mark.parametrize("raw", [
|
| 23 |
+
"adres: przetargi@kpnmab. pl oraz",
|
| 24 |
+
"odwołania@uzp.gov.pl",
|
| 25 |
+
"dcopih@ezamawiający.pl",
|
| 26 |
+
"au.suzbr@mon. gov.pl",
|
| 27 |
+
"jan.kowalski@gmina-przykład.example",
|
| 28 |
+
"adres e-mail: tod@.wodociagi.katowice.pl. Faktury",
|
| 29 |
+
])
|
| 30 |
+
def test_email_forms_are_redacted(raw):
|
| 31 |
+
assert "@" not in redact(raw) and "[PII]" in redact(raw)
|
| 32 |
+
|
| 33 |
+
|
| 34 |
+
@pytest.mark.parametrize("raw", [
|
| 35 |
+
"projektu „Cyfrowa Szkoła Wielkopolsk@ 2030”",
|
| 36 |
+
"„Mieszk@niec” oraz „Dl@”",
|
| 37 |
+
"....@....",
|
| 38 |
+
"e-mail: iod@ .pl", # domain missing in the notice itself, nothing to leak
|
| 39 |
+
])
|
| 40 |
+
def test_non_emails_are_left_alone(raw):
|
| 41 |
+
assert redact(raw) == raw
|
| 42 |
+
|
| 43 |
+
|
| 44 |
+
@pytest.mark.parametrize("raw", [
|
| 45 |
+
"tel. 34/367-30-00 e-mail",
|
| 46 |
+
"Tel.: +48 22457801 Faks",
|
| 47 |
+
"telefonu (22) 458 77 99 lub",
|
| 48 |
+
"numer telefonu: 74 888-05-60.",
|
| 49 |
+
"telefonicznie pod numerem 32 765 11 16.",
|
| 50 |
+
"fax:+48(42)272-60-01,",
|
| 51 |
+
"tel. + 41 22 799 49 00",
|
| 52 |
+
"kontakt +48 71 787 35 34 (infolinia)",
|
| 53 |
+
"Sekretariat: (22) 458 78 01,",
|
| 54 |
+
"kierownik: Anna Przykładowa, 94/348-44-32;",
|
| 55 |
+
"tel.: 65-529-49-34, fax",
|
| 56 |
+
"skontaktować się z A.Decem - 815384157, e-mail",
|
| 57 |
+
])
|
| 58 |
+
def test_phone_forms_are_redacted(raw):
|
| 59 |
+
out, counts = ted.redact_pii(raw)
|
| 60 |
+
assert "[Telefon]" in out and counts["phone"] >= 1
|
| 61 |
+
assert not re.search(r"\d{2,}[ /-]\d", out), out
|
| 62 |
+
|
| 63 |
+
|
| 64 |
+
def test_labelled_phone_is_cut_at_the_number():
|
| 65 |
+
# the label stays; the trailing "5" belongs to the next list item, only 9 digits are consumed
|
| 66 |
+
assert redact("Tel.: 22 1551 626 5) Zadanie") == "Tel.: [Telefon] 5) Zadanie"
|
| 67 |
+
assert redact("tel. 42/638-58-53 3.9.1.2 Zamawiający") == "tel. [Telefon] 3.9.1.2 Zamawiający"
|
| 68 |
+
|
| 69 |
+
|
| 70 |
+
def test_second_number_of_a_pair_is_redacted():
|
| 71 |
+
assert redact("tel. 22 123 45 67 lub 22 765 43 21, od poniedziałku") == "tel. [Telefon] lub [Telefon], od poniedziałku"
|
| 72 |
+
assert redact("tel. 600 100 200; 22 458 78 03") == "tel. [Telefon]; [Telefon]"
|
| 73 |
+
|
| 74 |
+
|
| 75 |
+
@pytest.mark.parametrize("raw", [
|
| 76 |
+
"kredyt w wysokości 100 000 000,00 PLN",
|
| 77 |
+
"wartość 250 000 000 zł brutto",
|
| 78 |
+
"suma 1 250 123 456 euro",
|
| 79 |
+
"gwarancja 123 456 789 zł",
|
| 80 |
+
"kod CPV 45233120-6 oraz 72611000-6",
|
| 81 |
+
"telefoniczne i przesyłu danych, 72611000-6",
|
| 82 |
+
"telefonicznych, kody CPV dodatkowe: 64216110-7",
|
| 83 |
+
"numer postępowania PUZ-2380-600 100 200/2024/DZ",
|
| 84 |
+
"rachunek PL61 1090 1014 0000 0712 1981 2874",
|
| 85 |
+
"tel. 2024-05-12 oraz telefon 04.05.2024",
|
| 86 |
+
"telefony 2.000.000 zł",
|
| 87 |
+
"w terminie 12 345 678 sztuk",
|
| 88 |
+
"kategoria A - 123456789 zł",
|
| 89 |
+
"numer identyfikacyjny: 811931430 oraz rys. nr 100613211",
|
| 90 |
+
])
|
| 91 |
+
def test_amounts_codes_and_dates_are_not_phones(raw):
|
| 92 |
+
assert redact(raw) == raw
|
| 93 |
+
|
| 94 |
+
|
| 95 |
+
def test_redaction_is_idempotent():
|
| 96 |
+
raw = "Kontakt: Jan Nowak, tel. 22 123 45 67 lub 22 765 43 21, e-mail: jan@urzad. pl, NIP: 123-456-78-90, +48 600 100 200."
|
| 97 |
+
once = redact(raw)
|
| 98 |
+
assert redact(once) == once
|
| 99 |
+
assert ted.redact_pii(once)[1] == {"email": 0, "national_id": 0, "phone": 0}
|
| 100 |
+
|
| 101 |
+
|
| 102 |
+
def test_counts_cover_each_kind():
|
| 103 |
+
_, counts = ted.redact_pii("a@b.pl, NIP: 123-456-78-90, tel. 600 100 200, (22) 458 78 01")
|
| 104 |
+
assert counts == {"email": 1, "national_id": 1, "phone": 2}
|
| 105 |
+
|
| 106 |
+
|
| 107 |
+
def _build_deps_or_skip():
|
| 108 |
+
for name in ("pyarrow", "datasketch", "langid", "tiktoken"):
|
| 109 |
+
pytest.importorskip(name)
|
| 110 |
+
import tiktoken
|
| 111 |
+
try:
|
| 112 |
+
tiktoken.get_encoding("cl100k_base")
|
| 113 |
+
except Exception as error: # offline runner without the cached vocabulary
|
| 114 |
+
pytest.skip(f"cl100k_base unavailable: {error}")
|
| 115 |
+
|
| 116 |
+
|
| 117 |
+
RAW_TEXTS = [
|
| 118 |
+
"Przedmiotem zamówienia jest dostawa sprzętu komputerowego dla szkół podstawowych na terenie gminy. Osoba do kontaktu: "
|
| 119 |
+
"Jan Nowak, tel. 600 100 200, e-mail: biuro@urzad.pl. Szacunkowa wartość zamówienia wynosi 12 345 678,90 PLN. "
|
| 120 |
+
"Zamawiający dopuszcza składanie ofert częściowych oraz przewiduje możliwość udzielenia zamówień uzupełniających.",
|
| 121 |
+
"Zakres prac obejmuje remont drogi gminnej wraz z budową chodnika, oświetlenia ulicznego i kanalizacji deszczowej. "
|
| 122 |
+
"Wykonawca zobowiązany jest do zapewnienia kierownika budowy posiadającego odpowiednie uprawnienia budowlane oraz do "
|
| 123 |
+
"zachowania terminu realizacji wskazanego w dokumentach zamówienia, z uwzględnieniem warunków atmosferycznych.",
|
| 124 |
+
]
|
| 125 |
+
|
| 126 |
+
|
| 127 |
+
def _acquired_fixture(out):
|
| 128 |
+
"""The notices of RAW_TEXTS as acquire() stores them: Search API files plus inventory.json."""
|
| 129 |
+
records = []
|
| 130 |
+
for index, text in enumerate(RAW_TEXTS):
|
| 131 |
+
notice_id = f"00000{index}-2024"
|
| 132 |
+
payload = (json.dumps({"publication-number": notice_id, "buyer-name": {"pol": ["Urząd Miasta"]},
|
| 133 |
+
"description-proc": {"pol": [text]}}, ensure_ascii=False, sort_keys=True) + "\n").encode("utf-8")
|
| 134 |
+
path = out / "raw_api" / "2024" / f"{notice_id}.json"
|
| 135 |
+
path.parent.mkdir(parents=True, exist_ok=True)
|
| 136 |
+
path.write_bytes(payload)
|
| 137 |
+
records.append({"notice_id": notice_id, "date": "03/01/2024", "mirror_url": f"https://ted.europa.eu/udl?uri=TED:NOTICE:{notice_id}:TEXT:PL:HTML",
|
| 138 |
+
"official_xml_url": f"https://ted.europa.eu/en/notice/{notice_id}/xml", "source_kind": "official_search_api",
|
| 139 |
+
"api_path": path.relative_to(out).as_posix(), "api_sha256": ted.sha(payload), "api_bytes": len(payload), "api_has_narrative": True})
|
| 140 |
+
ted.save(out / "inventory.json", {"created_at": "2026-10-06T00:00:00+00:00", "complete": True, "indexed": len(records),
|
| 141 |
+
"attempted": len(records), "acquired": len(records), "api_acquired": len(records), "xml_fallback": 0, "records": records,
|
| 142 |
+
"failures": [], "source_files": {}})
|
| 143 |
+
ted.save(out / "source_files.json", {})
|
| 144 |
+
|
| 145 |
+
|
| 146 |
+
def _shipped_fixture(out, data, crlf=True):
|
| 147 |
+
"""A shipped contribution in `data` whose texts carry the old over-redaction ("[Telefon]" for the amount)."""
|
| 148 |
+
import pyarrow as pa
|
| 149 |
+
import pyarrow.parquet as pq
|
| 150 |
+
built = pq.read_table(out / "hf_repo/data/train-00000-of-00001.parquet").to_pylist()
|
| 151 |
+
rows = [{**row, "text": row["text"].replace("12 345 678,90 PLN", "[Telefon] PLN"), "token_count": 1} for row in built]
|
| 152 |
+
data.mkdir(parents=True, exist_ok=True)
|
| 153 |
+
schema = pa.schema([(field, pa.int64() if field == "token_count" else pa.string()) for field in ted.FIELDS])
|
| 154 |
+
pq.write_table(pa.Table.from_pylist(rows, schema=schema), data / "ted_pl.parquet")
|
| 155 |
+
attribution = [{**item, "text_sha256": "old", "transformations": item["transformations"] + ["old note"]}
|
| 156 |
+
for item in ted.read_lines(out / "hf_repo/artifacts/attribution.jsonl")]
|
| 157 |
+
files = {"attribution.jsonl": "".join(json.dumps(item) + "\n" for item in attribution),
|
| 158 |
+
"sample.jsonl": "".join(json.dumps(row) + "\n" for row in rows[:1]),
|
| 159 |
+
"stats.json": json.dumps({"kept": len(rows), "indexed": 99, "tokens": 2, "characters": 2, "sample_count": 1}, indent=2) + "\n",
|
| 160 |
+
"qa.json": json.dumps({"limitations": ["old"], "license_gate": "old", "pii_rescrub": {"documents_changed": 1},
|
| 161 |
+
"pii_pattern_matches_replaced": {"phone": 7}}, indent=2) + "\n",
|
| 162 |
+
"decisions.jsonl": json.dumps({"id": "ted_pl_x"}) + "\n"}
|
| 163 |
+
for name, content in files.items():
|
| 164 |
+
(data / f"ted_pl.{name}").write_bytes(content.replace("\n", "\r\n" if crlf else "\n").encode("utf-8"))
|
| 165 |
+
return rows
|
| 166 |
+
|
| 167 |
+
|
| 168 |
+
def test_shipped_index_lists_the_shipped_notices_only(tmp_path):
|
| 169 |
+
items = [{"id": "ted_pl_9-2024", "notice_id": "9-2024", "created": "2024-02-03", "mirror_record_url": "https://m/9",
|
| 170 |
+
"official_xml_url": "https://x/9"},
|
| 171 |
+
{"id": "ted_pl_1-2023", "notice_id": "1-2023", "created": "unknown", "mirror_record_url": "https://m/1",
|
| 172 |
+
"official_xml_url": "https://x/1"}]
|
| 173 |
+
ted.write_lines(tmp_path / "ted_pl.attribution.jsonl", items)
|
| 174 |
+
assert ted.shipped_index(tmp_path) == [
|
| 175 |
+
{"notice_id": "1-2023", "mirror_url": "https://m/1", "official_xml_url": "https://x/1", "date": ""},
|
| 176 |
+
{"notice_id": "9-2024", "mirror_url": "https://m/9", "official_xml_url": "https://x/9", "date": "03/02/2024"}]
|
| 177 |
+
|
| 178 |
+
|
| 179 |
+
def test_build_applies_redact_pii_once_and_install_replaces_the_shipped_files(tmp_path):
|
| 180 |
+
_build_deps_or_skip()
|
| 181 |
+
import pyarrow.parquet as pq
|
| 182 |
+
out, data = tmp_path / "raw", tmp_path / "data"
|
| 183 |
+
_acquired_fixture(out)
|
| 184 |
+
ted.build(out, added="2026-09-08")
|
| 185 |
+
built = pq.read_table(out / "hf_repo/data/train-00000-of-00001.parquet").to_pylist()
|
| 186 |
+
assert [row["added"] for row in built] == ["2026-09-08"] * 2
|
| 187 |
+
assert "tel. [Telefon]," in built[0]["text"] and "[PII]" in built[0]["text"] # label kept, e-mail redacted
|
| 188 |
+
assert "12 345 678,90 PLN" in built[0]["text"] and "600" not in built[0]["text"]
|
| 189 |
+
old = _shipped_fixture(out, data)
|
| 190 |
+
decisions = (data / "ted_pl.decisions.jsonl").read_bytes()
|
| 191 |
+
ted.install(out, data)
|
| 192 |
+
rows = pq.read_table(data / "ted_pl.parquet").to_pylist()
|
| 193 |
+
assert [row["text"] for row in rows] == [row["text"] for row in built] and old[0]["text"] != rows[0]["text"]
|
| 194 |
+
attribution = ted.read_lines(data / "ted_pl.attribution.jsonl")
|
| 195 |
+
assert [item["text_sha256"] for item in attribution] == [ted.sha(row["text"].encode("utf-8")) for row in rows]
|
| 196 |
+
assert not any("old note" in item["transformations"] for item in attribution)
|
| 197 |
+
stats = ted.load(data / "ted_pl.stats.json")
|
| 198 |
+
assert stats["indexed"] == 99 and stats["kept"] == 2 # history of the original acquisition is kept
|
| 199 |
+
assert stats["tokens"] == sum(row["token_count"] for row in rows) > 2
|
| 200 |
+
assert stats["characters"] == sum(len(row["text"]) for row in rows) and stats["sample_count"] == 2
|
| 201 |
+
qa = ted.load(data / "ted_pl.qa.json")
|
| 202 |
+
assert qa["limitations"] == ted.LIMITATIONS and qa["license_gate"] == ted.LICENSE_GATE and "pii_rescrub" not in qa
|
| 203 |
+
assert qa["pii_pattern_matches_replaced"] == {"email": 1, "national_id": 0, "phone": 1}
|
| 204 |
+
assert qa["pii_rebuild"]["previous_pii_pattern_matches_replaced"] == {"phone": 7} and qa["pii_rebuild"]["tokens_before"] == 2
|
| 205 |
+
assert qa["pii_rebuild"]["tokens_after"] == stats["tokens"] and qa["pii_rebuild"]["documents"] == 2
|
| 206 |
+
assert [json.loads(line)["id"] for line in (data / "ted_pl.sample.jsonl").read_text(encoding="utf-8").splitlines()] == [
|
| 207 |
+
row["id"] for row in ted.pick_samples(rows)]
|
| 208 |
+
assert (data / "ted_pl.decisions.jsonl").read_bytes() == decisions
|
| 209 |
+
for name in ("attribution.jsonl", "sample.jsonl", "stats.json", "qa.json"): # CRLF is kept
|
| 210 |
+
raw = (data / f"ted_pl.{name}").read_bytes()
|
| 211 |
+
assert raw.count(b"\r\n") == raw.count(b"\n") > 0
|
| 212 |
+
|
| 213 |
+
|
| 214 |
+
def test_install_refuses_a_different_document_set_or_changed_source(tmp_path):
|
| 215 |
+
_build_deps_or_skip()
|
| 216 |
+
import pyarrow as pa
|
| 217 |
+
import pyarrow.parquet as pq
|
| 218 |
+
out, data = tmp_path / "raw", tmp_path / "data"
|
| 219 |
+
_acquired_fixture(out)
|
| 220 |
+
ted.build(out, added="2026-09-08")
|
| 221 |
+
rows = _shipped_fixture(out, data, crlf=False)
|
| 222 |
+
schema = pa.schema([(field, pa.int64() if field == "token_count" else pa.string()) for field in ted.FIELDS])
|
| 223 |
+
pq.write_table(pa.Table.from_pylist(rows[:1], schema=schema), data / "ted_pl.parquet")
|
| 224 |
+
with pytest.raises(ValueError, match="document set"):
|
| 225 |
+
ted.install(out, data)
|
| 226 |
+
_shipped_fixture(out, data, crlf=False)
|
| 227 |
+
attribution = ted.read_lines(data / "ted_pl.attribution.jsonl")
|
| 228 |
+
attribution[0]["source_sha256"] = "0" * 64
|
| 229 |
+
ted.write_lines(data / "ted_pl.attribution.jsonl", attribution)
|
| 230 |
+
with pytest.raises(ValueError, match="source bytes changed"):
|
| 231 |
+
ted.install(out, data)
|
| 232 |
+
|
| 233 |
+
|
| 234 |
+
def _shipped_rows():
|
| 235 |
+
pq = pytest.importorskip("pyarrow.parquet")
|
| 236 |
+
path = DATA / "ted_pl.parquet"
|
| 237 |
+
if path.read_bytes()[:20] == b"version https://git-":
|
| 238 |
+
pytest.skip("parquet is an LFS pointer in this checkout")
|
| 239 |
+
return pq.read_table(path).to_pylist()
|
| 240 |
+
|
| 241 |
+
|
| 242 |
+
def test_shipped_text_has_no_residual_email_or_phone():
|
| 243 |
+
rows = _shipped_rows()
|
| 244 |
+
assert not [row["id"] for row in rows if ted.EMAIL_RE.search(row["text"])]
|
| 245 |
+
# redact_pii is a fixed point on the shipped text: nothing it knows about is left
|
| 246 |
+
assert not [row["id"] for row in rows if ted.redact_pii(row["text"]) != (row["text"], {"email": 0, "national_id": 0, "phone": 0})]
|
| 247 |
+
|
| 248 |
+
|
| 249 |
+
def test_shipped_sidecars_match_the_parquet():
|
| 250 |
+
rows = _shipped_rows()
|
| 251 |
+
stats = ted.load(DATA / "ted_pl.stats.json")
|
| 252 |
+
assert stats["kept"] == len(rows) and stats["tokens"] == sum(row["token_count"] for row in rows)
|
| 253 |
+
assert stats["characters"] == sum(len(row["text"]) for row in rows)
|
| 254 |
+
attribution = {item["id"]: item for item in ted.read_lines(DATA / "ted_pl.attribution.jsonl")}
|
| 255 |
+
assert all(attribution[row["id"]]["text_sha256"] == ted.sha(row["text"].encode("utf-8")) for row in rows)
|
| 256 |
+
assert [item["id"] for item in ted.read_lines(DATA / "ted_pl.sample.jsonl")] == [row["id"] for row in ted.pick_samples(rows)]
|
| 257 |
+
qa = ted.load(DATA / "ted_pl.qa.json")
|
| 258 |
+
assert qa["license_gate"] == ted.LICENSE_GATE and qa["limitations"] == ted.LIMITATIONS
|
| 259 |
+
assert qa["pii_rebuild"]["tokens_after"] == stats["tokens"] and qa["pii_rebuild"]["documents"] == len(rows)
|