Datasets:
Diavgeia complement — αποφάσεις της Διαύγειας που λείπουν από το glossAPI/diavgeia
Συμπληρωματικό σύνολο δεδομένων στο glossAPI/diavgeia. Περιέχει ~11,6 εκατομμύρια αναρτημένες πράξεις της Διαύγειας (2010–2026) με πλήρες κείμενο, οι οποίες δεν υπάρχουν στο glossAPI/diavgeia. Τα δύο σύνολα μαζί καλύπτουν πολύ μεγαλύτερο μέρος της Διαύγειας από το καθένα χωριστά.
Η συλλογή και η επεξεργασία έγιναν στο πλαίσιο του diafaneia.ai, μιας ανοιχτής πλατφόρμας για τη διαφάνεια των δημόσιων δαπανών.
Έκδοση v1. Ετοιμάζουμε ήδη τη v2: διορθωμένα κείμενα για πράξεις όπου το κείμενο στο glossAPI/diavgeia είναι αλλοιωμένο (σπασμένη κωδικοποίηση γραμματοσειρών, κενά OCR) και επιπλέον πράξεις που λείπουν και από τα δύο σύνολα.
Πώς προέκυψε
- Συγκρίναμε τους ΑΔΑ (μοναδικούς κωδικούς πράξεων) των δύο συνόλων.
- glossAPI/diavgeia: 63.161.382 μοναδικοί ΑΔΑ (+13.962 διπλότυπες γραμμές).
- diafaneia.ai: ~75,9 εκατ. ΑΔΑ με κείμενο.
- Κοινοί: 61,4 εκατ.
- Από τους ΑΔΑ που έχουμε εμείς και δεν έχει το glossAPI (12,9 εκατ.), κρατήσαμε μόνο όσους το κείμενό τους δεν σημαδεύτηκε ως αλλοιωμένο από τον ποιοτικό μας έλεγχο → 11.624.760 πράξεις.
Στήλες
Οι τρεις πρώτες στήλες είναι ίδιες με του glossAPI/diavgeia, ώστε τα δύο σύνολα να ενώνονται απευθείας.
| στήλη | περιγραφή |
|---|---|
id |
ΑΔΑ της πράξης |
markdown_text |
πλήρες κείμενο του PDF (εξαγωγή κειμένου ή OCR) |
metadata_json |
μεταδεδομένα της Διαύγειας (θέμα, ημ. έκδοσης σε ms, φορέας, υπογράφοντες, μονάδες, τύπος πράξης, θεματικές, πρόσθετα πεδία) |
status |
κατάσταση στη Διαύγεια (π.χ. PUBLISHED) |
publish_date |
ημερομηνία ανάρτησης (YYYY-MM-DD) |
chars |
πλήθος χαρακτήρων κειμένου |
n_pages |
σελίδες του PDF |
document_url |
σύνδεσμος στο πρωτότυπο έγγραφο |
source |
diafaneia.ai |
Τα αρχεία είναι οργανωμένα ανά έτος ανάρτησης: data/YYYY/*.parquet (~13 GB συνολικά, zstd).
| έτος | πράξεις | έτος | πράξεις |
|---|---|---|---|
| 2010 | 167 | 2019 | 3.361 |
| 2011 | 5.430 | 2020 | 25.938 |
| 2012 | 5.932 | 2021 | 1.345.980 |
| 2013 | 4.382 | 2022 | 839.176 |
| 2014 | 155.568 | 2023 | 1.442.748 |
| 2015 | 94.161 | 2024 | 396.218 |
| 2016 | 12.773 | 2025 | 2.879.973 |
| 2017 | 5.819 | 2026 | 4.162.199 |
| 2018 | 244.935 | σύνολο | 11.624.760 |
Χρήση
from datasets import load_dataset
ds = load_dataset("ntouniskonstantinos/diavgeia-complement", split="train", streaming=True)
Ένωση με το glossAPI/diavgeia: ένωση γραμμών (concatenate) με κλειδί id· οι δύο λίστες ΑΔΑ δεν επικαλύπτονται.
Προσωπικά δεδομένα — παρακαλούμε διαβάστε
Οι πράξεις της Διαύγειας είναι δημόσια έγγραφα, αλλά τα κείμενά τους μπορεί να περιέχουν ονόματα και άλλα στοιχεία φυσικών προσώπων (π.χ. υπογράφοντες, δικαιούχους, υπαλλήλους). Η ανάρτησή τους στη Διαύγεια γίνεται για λόγους διαφάνειας της δημόσιας διοίκησης. Χρησιμοποιήστε το σύνολο μόνο για έρευνα, εκπαίδευση γλωσσικών μοντέλων και διαφάνεια, σε συμμόρφωση με τον ΓΚΠΔ. Μην το χρησιμοποιείτε για προφίλ ή στόχευση φυσικών προσώπων.
Άδεια & αναφορά
- Δεδομένα: CC-BY-4.0. Πηγή των πράξεων: diavgeia.gov.gr (Ν. 3861/2010).
- Αναφορά: «diafaneia.ai — Diavgeia complement (v1), 2026».
- Συμπληρώνει το glossAPI/diavgeia — ευχαριστούμε την ομάδα του glossAPI για το έργο τους.
English summary
A complement to glossAPI/diavgeia: 11.6M Greek public-sector
decisions from Diavgeia (2010–2026) with full text that are absent from glossAPI/diavgeia (no id overlap).
Same first three columns (id, markdown_text, metadata_json), so the two datasets can be concatenated directly.
Texts flagged as corrupted by our quality check were excluded. v2 (in preparation) will add corrected texts for
documents whose text is corrupted in glossAPI/diavgeia. Licence CC-BY-4.0. Texts may contain personal data of
natural persons published for administrative transparency — use for research/LLM training only, GDPR applies.
- Downloads last month
- 26