| ---
|
| language:
|
| - nl
|
| - en
|
| license: other
|
| license_name: publiek-domein-en-cc
|
| task_categories:
|
| - text-generation
|
| - question-answering
|
| - summarization
|
| - translation
|
| pretty_name: beleg
|
| size_categories:
|
| - 1M<n<10M
|
| configs:
|
| - config_name: nederlands
|
| data_files:
|
| - split: train
|
| path: data/nederlands/*.parquet
|
| default: true
|
| - config_name: engels
|
| data_files:
|
| - split: train
|
| path: data/engels/*.parquet
|
| - config_name: belgischstaatsblad
|
| data_files:
|
| - split: train
|
| path: data/nederlands/belgischstaatsblad-*.parquet
|
| - config_name: doab_en
|
| data_files:
|
| - split: train
|
| path: data/engels/doab_en-*.parquet
|
| - config_name: eurlex
|
| data_files:
|
| - split: train
|
| path: data/nederlands/eurlex-*.parquet
|
| - config_name: eurlex_en
|
| data_files:
|
| - split: train
|
| path: data/engels/eurlex_en-*.parquet
|
| - config_name: europarl
|
| data_files:
|
| - split: train
|
| path: data/nederlands/europarl-*.parquet
|
| - config_name: europarl_en
|
| data_files:
|
| - split: train
|
| path: data/engels/europarl_en-*.parquet
|
| - config_name: gutenberg_en
|
| data_files:
|
| - split: train
|
| path: data/engels/gutenberg_en-*.parquet
|
| - config_name: handelingen
|
| data_files:
|
| - split: train
|
| path: data/nederlands/handelingen-*.parquet
|
| - config_name: kamerdebatten
|
| data_files:
|
| - split: train
|
| path: data/nederlands/kamerdebatten-*.parquet
|
| - config_name: kamerstukken
|
| data_files:
|
| - split: train
|
| path: data/nederlands/kamerstukken-*.parquet
|
| - config_name: kamervragen
|
| data_files:
|
| - split: train
|
| path: data/nederlands/kamervragen-*.parquet
|
| - config_name: libretexts_en
|
| data_files:
|
| - split: train
|
| path: data/engels/libretexts_en-*.parquet
|
| - config_name: news_en
|
| data_files:
|
| - split: train
|
| path: data/engels/news_en-*.parquet
|
| - config_name: oercommons_en
|
| data_files:
|
| - split: train
|
| path: data/engels/oercommons_en-*.parquet
|
| - config_name: pdreview_en
|
| data_files:
|
| - split: train
|
| path: data/engels/pdreview_en-*.parquet
|
| - config_name: pressbooks_en
|
| data_files:
|
| - split: train
|
| path: data/engels/pressbooks_en-*.parquet
|
| - config_name: pubmed_en
|
| data_files:
|
| - split: train
|
| path: data/engels/pubmed_en-*.parquet
|
| - config_name: rechtspraak
|
| data_files:
|
| - split: train
|
| path: data/nederlands/rechtspraak-*.parquet
|
| - config_name: rijksoverheid
|
| data_files:
|
| - split: train
|
| path: data/nederlands/rijksoverheid-*.parquet
|
| - config_name: staatsblad
|
| data_files:
|
| - split: train
|
| path: data/nederlands/staatsblad-*.parquet
|
| - config_name: wetten
|
| data_files:
|
| - split: train
|
| path: data/nederlands/wetten-*.parquet
|
| - config_name: wikibooks
|
| data_files:
|
| - split: train
|
| path: data/nederlands/wikibooks-*.parquet
|
| - config_name: wikibooks_en
|
| data_files:
|
| - split: train
|
| path: data/engels/wikibooks_en-*.parquet
|
| - config_name: wikinews
|
| data_files:
|
| - split: train
|
| path: data/nederlands/wikinews-*.parquet
|
| - config_name: wikinews_en
|
| data_files:
|
| - split: train
|
| path: data/engels/wikinews_en-*.parquet
|
| - config_name: wikipedia
|
| data_files:
|
| - split: train
|
| path: data/nederlands/wikipedia-*.parquet
|
| - config_name: wikipedia_en
|
| data_files:
|
| - split: train
|
| path: data/engels/wikipedia_en-*.parquet
|
| - config_name: wikisource
|
| data_files:
|
| - split: train
|
| path: data/nederlands/wikisource-*.parquet
|
| - config_name: wikiwijs
|
| data_files:
|
| - split: train
|
| path: data/nederlands/wikiwijs-*.parquet
|
| - config_name: instructie
|
| data_files:
|
| - split: train
|
| path: instructie/train/*-*.parquet
|
| - split: validation
|
| path: instructie/validation/*-*.parquet
|
| - config_name: instructie-extractief
|
| data_files:
|
| - split: train
|
| path: instructie/train/extractief-*.parquet
|
| - split: validation
|
| path: instructie/validation/extractief-*.parquet
|
| - config_name: instructie-geenkennis
|
| data_files:
|
| - split: train
|
| path: instructie/train/geenkennis-*.parquet
|
| - split: validation
|
| path: instructie/validation/geenkennis-*.parquet
|
| - config_name: instructie-gesprek
|
| data_files:
|
| - split: train
|
| path: instructie/train/gesprek-*.parquet
|
| - split: validation
|
| path: instructie/validation/gesprek-*.parquet
|
| - config_name: instructie-grammatica
|
| data_files:
|
| - split: train
|
| path: instructie/train/grammatica-*.parquet
|
| - split: validation
|
| path: instructie/validation/grammatica-*.parquet
|
| - config_name: instructie-kennis
|
| data_files:
|
| - split: train
|
| path: instructie/train/kennis-*.parquet
|
| - split: validation
|
| path: instructie/validation/kennis-*.parquet
|
| - config_name: instructie-meerkeuze
|
| data_files:
|
| - split: train
|
| path: instructie/train/meerkeuze-*.parquet
|
| - split: validation
|
| path: instructie/validation/meerkeuze-*.parquet
|
| - config_name: instructie-onbegrepen
|
| data_files:
|
| - split: train
|
| path: instructie/train/onbegrepen-*.parquet
|
| - split: validation
|
| path: instructie/validation/onbegrepen-*.parquet
|
| - config_name: instructie-onthouding
|
| data_files:
|
| - split: train
|
| path: instructie/train/onthouding-*.parquet
|
| - split: validation
|
| path: instructie/validation/onthouding-*.parquet
|
| - config_name: instructie-openvraag
|
| data_files:
|
| - split: train
|
| path: instructie/train/openvraag-*.parquet
|
| - split: validation
|
| path: instructie/validation/openvraag-*.parquet
|
| - config_name: instructie-samenvatten
|
| data_files:
|
| - split: train
|
| path: instructie/train/samenvatten-*.parquet
|
| - split: validation
|
| path: instructie/validation/samenvatten-*.parquet
|
| - config_name: instructie-som
|
| data_files:
|
| - split: train
|
| path: instructie/train/som-*.parquet
|
| - split: validation
|
| path: instructie/validation/som-*.parquet
|
| - config_name: instructie-vertalen
|
| data_files:
|
| - split: train
|
| path: instructie/train/vertalen-*.parquet
|
| - split: validation
|
| path: instructie/validation/vertalen-*.parquet
|
| - config_name: instructie-wikifeit
|
| data_files:
|
| - split: train
|
| path: instructie/train/wikifeit-*.parquet
|
| - split: validation
|
| path: instructie/validation/wikifeit-*.parquet
|
| ---
|
|
|
| # beleg
|
|
|
| **In English.** An openly licensed pretraining corpus centred on Dutch, with
|
| an English collection alongside it, plus a verified Dutch instruction set.
|
| Every document is public domain under Dutch or Belgian copyright law, Creative
|
| Commons, or covered by an explicit reuse decision. Nothing is scraped from the
|
| open web and nothing is written by another language model. Each row carries its
|
| own license code, and each instruction example points to the document it was
|
| derived from.
|
|
|
| Een tekstcorpus met het Nederlands als kern en een Engelse collectie ernaast,
|
| plus een gecontroleerde Nederlandstalige instructieset. Alles bestaat uit
|
| rechtmatig herbruikbaar materiaal: publiek domein op grond van de Auteurswet,
|
| Creative Commons, of een uitdrukkelijk hergebruikbesluit. Er zit niets in dat
|
| van het open web is geschraapt.
|
|
|
| Corpus: **4.218.472 documenten**, **35.613.016.096 tekens**, ongeveer
|
| **10.263.117.030 tokens** (op de eigen tokenizer, 3.47 tekens per
|
| token). Verdeling in tekens: engels 51%, nederlands 49%. Kies de config `nederlands` voor
|
| alleen het Nederlandse deel.
|
|
|
| ## Waarom deze dataset er is
|
|
|
| Goed Nederlands trainingsmateriaal is niet schaars, het is onverzameld. Wat hier
|
| ligt komt uit bronnen die iedereen mag gebruiken en die tot nu toe niet in één
|
| set bij elkaar stonden: rechtspraak, wetgeving, parlementaire stukken en
|
| debatten, Europese teksten, Wikimedia en open lesmateriaal. De set hoort bij een
|
| project dat wil laten zien dat een bruikbaar Nederlands taalmodel te trainen is
|
| zonder staatssteun en zonder geschraapte data.
|
|
|
| De dataset is daarbij het eigenlijke product. Een model veroudert binnen een
|
| jaar, een schoon en gedocumenteerd corpus niet.
|
|
|
| ## Wat er in zit
|
|
|
| | bron | collectie | documenten | tekens | licentie |
|
| |---|---|---:|---:|---|
|
| | `rechtspraak` | nederlands | 669.724 | 10.305.845.984 | `pd-art11-aw` |
|
| | `wikipedia_en` | engels | 1.849.467 | 9.760.036.239 | `cc-by-sa-4.0` |
|
| | `doab_en` | engels | 122.677 | 2.971.453.569 | `cc-by-4.0`, `cc-by-sa-4.0` |
|
| | `eurlex_en` | engels | 103.382 | 2.314.088.641 | `eu-reuse` |
|
| | `wikipedia` | nederlands | 822.652 | 2.105.440.592 | `cc-by-sa-4.0` |
|
| | `eurlex` | nederlands | 101.102 | 2.031.552.014 | `eu-reuse` |
|
| | `handelingen` | nederlands | 24.978 | 1.299.404.221 | `pd-art15b-aw` |
|
| | `gutenberg_en` | engels | 2.726 | 947.402.125 | `pd` |
|
| | `kamervragen` | nederlands | 73.963 | 454.800.412 | `pd-art15b-aw` |
|
| | `pubmed_en` | engels | 16.456 | 439.639.849 | `cc-by-4.0`, `cc0-1.0` |
|
| | `pressbooks_en` | engels | 42.436 | 433.951.116 | `cc-by-4.0`, `cc-by-sa-4.0`, `cc0-1.0`, `pd` |
|
| | `wikibooks_en` | engels | 53.901 | 340.083.834 | `cc-by-sa-4.0` |
|
| | `europarl` | nederlands | 78.921 | 327.172.542 | `eu-reuse` |
|
| | `kamerstukken` | nederlands | 23.625 | 316.014.726 | `pd-art15b-aw` |
|
| | `europarl_en` | engels | 71.924 | 299.203.130 | `eu-reuse` |
|
| | `kamerdebatten` | nederlands | 5.333 | 291.098.621 | `pd-art15b-aw` |
|
| | `wetten` | nederlands | 16.260 | 240.243.429 | `pd-art11-aw` |
|
| | `libretexts_en` | engels | 28.116 | 234.521.847 | `cc-by-4.0`, `cc-by-sa-4.0`, `pd` |
|
| | `news_en` | engels | 55.581 | 195.526.380 | `cc-by-4.0`, `cc-by-sa-4.0` |
|
| | `wikiwijs` | nederlands | 5.642 | 60.743.025 | `cc-by-3.0`, `cc-by-4.0`, `cc-by-sa-3.0` |
|
| | `belgischstaatsblad` | nederlands | 5.496 | 51.826.886 | `pd-be-xi172` |
|
| | `staatsblad` | nederlands | 2.109 | 46.625.321 | `pd-art11-aw` |
|
| | `wikinews_en` | engels | 21.270 | 45.674.827 | `cc-by-2.5` |
|
| | `oercommons_en` | engels | 3.209 | 33.149.285 | `cc-by-4.0`, `cc-by-sa-4.0`, `pd` |
|
| | `wikibooks` | nederlands | 5.810 | 25.317.912 | `cc-by-sa-4.0` |
|
| | `wikisource` | nederlands | 2.984 | 20.658.276 | `cc-by-sa-4.0` |
|
| | `rijksoverheid` | nederlands | 3.215 | 8.273.193 | `cc0-1.0` |
|
| | `pdreview_en` | engels | 1.258 | 6.841.661 | `cc-by-sa-4.0` |
|
| | `wikinews` | nederlands | 4.255 | 6.426.439 | `cc-by-2.5` |
|
|
|
| ## Hoe het is schoongemaakt
|
|
|
| Per document, in deze volgorde:
|
|
|
| 1. **Normaliseren.** Unicode naar NFC, aanhalingstekens en streepjes
|
| gelijkgetrokken, harde regeleinden binnen een alinea eruit.
|
| 2. **Boilerplate weg.** Kopregels, paginanummers, navigatie en de vaste staart
|
| van elke bron, per bron apart afgeregeld.
|
| 3. **Kwaliteitsfilter.** Te kort, te veel cijfers of leestekens, te weinig
|
| Nederlands, te veel herhaling binnen een document.
|
| 4. **PII wissen.** Namen, adressen, telefoonnummers, rekeningnummers en
|
| burgerservicenummers worden vervangen door een aanduiding tussen blokhaken.
|
| Rechtspraak.nl is zelf al gepseudonimiseerd; dit is de tweede lezing.
|
| 5. **Decontaminatie.** Documenten die overlappen met de testsets van de
|
| benchmarks waarop het model gemeten wordt gaan eruit. Vóór het trainen en
|
| niet erna, want een score op een corpus dat de testset bevat is geen score.
|
| 6. **Deduplicatie.** MinHash binnen elke bouwronde. Zie de beperkingen
|
| hieronder.
|
|
|
| Deze documenten zitten wel in het trainingscorpus, maar niet in deze publicatie:
|
|
|
| | bron | reden | documenten |
|
| |---|---|---:|
|
| | `examens` | licentie cvte-bronvermelding-ongewijzigd is niet open | 4.893 |
|
| | `wikiwijs` | licentievelden spreken elkaar tegen | 3.291 |
|
|
|
| ## Licenties
|
|
|
| Elk document en elk instructievoorbeeld draagt zijn eigen licentiecode in de
|
| kolom `license`. Deze codes komen voor:
|
|
|
| | code | betekenis |
|
| |---|---|
|
| | `apache-2.0` | Apache License 2.0 |
|
| | `cc-by-2.0` | Creative Commons BY 2.0 |
|
| | `cc-by-2.5` | Creative Commons BY 2.5 |
|
| | `cc-by-3.0` | Creative Commons BY 3.0 |
|
| | `cc-by-4.0` | Creative Commons BY 4.0 |
|
| | `cc-by-sa-3.0` | Creative Commons BY-SA 3.0 |
|
| | `cc-by-sa-4.0` | Creative Commons BY-SA 4.0 |
|
| | `cc0-1.0` | Creative Commons Zero 1.0 |
|
| | `eu-reuse` | EU-hergebruikbesluit 2011/833/EU |
|
| | `mit` | MIT-licentie |
|
| | `pd` | Publiek domein (auteursrecht verlopen) |
|
| | `pd-art11-aw` | Publiek domein (Auteurswet art. 11) |
|
| | `pd-art15b-aw` | Vrij herbruikbaar (Auteurswet art. 15b) |
|
| | `pd-be-xi172` | Publiek domein (WER art. XI.172 §2, België) |
|
|
|
| De grondslagen die het vaakst voorkomen zijn artikel 11 en artikel 15b van de
|
| Auteurswet. Artikel 11 zegt dat er geen auteursrecht rust op wetten, besluiten,
|
| verordeningen en rechterlijke uitspraken. Artikel 15b regelt het hergebruik van
|
| ander werk dat door of vanwege de openbare macht openbaar is gemaakt, tenzij het
|
| auteursrecht uitdrukkelijk is voorbehouden. Voor Belgisch materiaal geldt de
|
| tegenhanger in artikel XI.172 van het Wetboek van economisch recht.
|
|
|
| Wat dat betekent voor hergebruik: het materiaal is vrij herbruikbaar, maar de
|
| CC BY-SA-delen (Wikimedia, een deel van het lesmateriaal) dragen hun
|
| naamsvermelding en gelijk-delen-verplichting mee. Kijk dus naar de kolom
|
| `license` per document en niet naar één regel bovenaan.
|
|
|
| ## Velden
|
|
|
| | kolom | inhoud |
|
| |---|---|
|
| | `text` | de schoongemaakte tekst |
|
| | `source` | de bron, gelijk aan de confignaam |
|
| | `license` | licentiecode van dit document |
|
| | `id` | stabiele sleutel binnen de bron (ECLI, dossiernummer, paginatitel) |
|
| | `url` | waar het vandaan komt |
|
| | `collection` | `nederlands` of `engels` |
|
| | `meta` | resterende brongegevens als JSON-tekst |
|
|
|
| ## Instructiedata
|
|
|
| Voorbeelden om een model op te finetunen, afgeleid uit de documenten hierboven
|
| en uit een paar door mensen geschreven sets met een open licentie. Er is geen
|
| taalmodel gebruikt om ze te maken. De vragen komen uit sjablonen of uit de bron
|
| zelf (Kamervragen met het antwoord van de minister, door mensen geschreven
|
| sets), de antwoorden uit de brontekst, en wat af te leiden is, is achteraf
|
| gecontroleerd.
|
|
|
| | taak | train | validation | licenties |
|
| |---|---:|---:|---|
|
| | `extractief` | 77.711 | 1.553 | `cc-by-sa-3.0`, `cc-by-sa-4.0`, `eu-reuse`, `pd-art11-aw`, `pd-art15b-aw`, `pd-be-xi172` |
|
| | `geenkennis` | 11.787 | 213 | `pd-art15b-aw` |
|
| | `gesprek` | 14.797 | 249 | `apache-2.0`, `cc-by-sa-3.0` |
|
| | `grammatica` | 48.931 | 1.069 | `cc-by-sa-4.0` |
|
| | `kennis` | 1.152 | 36 | `cc-by-4.0` |
|
| | `meerkeuze` | 60.933 | 1.194 | `cc-by-sa-3.0`, `cc-by-sa-4.0` |
|
| | `onbegrepen` | 2.915 | 85 | `cc-by-4.0` |
|
| | `onthouding` | 46.102 | 896 | `cc-by-sa-4.0`, `eu-reuse`, `pd-art11-aw`, `pd-art15b-aw`, `pd-be-xi172` |
|
| | `openvraag` | 44.978 | 951 | `cc-by-sa-3.0`, `pd-art15b-aw` |
|
| | `samenvatten` | 40.361 | 827 | `cc-by-sa-3.0`, `pd-art11-aw` |
|
| | `som` | 66.081 | 1.392 | `cc-by-4.0`, `mit` |
|
| | `vertalen` | 70.630 | 1.368 | `cc-by-2.0`, `eu-reuse` |
|
| | `wikifeit` | 78.415 | 1.585 | `cc-by-sa-4.0` |
|
| | **totaal** | **564.793** | **11.418** | |
|
|
|
| **Hoe er gecontroleerd is.** Een extractief antwoord staat letterlijk in de
|
| tekst die erbij hoort. Een onthoudingsvoorbeeld ("Dat staat er niet in") heeft
|
| een tekst waarin geen antwoord van de gevraagde soort voorkomt, en heeft een
|
| antwoordbare tweeling met dezelfde opdracht. Elke gegenereerde som is
|
| nagerekend. De samenvattingen van rechtspraak zijn de inhoudsindicaties die bij
|
| een uitspraak gepubliceerd worden, en ze zijn weggelaten als ze te veel noemen
|
| dat niet in de uitspraak zelf staat.
|
| Voorbeelden die een 13-gram delen met een EuroEval-testitem zijn eruit.
|
|
|
| **Split.** Eén op de 50 groepen staat in `validation`, gekozen op de crc32
|
| van de kolom `group`. Een groep is het brondocument of het feit, dus
|
| formuleringen van dezelfde vraag staan nooit aan beide kanten.
|
|
|
| **Collecties.** `bench` is de train-split van SQuAD-nl en GSM8K. Wie wil
|
| aantonen dat een model geen enkel benchmarkvoorbeeld heeft gezien, laat die
|
| weg.
|
|
|
| **Eigen werk.** Gegenereerde sommen, onzinvragen en de handgeschreven
|
| kennisvragen vallen onder `cc-by-4.0`.
|
|
|
| | kolom | inhoud |
|
| |---|---|
|
| | `messages` | het gesprek als `role`/`content`, klaar voor een chattemplate |
|
| | `reasoning` | de denkstappen vóór het antwoord, leeg als die er niet zijn |
|
| | `task` | de taak, gelijk aan de config `instructie-<taak>` |
|
| | `kind` | de soort binnen de taak (datum, bedrag, foutsoort, ...) |
|
| | `answerable` | bij lees- en onthoudingsvragen: staat het antwoord in de tekst |
|
| | `language` | `nl` of `en` |
|
| | `source` | waar de tekst vandaan komt |
|
| | `source_document` | het `id` van het brondocument in het corpus, als dat er is |
|
| | `license` | licentiecode van dit voorbeeld |
|
| | `collection` | `nederlands`, `engels` of `bench` |
|
| | `group` | sleutel voor de split |
|
| | `prompt_raw`, `completion_raw` | het voorbeeld in het eigen promptformaat met speciale tokens |
|
| | `meta` | overige velden als JSON-tekst |
|
|
|
| ## Bekende beperkingen
|
|
|
| - **Deduplicatie per ronde.** Het corpus is in twee rondes gebouwd, en
|
| bijna-dubbelen tússen die rondes zijn niet gezocht. Exacte dubbelen van
|
| hetzelfde document zijn uitgesloten doordat elke bron zijn id's bijhoudt.
|
| - **Licentieversies uit de Common Pile.** Bij `doab_en`, `pressbooks_en`,
|
| `libretexts_en`, `news_en`, `oercommons_en`, `pdreview_en` en `pubmed_en`
|
| zijn CC-licenties van versie 2.0 tot 3.0 bij het ophalen als 4.0 vastgelegd.
|
| De oorspronkelijke versie staat in de Common Pile zelf.
|
| - **Register.** Formeel en schriftelijk Nederlands overheerst. Losse
|
| spreektaal staat er nauwelijks in.
|
| - **Europarl** is deels vertaald Nederlands; het origineel was vaak een andere
|
| taal.
|
| - **PII.** Het wissen is regelgebaseerd en mist dus gevallen. Rechtspraak.nl
|
| pseudonimiseert zelf ook.
|
|
|
| ## Wat er bewust niet in zit
|
|
|
| Geen geschraapte websites, geen fora, geen sociale media, geen krantenarchieven
|
| waarvan het auteursrecht nog loopt, en geen tekst die door een ander taalmodel
|
| is gegenereerd. Dat kost register: ontspannen, alledaags Nederlands is in
|
| officiële bronnen schaars. Kamervragen en Handelingen vangen daar een deel van
|
| op, want dat is gewone taal over elk denkbaar onderwerp.
|
|
|
| ## Laden
|
|
|
| ```python
|
| from datasets import load_dataset
|
|
|
| nl = load_dataset("beleg", "nederlands", split="train", streaming=True)
|
| recht = load_dataset("beleg", "rechtspraak", split="train")
|
| sft = load_dataset("beleg", "instructie") # train en validation
|
| ```
|
|
|
| ## Verantwoording
|
|
|
| Bij deze set hoort de code die hem heeft gebouwd, met per bron de fetcher, het
|
| schoonmaakprofiel en de meting die eronder ligt:
|
| <https://github.com/ToetsChecker-Research/boterham>. Wie wil nagaan hoe een
|
| document hier terecht is gekomen, kan dat daar volgen. `HERKOMST.json` naast
|
| deze kaart bevat de tellingen per bron en per taak in machineleesbare vorm.
|
|
|
