README.md

---

language:
- nl
- en
license: other
license_name: publiek-domein-en-cc
task_categories:
- text-generation
- question-answering
- summarization
- translation
pretty_name: beleg
size_categories:
- 1M<n<10M
configs:
- config_name: nederlands
  data_files:
  - split: train
    path: data/nederlands/*.parquet
  default: true
- config_name: engels
  data_files:
  - split: train
    path: data/engels/*.parquet
- config_name: belgischstaatsblad
  data_files:
  - split: train
    path: data/nederlands/belgischstaatsblad-*.parquet
- config_name: doab_en
  data_files:
  - split: train
    path: data/engels/doab_en-*.parquet
- config_name: eurlex
  data_files:
  - split: train
    path: data/nederlands/eurlex-*.parquet
- config_name: eurlex_en
  data_files:
  - split: train
    path: data/engels/eurlex_en-*.parquet
- config_name: europarl
  data_files:
  - split: train
    path: data/nederlands/europarl-*.parquet
- config_name: europarl_en
  data_files:
  - split: train
    path: data/engels/europarl_en-*.parquet
- config_name: gutenberg_en
  data_files:
  - split: train
    path: data/engels/gutenberg_en-*.parquet
- config_name: handelingen
  data_files:
  - split: train
    path: data/nederlands/handelingen-*.parquet
- config_name: kamerdebatten
  data_files:
  - split: train
    path: data/nederlands/kamerdebatten-*.parquet
- config_name: kamerstukken
  data_files:
  - split: train
    path: data/nederlands/kamerstukken-*.parquet
- config_name: kamervragen
  data_files:
  - split: train
    path: data/nederlands/kamervragen-*.parquet
- config_name: libretexts_en
  data_files:
  - split: train
    path: data/engels/libretexts_en-*.parquet
- config_name: news_en
  data_files:
  - split: train
    path: data/engels/news_en-*.parquet
- config_name: oercommons_en
  data_files:
  - split: train
    path: data/engels/oercommons_en-*.parquet
- config_name: pdreview_en
  data_files:
  - split: train
    path: data/engels/pdreview_en-*.parquet
- config_name: pressbooks_en
  data_files:
  - split: train
    path: data/engels/pressbooks_en-*.parquet
- config_name: pubmed_en
  data_files:
  - split: train
    path: data/engels/pubmed_en-*.parquet
- config_name: rechtspraak
  data_files:
  - split: train
    path: data/nederlands/rechtspraak-*.parquet
- config_name: rijksoverheid
  data_files:
  - split: train
    path: data/nederlands/rijksoverheid-*.parquet
- config_name: staatsblad
  data_files:
  - split: train
    path: data/nederlands/staatsblad-*.parquet
- config_name: wetten
  data_files:
  - split: train
    path: data/nederlands/wetten-*.parquet
- config_name: wikibooks
  data_files:
  - split: train
    path: data/nederlands/wikibooks-*.parquet
- config_name: wikibooks_en
  data_files:
  - split: train
    path: data/engels/wikibooks_en-*.parquet
- config_name: wikinews
  data_files:
  - split: train
    path: data/nederlands/wikinews-*.parquet
- config_name: wikinews_en
  data_files:
  - split: train
    path: data/engels/wikinews_en-*.parquet
- config_name: wikipedia
  data_files:
  - split: train
    path: data/nederlands/wikipedia-*.parquet
- config_name: wikipedia_en
  data_files:
  - split: train
    path: data/engels/wikipedia_en-*.parquet
- config_name: wikisource
  data_files:
  - split: train
    path: data/nederlands/wikisource-*.parquet
- config_name: wikiwijs
  data_files:
  - split: train
    path: data/nederlands/wikiwijs-*.parquet
- config_name: instructie
  data_files:
  - split: train
    path: instructie/train/*-*.parquet
  - split: validation
    path: instructie/validation/*-*.parquet
- config_name: instructie-extractief
  data_files:
  - split: train
    path: instructie/train/extractief-*.parquet
  - split: validation
    path: instructie/validation/extractief-*.parquet
- config_name: instructie-geenkennis
  data_files:
  - split: train
    path: instructie/train/geenkennis-*.parquet
  - split: validation
    path: instructie/validation/geenkennis-*.parquet
- config_name: instructie-gesprek
  data_files:
  - split: train
    path: instructie/train/gesprek-*.parquet
  - split: validation
    path: instructie/validation/gesprek-*.parquet
- config_name: instructie-grammatica
  data_files:
  - split: train
    path: instructie/train/grammatica-*.parquet
  - split: validation
    path: instructie/validation/grammatica-*.parquet
- config_name: instructie-kennis
  data_files:
  - split: train
    path: instructie/train/kennis-*.parquet
  - split: validation
    path: instructie/validation/kennis-*.parquet
- config_name: instructie-meerkeuze
  data_files:
  - split: train
    path: instructie/train/meerkeuze-*.parquet
  - split: validation
    path: instructie/validation/meerkeuze-*.parquet
- config_name: instructie-onbegrepen
  data_files:
  - split: train
    path: instructie/train/onbegrepen-*.parquet
  - split: validation
    path: instructie/validation/onbegrepen-*.parquet
- config_name: instructie-onthouding
  data_files:
  - split: train
    path: instructie/train/onthouding-*.parquet
  - split: validation
    path: instructie/validation/onthouding-*.parquet
- config_name: instructie-openvraag
  data_files:
  - split: train
    path: instructie/train/openvraag-*.parquet
  - split: validation
    path: instructie/validation/openvraag-*.parquet
- config_name: instructie-samenvatten
  data_files:
  - split: train
    path: instructie/train/samenvatten-*.parquet
  - split: validation
    path: instructie/validation/samenvatten-*.parquet
- config_name: instructie-som
  data_files:
  - split: train
    path: instructie/train/som-*.parquet
  - split: validation
    path: instructie/validation/som-*.parquet
- config_name: instructie-vertalen
  data_files:
  - split: train
    path: instructie/train/vertalen-*.parquet
  - split: validation
    path: instructie/validation/vertalen-*.parquet
- config_name: instructie-wikifeit
  data_files:
  - split: train
    path: instructie/train/wikifeit-*.parquet
  - split: validation
    path: instructie/validation/wikifeit-*.parquet
---


# beleg

**In English.** An openly licensed pretraining corpus centred on Dutch, with
an English collection alongside it, plus a verified Dutch instruction set.
Every document is public domain under Dutch or Belgian copyright law, Creative
Commons, or covered by an explicit reuse decision. Nothing is scraped from the
open web and nothing is written by another language model. Each row carries its
own license code, and each instruction example points to the document it was
derived from.

Een tekstcorpus met het Nederlands als kern en een Engelse collectie ernaast,
plus een gecontroleerde Nederlandstalige instructieset. Alles bestaat uit
rechtmatig herbruikbaar materiaal: publiek domein op grond van de Auteurswet,
Creative Commons, of een uitdrukkelijk hergebruikbesluit. Er zit niets in dat
van het open web is geschraapt.

Corpus: **4.218.472 documenten**, **35.613.016.096 tekens**, ongeveer
**10.263.117.030 tokens** (op de eigen tokenizer, 3.47 tekens per
token). Verdeling in tekens: engels 51%, nederlands 49%. Kies de config `nederlands` voor
alleen het Nederlandse deel.

## Waarom deze dataset er is

Goed Nederlands trainingsmateriaal is niet schaars, het is onverzameld. Wat hier
ligt komt uit bronnen die iedereen mag gebruiken en die tot nu toe niet in één
set bij elkaar stonden: rechtspraak, wetgeving, parlementaire stukken en
debatten, Europese teksten, Wikimedia en open lesmateriaal. De set hoort bij een
project dat wil laten zien dat een bruikbaar Nederlands taalmodel te trainen is
zonder staatssteun en zonder geschraapte data.

De dataset is daarbij het eigenlijke product. Een model veroudert binnen een
jaar, een schoon en gedocumenteerd corpus niet.

## Wat er in zit

| bron | collectie | documenten | tekens | licentie |
|---|---|---:|---:|---|
| `rechtspraak` | nederlands | 669.724 | 10.305.845.984 | `pd-art11-aw` |
| `wikipedia_en` | engels | 1.849.467 | 9.760.036.239 | `cc-by-sa-4.0` |
| `doab_en` | engels | 122.677 | 2.971.453.569 | `cc-by-4.0`, `cc-by-sa-4.0` |
| `eurlex_en` | engels | 103.382 | 2.314.088.641 | `eu-reuse` |
| `wikipedia` | nederlands | 822.652 | 2.105.440.592 | `cc-by-sa-4.0` |
| `eurlex` | nederlands | 101.102 | 2.031.552.014 | `eu-reuse` |
| `handelingen` | nederlands | 24.978 | 1.299.404.221 | `pd-art15b-aw` |
| `gutenberg_en` | engels | 2.726 | 947.402.125 | `pd` |
| `kamervragen` | nederlands | 73.963 | 454.800.412 | `pd-art15b-aw` |
| `pubmed_en` | engels | 16.456 | 439.639.849 | `cc-by-4.0`, `cc0-1.0` |
| `pressbooks_en` | engels | 42.436 | 433.951.116 | `cc-by-4.0`, `cc-by-sa-4.0`, `cc0-1.0`, `pd` |
| `wikibooks_en` | engels | 53.901 | 340.083.834 | `cc-by-sa-4.0` |
| `europarl` | nederlands | 78.921 | 327.172.542 | `eu-reuse` |
| `kamerstukken` | nederlands | 23.625 | 316.014.726 | `pd-art15b-aw` |
| `europarl_en` | engels | 71.924 | 299.203.130 | `eu-reuse` |
| `kamerdebatten` | nederlands | 5.333 | 291.098.621 | `pd-art15b-aw` |
| `wetten` | nederlands | 16.260 | 240.243.429 | `pd-art11-aw` |
| `libretexts_en` | engels | 28.116 | 234.521.847 | `cc-by-4.0`, `cc-by-sa-4.0`, `pd` |
| `news_en` | engels | 55.581 | 195.526.380 | `cc-by-4.0`, `cc-by-sa-4.0` |
| `wikiwijs` | nederlands | 5.642 | 60.743.025 | `cc-by-3.0`, `cc-by-4.0`, `cc-by-sa-3.0` |
| `belgischstaatsblad` | nederlands | 5.496 | 51.826.886 | `pd-be-xi172` |
| `staatsblad` | nederlands | 2.109 | 46.625.321 | `pd-art11-aw` |
| `wikinews_en` | engels | 21.270 | 45.674.827 | `cc-by-2.5` |
| `oercommons_en` | engels | 3.209 | 33.149.285 | `cc-by-4.0`, `cc-by-sa-4.0`, `pd` |
| `wikibooks` | nederlands | 5.810 | 25.317.912 | `cc-by-sa-4.0` |
| `wikisource` | nederlands | 2.984 | 20.658.276 | `cc-by-sa-4.0` |
| `rijksoverheid` | nederlands | 3.215 | 8.273.193 | `cc0-1.0` |
| `pdreview_en` | engels | 1.258 | 6.841.661 | `cc-by-sa-4.0` |
| `wikinews` | nederlands | 4.255 | 6.426.439 | `cc-by-2.5` |

## Hoe het is schoongemaakt

Per document, in deze volgorde:

1. **Normaliseren.** Unicode naar NFC, aanhalingstekens en streepjes
   gelijkgetrokken, harde regeleinden binnen een alinea eruit.
2. **Boilerplate weg.** Kopregels, paginanummers, navigatie en de vaste staart
   van elke bron, per bron apart afgeregeld.
3. **Kwaliteitsfilter.** Te kort, te veel cijfers of leestekens, te weinig
   Nederlands, te veel herhaling binnen een document.
4. **PII wissen.** Namen, adressen, telefoonnummers, rekeningnummers en
   burgerservicenummers worden vervangen door een aanduiding tussen blokhaken.
   Rechtspraak.nl is zelf al gepseudonimiseerd; dit is de tweede lezing.
5. **Decontaminatie.** Documenten die overlappen met de testsets van de
   benchmarks waarop het model gemeten wordt gaan eruit. Vóór het trainen en
   niet erna, want een score op een corpus dat de testset bevat is geen score.
6. **Deduplicatie.** MinHash binnen elke bouwronde. Zie de beperkingen
   hieronder.

Deze documenten zitten wel in het trainingscorpus, maar niet in deze publicatie:

| bron | reden | documenten |
|---|---|---:|
| `examens` | licentie cvte-bronvermelding-ongewijzigd is niet open | 4.893 |
| `wikiwijs` | licentievelden spreken elkaar tegen | 3.291 |

## Licenties

Elk document en elk instructievoorbeeld draagt zijn eigen licentiecode in de
kolom `license`. Deze codes komen voor:

| code | betekenis |
|---|---|
| `apache-2.0` | Apache License 2.0 |
| `cc-by-2.0` | Creative Commons BY 2.0 |
| `cc-by-2.5` | Creative Commons BY 2.5 |
| `cc-by-3.0` | Creative Commons BY 3.0 |
| `cc-by-4.0` | Creative Commons BY 4.0 |
| `cc-by-sa-3.0` | Creative Commons BY-SA 3.0 |
| `cc-by-sa-4.0` | Creative Commons BY-SA 4.0 |
| `cc0-1.0` | Creative Commons Zero 1.0 |
| `eu-reuse` | EU-hergebruikbesluit 2011/833/EU |
| `mit` | MIT-licentie |
| `pd` | Publiek domein (auteursrecht verlopen) |
| `pd-art11-aw` | Publiek domein (Auteurswet art. 11) |
| `pd-art15b-aw` | Vrij herbruikbaar (Auteurswet art. 15b) |
| `pd-be-xi172` | Publiek domein (WER art. XI.172 §2, België) |

De grondslagen die het vaakst voorkomen zijn artikel 11 en artikel 15b van de
Auteurswet. Artikel 11 zegt dat er geen auteursrecht rust op wetten, besluiten,
verordeningen en rechterlijke uitspraken. Artikel 15b regelt het hergebruik van
ander werk dat door of vanwege de openbare macht openbaar is gemaakt, tenzij het
auteursrecht uitdrukkelijk is voorbehouden. Voor Belgisch materiaal geldt de
tegenhanger in artikel XI.172 van het Wetboek van economisch recht.

Wat dat betekent voor hergebruik: het materiaal is vrij herbruikbaar, maar de
CC BY-SA-delen (Wikimedia, een deel van het lesmateriaal) dragen hun
naamsvermelding en gelijk-delen-verplichting mee. Kijk dus naar de kolom
`license` per document en niet naar één regel bovenaan.

## Velden

| kolom | inhoud |
|---|---|
| `text` | de schoongemaakte tekst |
| `source` | de bron, gelijk aan de confignaam |
| `license` | licentiecode van dit document |
| `id` | stabiele sleutel binnen de bron (ECLI, dossiernummer, paginatitel) |
| `url` | waar het vandaan komt |
| `collection` | `nederlands` of `engels` |
| `meta` | resterende brongegevens als JSON-tekst |

## Instructiedata

Voorbeelden om een model op te finetunen, afgeleid uit de documenten hierboven
en uit een paar door mensen geschreven sets met een open licentie. Er is geen
taalmodel gebruikt om ze te maken. De vragen komen uit sjablonen of uit de bron
zelf (Kamervragen met het antwoord van de minister, door mensen geschreven
sets), de antwoorden uit de brontekst, en wat af te leiden is, is achteraf
gecontroleerd.

| taak | train | validation | licenties |
|---|---:|---:|---|
| `extractief` | 77.711 | 1.553 | `cc-by-sa-3.0`, `cc-by-sa-4.0`, `eu-reuse`, `pd-art11-aw`, `pd-art15b-aw`, `pd-be-xi172` |
| `geenkennis` | 11.787 | 213 | `pd-art15b-aw` |
| `gesprek` | 14.797 | 249 | `apache-2.0`, `cc-by-sa-3.0` |
| `grammatica` | 48.931 | 1.069 | `cc-by-sa-4.0` |
| `kennis` | 1.152 | 36 | `cc-by-4.0` |
| `meerkeuze` | 60.933 | 1.194 | `cc-by-sa-3.0`, `cc-by-sa-4.0` |
| `onbegrepen` | 2.915 | 85 | `cc-by-4.0` |
| `onthouding` | 46.102 | 896 | `cc-by-sa-4.0`, `eu-reuse`, `pd-art11-aw`, `pd-art15b-aw`, `pd-be-xi172` |
| `openvraag` | 44.978 | 951 | `cc-by-sa-3.0`, `pd-art15b-aw` |
| `samenvatten` | 40.361 | 827 | `cc-by-sa-3.0`, `pd-art11-aw` |
| `som` | 66.081 | 1.392 | `cc-by-4.0`, `mit` |
| `vertalen` | 70.630 | 1.368 | `cc-by-2.0`, `eu-reuse` |
| `wikifeit` | 78.415 | 1.585 | `cc-by-sa-4.0` |
| **totaal** | **564.793** | **11.418** | |

**Hoe er gecontroleerd is.** Een extractief antwoord staat letterlijk in de
tekst die erbij hoort. Een onthoudingsvoorbeeld ("Dat staat er niet in") heeft
een tekst waarin geen antwoord van de gevraagde soort voorkomt, en heeft een
antwoordbare tweeling met dezelfde opdracht. Elke gegenereerde som is
nagerekend. De samenvattingen van rechtspraak zijn de inhoudsindicaties die bij
een uitspraak gepubliceerd worden, en ze zijn weggelaten als ze te veel noemen
dat niet in de uitspraak zelf staat.
Voorbeelden die een 13-gram delen met een EuroEval-testitem zijn eruit.

**Split.** Eén op de 50 groepen staat in `validation`, gekozen op de crc32
van de kolom `group`. Een groep is het brondocument of het feit, dus
formuleringen van dezelfde vraag staan nooit aan beide kanten.

**Collecties.** `bench` is de train-split van SQuAD-nl en GSM8K. Wie wil
aantonen dat een model geen enkel benchmarkvoorbeeld heeft gezien, laat die
weg.

**Eigen werk.** Gegenereerde sommen, onzinvragen en de handgeschreven
kennisvragen vallen onder `cc-by-4.0`.

| kolom | inhoud |
|---|---|
| `messages` | het gesprek als `role`/`content`, klaar voor een chattemplate |
| `reasoning` | de denkstappen vóór het antwoord, leeg als die er niet zijn |
| `task` | de taak, gelijk aan de config `instructie-<taak>` |
| `kind` | de soort binnen de taak (datum, bedrag, foutsoort, ...) |
| `answerable` | bij lees- en onthoudingsvragen: staat het antwoord in de tekst |
| `language` | `nl` of `en` |
| `source` | waar de tekst vandaan komt |
| `source_document` | het `id` van het brondocument in het corpus, als dat er is |
| `license` | licentiecode van dit voorbeeld |
| `collection` | `nederlands`, `engels` of `bench` |
| `group` | sleutel voor de split |
| `prompt_raw`, `completion_raw` | het voorbeeld in het eigen promptformaat met speciale tokens |
| `meta` | overige velden als JSON-tekst |

## Bekende beperkingen

- **Deduplicatie per ronde.** Het corpus is in twee rondes gebouwd, en
  bijna-dubbelen tússen die rondes zijn niet gezocht. Exacte dubbelen van
  hetzelfde document zijn uitgesloten doordat elke bron zijn id's bijhoudt.
- **Licentieversies uit de Common Pile.** Bij `doab_en`, `pressbooks_en`,
  `libretexts_en`, `news_en`, `oercommons_en`, `pdreview_en` en `pubmed_en`
  zijn CC-licenties van versie 2.0 tot 3.0 bij het ophalen als 4.0 vastgelegd.
  De oorspronkelijke versie staat in de Common Pile zelf.
- **Register.** Formeel en schriftelijk Nederlands overheerst. Losse
  spreektaal staat er nauwelijks in.
- **Europarl** is deels vertaald Nederlands; het origineel was vaak een andere
  taal.
- **PII.** Het wissen is regelgebaseerd en mist dus gevallen. Rechtspraak.nl
  pseudonimiseert zelf ook.

## Wat er bewust niet in zit

Geen geschraapte websites, geen fora, geen sociale media, geen krantenarchieven
waarvan het auteursrecht nog loopt, en geen tekst die door een ander taalmodel
is gegenereerd. Dat kost register: ontspannen, alledaags Nederlands is in
officiële bronnen schaars. Kamervragen en Handelingen vangen daar een deel van
op, want dat is gewone taal over elk denkbaar onderwerp.

## Laden

```python

from datasets import load_dataset



nl = load_dataset("beleg", "nederlands", split="train", streaming=True)

recht = load_dataset("beleg", "rechtspraak", split="train")

sft = load_dataset("beleg", "instructie")  # train en validation

```

## Verantwoording

Bij deze set hoort de code die hem heeft gebouwd, met per bron de fetcher, het
schoonmaakprofiel en de meting die eronder ligt:
<https://github.com/ToetsChecker-Research/boterham>. Wie wil nagaan hoe een
document hier terecht is gekomen, kan dat daar volgen. `HERKOMST.json` naast
deze kaart bevat de tellingen per bron en per taak in machineleesbare vorm.