Hugging Face's logo

Datasets:
ToetsChecker-Research
/
beleg

Tasks:
Text Generation
Question Answering
Summarization
Modalities:
Text
Formats:
parquet
Languages:
Dutch
English
Size:
1M - 10M
Libraries:
Datasets
Dask
Polars
License:
Dataset card Data Studio Files
xet
 Community
1
beleg / README.md
Vlammie's picture
Vlammie
Add files using upload-large-folder tool
8e207a4 verified
preview code
|
Raw History Blame Contribute Delete
18.6 kB
metadata 
language:
  - nl
  - en
license: other
license_name: publiek-domein-en-cc
task_categories:
  - text-generation
  - question-answering
  - summarization
  - translation
pretty_name: beleg
size_categories:
  - 1M<n<10M
configs:
  - config_name: nederlands
    data_files:
      - split: train
        path: data/nederlands/*.parquet
    default: true
  - config_name: engels
    data_files:
      - split: train
        path: data/engels/*.parquet
  - config_name: belgischstaatsblad
    data_files:
      - split: train
        path: data/nederlands/belgischstaatsblad-*.parquet
  - config_name: doab_en
    data_files:
      - split: train
        path: data/engels/doab_en-*.parquet
  - config_name: eurlex
    data_files:
      - split: train
        path: data/nederlands/eurlex-*.parquet
  - config_name: eurlex_en
    data_files:
      - split: train
        path: data/engels/eurlex_en-*.parquet
  - config_name: europarl
    data_files:
      - split: train
        path: data/nederlands/europarl-*.parquet
  - config_name: europarl_en
    data_files:
      - split: train
        path: data/engels/europarl_en-*.parquet
  - config_name: gutenberg_en
    data_files:
      - split: train
        path: data/engels/gutenberg_en-*.parquet
  - config_name: handelingen
    data_files:
      - split: train
        path: data/nederlands/handelingen-*.parquet
  - config_name: kamerdebatten
    data_files:
      - split: train
        path: data/nederlands/kamerdebatten-*.parquet
  - config_name: kamerstukken
    data_files:
      - split: train
        path: data/nederlands/kamerstukken-*.parquet
  - config_name: kamervragen
    data_files:
      - split: train
        path: data/nederlands/kamervragen-*.parquet
  - config_name: libretexts_en
    data_files:
      - split: train
        path: data/engels/libretexts_en-*.parquet
  - config_name: news_en
    data_files:
      - split: train
        path: data/engels/news_en-*.parquet
  - config_name: oercommons_en
    data_files:
      - split: train
        path: data/engels/oercommons_en-*.parquet
  - config_name: pdreview_en
    data_files:
      - split: train
        path: data/engels/pdreview_en-*.parquet
  - config_name: pressbooks_en
    data_files:
      - split: train
        path: data/engels/pressbooks_en-*.parquet
  - config_name: pubmed_en
    data_files:
      - split: train
        path: data/engels/pubmed_en-*.parquet
  - config_name: rechtspraak
    data_files:
      - split: train
        path: data/nederlands/rechtspraak-*.parquet
  - config_name: rijksoverheid
    data_files:
      - split: train
        path: data/nederlands/rijksoverheid-*.parquet
  - config_name: staatsblad
    data_files:
      - split: train
        path: data/nederlands/staatsblad-*.parquet
  - config_name: wetten
    data_files:
      - split: train
        path: data/nederlands/wetten-*.parquet
  - config_name: wikibooks
    data_files:
      - split: train
        path: data/nederlands/wikibooks-*.parquet
  - config_name: wikibooks_en
    data_files:
      - split: train
        path: data/engels/wikibooks_en-*.parquet
  - config_name: wikinews
    data_files:
      - split: train
        path: data/nederlands/wikinews-*.parquet
  - config_name: wikinews_en
    data_files:
      - split: train
        path: data/engels/wikinews_en-*.parquet
  - config_name: wikipedia
    data_files:
      - split: train
        path: data/nederlands/wikipedia-*.parquet
  - config_name: wikipedia_en
    data_files:
      - split: train
        path: data/engels/wikipedia_en-*.parquet
  - config_name: wikisource
    data_files:
      - split: train
        path: data/nederlands/wikisource-*.parquet
  - config_name: wikiwijs
    data_files:
      - split: train
        path: data/nederlands/wikiwijs-*.parquet
  - config_name: instructie
    data_files:
      - split: train
        path: instructie/train/*-*.parquet
      - split: validation
        path: instructie/validation/*-*.parquet
  - config_name: instructie-extractief
    data_files:
      - split: train
        path: instructie/train/extractief-*.parquet
      - split: validation
        path: instructie/validation/extractief-*.parquet
  - config_name: instructie-geenkennis
    data_files:
      - split: train
        path: instructie/train/geenkennis-*.parquet
      - split: validation
        path: instructie/validation/geenkennis-*.parquet
  - config_name: instructie-gesprek
    data_files:
      - split: train
        path: instructie/train/gesprek-*.parquet
      - split: validation
        path: instructie/validation/gesprek-*.parquet
  - config_name: instructie-grammatica
    data_files:
      - split: train
        path: instructie/train/grammatica-*.parquet
      - split: validation
        path: instructie/validation/grammatica-*.parquet
  - config_name: instructie-kennis
    data_files:
      - split: train
        path: instructie/train/kennis-*.parquet
      - split: validation
        path: instructie/validation/kennis-*.parquet
  - config_name: instructie-meerkeuze
    data_files:
      - split: train
        path: instructie/train/meerkeuze-*.parquet
      - split: validation
        path: instructie/validation/meerkeuze-*.parquet
  - config_name: instructie-onbegrepen
    data_files:
      - split: train
        path: instructie/train/onbegrepen-*.parquet
      - split: validation
        path: instructie/validation/onbegrepen-*.parquet
  - config_name: instructie-onthouding
    data_files:
      - split: train
        path: instructie/train/onthouding-*.parquet
      - split: validation
        path: instructie/validation/onthouding-*.parquet
  - config_name: instructie-openvraag
    data_files:
      - split: train
        path: instructie/train/openvraag-*.parquet
      - split: validation
        path: instructie/validation/openvraag-*.parquet
  - config_name: instructie-samenvatten
    data_files:
      - split: train
        path: instructie/train/samenvatten-*.parquet
      - split: validation
        path: instructie/validation/samenvatten-*.parquet
  - config_name: instructie-som
    data_files:
      - split: train
        path: instructie/train/som-*.parquet
      - split: validation
        path: instructie/validation/som-*.parquet
  - config_name: instructie-vertalen
    data_files:
      - split: train
        path: instructie/train/vertalen-*.parquet
      - split: validation
        path: instructie/validation/vertalen-*.parquet
  - config_name: instructie-wikifeit
    data_files:
      - split: train
        path: instructie/train/wikifeit-*.parquet
      - split: validation
        path: instructie/validation/wikifeit-*.parquet

beleg

In English. An openly licensed pretraining corpus centred on Dutch, with an English collection alongside it, plus a verified Dutch instruction set. Every document is public domain under Dutch or Belgian copyright law, Creative Commons, or covered by an explicit reuse decision. Nothing is scraped from the open web and nothing is written by another language model. Each row carries its own license code, and each instruction example points to the document it was derived from.

Een tekstcorpus met het Nederlands als kern en een Engelse collectie ernaast, plus een gecontroleerde Nederlandstalige instructieset. Alles bestaat uit rechtmatig herbruikbaar materiaal: publiek domein op grond van de Auteurswet, Creative Commons, of een uitdrukkelijk hergebruikbesluit. Er zit niets in dat van het open web is geschraapt.

Corpus: 4.218.472 documenten, 35.613.016.096 tekens, ongeveer 10.263.117.030 tokens (op de eigen tokenizer, 3.47 tekens per token). Verdeling in tekens: engels 51%, nederlands 49%. Kies de config nederlands voor alleen het Nederlandse deel.

Waarom deze dataset er is

Goed Nederlands trainingsmateriaal is niet schaars, het is onverzameld. Wat hier ligt komt uit bronnen die iedereen mag gebruiken en die tot nu toe niet in één set bij elkaar stonden: rechtspraak, wetgeving, parlementaire stukken en debatten, Europese teksten, Wikimedia en open lesmateriaal. De set hoort bij een project dat wil laten zien dat een bruikbaar Nederlands taalmodel te trainen is zonder staatssteun en zonder geschraapte data.

De dataset is daarbij het eigenlijke product. Een model veroudert binnen een jaar, een schoon en gedocumenteerd corpus niet.

Wat er in zit

bron collectie documenten tekens licentie
rechtspraak nederlands 669.724 10.305.845.984 pd-art11-aw
wikipedia_en engels 1.849.467 9.760.036.239 cc-by-sa-4.0
doab_en engels 122.677 2.971.453.569 cc-by-4.0, cc-by-sa-4.0
eurlex_en engels 103.382 2.314.088.641 eu-reuse
wikipedia nederlands 822.652 2.105.440.592 cc-by-sa-4.0
eurlex nederlands 101.102 2.031.552.014 eu-reuse
handelingen nederlands 24.978 1.299.404.221 pd-art15b-aw
gutenberg_en engels 2.726 947.402.125 pd
kamervragen nederlands 73.963 454.800.412 pd-art15b-aw
pubmed_en engels 16.456 439.639.849 cc-by-4.0, cc0-1.0
pressbooks_en engels 42.436 433.951.116 cc-by-4.0, cc-by-sa-4.0, cc0-1.0, pd
wikibooks_en engels 53.901 340.083.834 cc-by-sa-4.0
europarl nederlands 78.921 327.172.542 eu-reuse
kamerstukken nederlands 23.625 316.014.726 pd-art15b-aw
europarl_en engels 71.924 299.203.130 eu-reuse
kamerdebatten nederlands 5.333 291.098.621 pd-art15b-aw
wetten nederlands 16.260 240.243.429 pd-art11-aw
libretexts_en engels 28.116 234.521.847 cc-by-4.0, cc-by-sa-4.0, pd
news_en engels 55.581 195.526.380 cc-by-4.0, cc-by-sa-4.0
wikiwijs nederlands 5.642 60.743.025 cc-by-3.0, cc-by-4.0, cc-by-sa-3.0
belgischstaatsblad nederlands 5.496 51.826.886 pd-be-xi172
staatsblad nederlands 2.109 46.625.321 pd-art11-aw
wikinews_en engels 21.270 45.674.827 cc-by-2.5
oercommons_en engels 3.209 33.149.285 cc-by-4.0, cc-by-sa-4.0, pd
wikibooks nederlands 5.810 25.317.912 cc-by-sa-4.0
wikisource nederlands 2.984 20.658.276 cc-by-sa-4.0
rijksoverheid nederlands 3.215 8.273.193 cc0-1.0
pdreview_en engels 1.258 6.841.661 cc-by-sa-4.0
wikinews nederlands 4.255 6.426.439 cc-by-2.5

Hoe het is schoongemaakt

Per document, in deze volgorde:

  1. Normaliseren. Unicode naar NFC, aanhalingstekens en streepjes gelijkgetrokken, harde regeleinden binnen een alinea eruit.
  2. Boilerplate weg. Kopregels, paginanummers, navigatie en de vaste staart van elke bron, per bron apart afgeregeld.
  3. Kwaliteitsfilter. Te kort, te veel cijfers of leestekens, te weinig Nederlands, te veel herhaling binnen een document.
  4. PII wissen. Namen, adressen, telefoonnummers, rekeningnummers en burgerservicenummers worden vervangen door een aanduiding tussen blokhaken. Rechtspraak.nl is zelf al gepseudonimiseerd; dit is de tweede lezing.
  5. Decontaminatie. Documenten die overlappen met de testsets van de benchmarks waarop het model gemeten wordt gaan eruit. Vóór het trainen en niet erna, want een score op een corpus dat de testset bevat is geen score.
  6. Deduplicatie. MinHash binnen elke bouwronde. Zie de beperkingen hieronder.

Deze documenten zitten wel in het trainingscorpus, maar niet in deze publicatie:

bron reden documenten
examens licentie cvte-bronvermelding-ongewijzigd is niet open 4.893
wikiwijs licentievelden spreken elkaar tegen 3.291

Licenties

Elk document en elk instructievoorbeeld draagt zijn eigen licentiecode in de kolom license. Deze codes komen voor:

code betekenis
apache-2.0 Apache License 2.0
cc-by-2.0 Creative Commons BY 2.0
cc-by-2.5 Creative Commons BY 2.5
cc-by-3.0 Creative Commons BY 3.0
cc-by-4.0 Creative Commons BY 4.0
cc-by-sa-3.0 Creative Commons BY-SA 3.0
cc-by-sa-4.0 Creative Commons BY-SA 4.0
cc0-1.0 Creative Commons Zero 1.0
eu-reuse EU-hergebruikbesluit 2011/833/EU
mit MIT-licentie
pd Publiek domein (auteursrecht verlopen)
pd-art11-aw Publiek domein (Auteurswet art. 11)
pd-art15b-aw Vrij herbruikbaar (Auteurswet art. 15b)
pd-be-xi172 Publiek domein (WER art. XI.172 §2, België)

De grondslagen die het vaakst voorkomen zijn artikel 11 en artikel 15b van de Auteurswet. Artikel 11 zegt dat er geen auteursrecht rust op wetten, besluiten, verordeningen en rechterlijke uitspraken. Artikel 15b regelt het hergebruik van ander werk dat door of vanwege de openbare macht openbaar is gemaakt, tenzij het auteursrecht uitdrukkelijk is voorbehouden. Voor Belgisch materiaal geldt de tegenhanger in artikel XI.172 van het Wetboek van economisch recht.

Wat dat betekent voor hergebruik: het materiaal is vrij herbruikbaar, maar de CC BY-SA-delen (Wikimedia, een deel van het lesmateriaal) dragen hun naamsvermelding en gelijk-delen-verplichting mee. Kijk dus naar de kolom license per document en niet naar één regel bovenaan.

Velden

kolom inhoud
text de schoongemaakte tekst
source de bron, gelijk aan de confignaam
license licentiecode van dit document
id stabiele sleutel binnen de bron (ECLI, dossiernummer, paginatitel)
url waar het vandaan komt
collection nederlands of engels
meta resterende brongegevens als JSON-tekst

Instructiedata

Voorbeelden om een model op te finetunen, afgeleid uit de documenten hierboven en uit een paar door mensen geschreven sets met een open licentie. Er is geen taalmodel gebruikt om ze te maken. De vragen komen uit sjablonen of uit de bron zelf (Kamervragen met het antwoord van de minister, door mensen geschreven sets), de antwoorden uit de brontekst, en wat af te leiden is, is achteraf gecontroleerd.

taak train validation licenties
extractief 77.711 1.553 cc-by-sa-3.0, cc-by-sa-4.0, eu-reuse, pd-art11-aw, pd-art15b-aw, pd-be-xi172
geenkennis 11.787 213 pd-art15b-aw
gesprek 14.797 249 apache-2.0, cc-by-sa-3.0
grammatica 48.931 1.069 cc-by-sa-4.0
kennis 1.152 36 cc-by-4.0
meerkeuze 60.933 1.194 cc-by-sa-3.0, cc-by-sa-4.0
onbegrepen 2.915 85 cc-by-4.0
onthouding 46.102 896 cc-by-sa-4.0, eu-reuse, pd-art11-aw, pd-art15b-aw, pd-be-xi172
openvraag 44.978 951 cc-by-sa-3.0, pd-art15b-aw
samenvatten 40.361 827 cc-by-sa-3.0, pd-art11-aw
som 66.081 1.392 cc-by-4.0, mit
vertalen 70.630 1.368 cc-by-2.0, eu-reuse
wikifeit 78.415 1.585 cc-by-sa-4.0
totaal 564.793 11.418

Hoe er gecontroleerd is. Een extractief antwoord staat letterlijk in de tekst die erbij hoort. Een onthoudingsvoorbeeld ("Dat staat er niet in") heeft een tekst waarin geen antwoord van de gevraagde soort voorkomt, en heeft een antwoordbare tweeling met dezelfde opdracht. Elke gegenereerde som is nagerekend. De samenvattingen van rechtspraak zijn de inhoudsindicaties die bij een uitspraak gepubliceerd worden, en ze zijn weggelaten als ze te veel noemen dat niet in de uitspraak zelf staat. Voorbeelden die een 13-gram delen met een EuroEval-testitem zijn eruit.

Split. Eén op de 50 groepen staat in validation, gekozen op de crc32 van de kolom group. Een groep is het brondocument of het feit, dus formuleringen van dezelfde vraag staan nooit aan beide kanten.

Collecties. bench is de train-split van SQuAD-nl en GSM8K. Wie wil aantonen dat een model geen enkel benchmarkvoorbeeld heeft gezien, laat die weg.

Eigen werk. Gegenereerde sommen, onzinvragen en de handgeschreven kennisvragen vallen onder cc-by-4.0.

kolom inhoud
messages het gesprek als role/content, klaar voor een chattemplate
reasoning de denkstappen vóór het antwoord, leeg als die er niet zijn
task de taak, gelijk aan de config instructie-<taak>
kind de soort binnen de taak (datum, bedrag, foutsoort, ...)
answerable bij lees- en onthoudingsvragen: staat het antwoord in de tekst
language nl of en
source waar de tekst vandaan komt
source_document het id van het brondocument in het corpus, als dat er is
license licentiecode van dit voorbeeld
collection nederlands, engels of bench
group sleutel voor de split
prompt_raw, completion_raw het voorbeeld in het eigen promptformaat met speciale tokens
meta overige velden als JSON-tekst

Bekende beperkingen

  • Deduplicatie per ronde. Het corpus is in twee rondes gebouwd, en bijna-dubbelen tússen die rondes zijn niet gezocht. Exacte dubbelen van hetzelfde document zijn uitgesloten doordat elke bron zijn id's bijhoudt.
  • Licentieversies uit de Common Pile. Bij doab_en, pressbooks_en, libretexts_en, news_en, oercommons_en, pdreview_en en pubmed_en zijn CC-licenties van versie 2.0 tot 3.0 bij het ophalen als 4.0 vastgelegd. De oorspronkelijke versie staat in de Common Pile zelf.
  • Register. Formeel en schriftelijk Nederlands overheerst. Losse spreektaal staat er nauwelijks in.
  • Europarl is deels vertaald Nederlands; het origineel was vaak een andere taal.
  • PII. Het wissen is regelgebaseerd en mist dus gevallen. Rechtspraak.nl pseudonimiseert zelf ook.

Wat er bewust niet in zit

Geen geschraapte websites, geen fora, geen sociale media, geen krantenarchieven waarvan het auteursrecht nog loopt, en geen tekst die door een ander taalmodel is gegenereerd. Dat kost register: ontspannen, alledaags Nederlands is in officiële bronnen schaars. Kamervragen en Handelingen vangen daar een deel van op, want dat is gewone taal over elk denkbaar onderwerp.

Laden 

from datasets import load_dataset

nl = load_dataset("beleg", "nederlands", split="train", streaming=True)
recht = load_dataset("beleg", "rechtspraak", split="train")
sft = load_dataset("beleg", "instructie")  # train en validation

Verantwoording

Bij deze set hoort de code die hem heeft gebouwd, met per bron de fetcher, het schoonmaakprofiel en de meting die eronder ligt: https://github.com/ToetsChecker-Research/boterham. Wie wil nagaan hoe een document hier terecht is gekomen, kan dat daar volgen. HERKOMST.json naast deze kaart bevat de tellingen per bron en per taak in machineleesbare vorm.