technika-i-nauka / README.md
PiotrSty's picture
Add dataset card
5306b27 verified
|
Raw History Blame Contribute Delete
997 Bytes
metadata
license: other
license_name: per-record
language:
  - pl
pretty_name: Technika i Nauka
task_categories:
  - text-generation
library_name: datasets
size_categories:
  - 10M<n<100M
tags:
  - polish
  - technical
  - science
  - parquet
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train.parquet
      - split: validation
        path: data/validation.parquet
      - split: test
        path: data/test.parquet

Technika i Nauka

Oczyszczony PII polski korpus techniczny i nauk ścisłych, scalony z czterech datasetów źródłowych.

Adresy e-mail, numery telefonów i identyfikatory ORCID zastąpiono znacznikami. Nazwiska autorów pozostawiono dla atrybucji licencyjnej.

Zbiór zawiera 19048 fragmentów z 3057 grup artykułów i 34868011 tokenów proxy cl100k_base. Cały artykuł pozostaje w jednym splicie.

Split Fragmenty Tokeny
test 914 1647304
train 17020 31188557
valid 1114 2032150