technika-i-nauka / README.md
PiotrSty's picture
Add dataset card
5306b27 verified
|
Raw History Blame Contribute Delete
997 Bytes
---
license: other
license_name: per-record
language:
- pl
pretty_name: Technika i Nauka
task_categories:
- text-generation
library_name: datasets
size_categories:
- 10M<n<100M
tags:
- polish
- technical
- science
- parquet
configs:
- config_name: default
data_files:
- split: train
path: data/train.parquet
- split: validation
path: data/validation.parquet
- split: test
path: data/test.parquet
---
# Technika i Nauka
Oczyszczony PII polski korpus techniczny i nauk ścisłych, scalony z czterech datasetów źródłowych.
Adresy e-mail, numery telefonów i identyfikatory ORCID zastąpiono znacznikami. Nazwiska autorów pozostawiono dla atrybucji licencyjnej.
Zbiór zawiera 19048 fragmentów z 3057 grup artykułów i 34868011 tokenów proxy `cl100k_base`. Cały artykuł pozostaje w jednym splicie.
| Split | Fragmenty | Tokeny |
|---|---:|---:|
| test | 914 | 1647304 |
| train | 17020 | 31188557 |
| valid | 1114 | 2032150 |