Datasets:
|
Download README.md from SatoshiManjoro/OWLv1Set: direct link, hf CLI and curl.
- Browser
- Download file 5.21 kB
-
https://huggingface.co/datasets/SatoshiManjoro/OWLv1Set/resolve/main/README.md
- Command line
-
hf download hf://datasets/SatoshiManjoro/OWLv1Set/README.md
-
curl -L -o README.md https://huggingface.co/datasets/SatoshiManjoro/OWLv1Set/resolve/main/README.md
5.21 kB
| license: apache-2.0 | |
| language: | |
| - ru | |
| task_categories: | |
| - text-generation | |
| size_categories: | |
| - 1B<n<10B | |
| tags: | |
| - russian | |
| - pretraining | |
| - rwkv | |
| - rwkv7 | |
| - slm | |
| - bpe | |
| - uint16 | |
| # OWLv1Set | |
| **OWLv1Set** — высокоочищенный, предварительно токенизированный русскоязычный текстовый корпус объёмом **~1.13 млрд токенов**, разработанный специально для претрейна компактных языковых моделей (SLM), включая архитектуру **RWKV-7 (MiniManjoro-100M)**. | |
| Датасет поставляется в готовом бинарном формате (`uint16`) вместе с обученным под него кастомным Byte-Level BPE токенизатором, что позволяет сразу запускать обучение через `np.memmap` без затрат времени на парсинг и токенизацию. | |
| --- | |
| ## Основные характеристики | |
| | Параметр | Значение | | |
| | :--- | :--- | | |
| | **Язык** | Русский (`ru`) | | |
| | **Объём корпуса** | **1,126,372,029 токенов** | | |
| | **Формат хранения** | Бинарный поток `numpy.uint16` (2 байта/токен) | | |
| | **Разделение** | `train.bin` — 99% (~1.115B токенов, `2.23 GB`)<br>`val.bin` — 1% (~11.3M токенов, `22.5 MB`) | | |
| | **Токенизатор** | Кастомный `ByteLevelBPE` (`vocab_size = 16,384`) | | |
| | **Спецтокены** | `<|eos|>`, `<|pad|>` | | |
| | **Плотность сжатия** | ~5.52 байт/токен (для русского UTF-8 текста) | | |
| --- | |
| ## Тематический состав | |
| Корпус сбалансирован таким образом, чтобы компактная модель одновременно усваивала строгую грамматику, фактологию, техническую логику и живую разговорную речь: | |
| * **IT, наука и технические статьи (~35.6%)** — сложные лонгриды, программирование, инженерия и аналитика. | |
| * **Живая речь, диалоги и интернет-фольклор (~31.7%)** — естественные реплики, юмор, дискуссии и актуальный разговорный контекст. | |
| * **Энциклопедические знания (~26.6%)** — структурированные факты, определения, история и базовые знания о мире. | |
| * **Публицистика и новости (~6.0%)** — связные новостные и медиа-материалы. | |
| --- | |
| ## Пайплайн очистки и фильтрации | |
| Все тексты прошли многоступенчатую потоковую очистку и валидацию качества: | |
| 1. **Санитизация и эвристика:** удаление HTML-разметки, URL-ссылок, упоминаний (`@handle`), рекламного спама и аномальных повторов символов (с защитой числовых последовательностей), а также проверка доли кириллицы. | |
| 2. **Дедупликация:** отсечение точных и нечётких дубликатов с помощью 64-битного хэширования `Blake2b`. | |
| 3. **Лингвистический контроль:** проверка длины документов, плотности пунктуации и словарной энтропии для исключения бессвязного флуда. | |
| --- | |
| ## Структура репозитория | |
| ```text | |
| OWLv1Set/ | |
| ├── train.bin # Обучающая выборка (uint16, 2.23 GB) | |
| ├── val.bin # Валидационная выборка (uint16, 22.5 MB) | |
| └── tokenizer/ | |
| ├── tokenizer.json # Конфигурация ByteLevelBPE (16,384 токенов) | |
| ├── vocab.json # Таблица словаря | |
| └── merges.txt # Правила слияния BPE | |
| ``` | |
| --- | |
| ## Быстрый старт (Python) | |
| Пример потокового чтения бинарных данных и декодирования токенов: | |
| ```python | |
| import numpy as np | |
| from tokenizers import Tokenizer | |
| # 1. Загрузка токенизатора | |
| tokenizer = Tokenizer.from_file("tokenizer/tokenizer.json") | |
| # 2. Мгновенное подключение бинарника через memmap (без загрузки всего файла в RAM) | |
| train_data = np.memmap("train.bin", dtype=np.uint16, mode="r") | |
| print(f"Всего токенов в train: {len(train_data):,}") | |
| # 3. Чтение и декодирование тестового фрагмента | |
| sample_ids = train_data[:100].tolist() | |
| print(tokenizer.decode(sample_ids)) | |
| ``` | |
| --- | |
| ## Автор и лицензия | |
| * **Автор:** SatoshiManjoro | |
| * **Лицензия:** Apache 2.0 |