OWLv1Set / README.md
SatoshiManjoro's picture
Update README.md
7871c96 verified
|
Raw History Blame Contribute Delete
5.21 kB
---
license: apache-2.0
language:
- ru
task_categories:
- text-generation
size_categories:
- 1B<n<10B
tags:
- russian
- pretraining
- rwkv
- rwkv7
- slm
- bpe
- uint16
---
# OWLv1Set
**OWLv1Set** — высокоочищенный, предварительно токенизированный русскоязычный текстовый корпус объёмом **~1.13 млрд токенов**, разработанный специально для претрейна компактных языковых моделей (SLM), включая архитектуру **RWKV-7 (MiniManjoro-100M)**.
Датасет поставляется в готовом бинарном формате (`uint16`) вместе с обученным под него кастомным Byte-Level BPE токенизатором, что позволяет сразу запускать обучение через `np.memmap` без затрат времени на парсинг и токенизацию.
---
## Основные характеристики
| Параметр | Значение |
| :--- | :--- |
| **Язык** | Русский (`ru`) |
| **Объём корпуса** | **1,126,372,029 токенов** |
| **Формат хранения** | Бинарный поток `numpy.uint16` (2 байта/токен) |
| **Разделение** | `train.bin` — 99% (~1.115B токенов, `2.23 GB`)<br>`val.bin` — 1% (~11.3M токенов, `22.5 MB`) |
| **Токенизатор** | Кастомный `ByteLevelBPE` (`vocab_size = 16,384`) |
| **Спецтокены** | `<|eos|>`, `<|pad|>` |
| **Плотность сжатия** | ~5.52 байт/токен (для русского UTF-8 текста) |
---
## Тематический состав
Корпус сбалансирован таким образом, чтобы компактная модель одновременно усваивала строгую грамматику, фактологию, техническую логику и живую разговорную речь:
* **IT, наука и технические статьи (~35.6%)** — сложные лонгриды, программирование, инженерия и аналитика.
* **Живая речь, диалоги и интернет-фольклор (~31.7%)** — естественные реплики, юмор, дискуссии и актуальный разговорный контекст.
* **Энциклопедические знания (~26.6%)** — структурированные факты, определения, история и базовые знания о мире.
* **Публицистика и новости (~6.0%)** — связные новостные и медиа-материалы.
---
## Пайплайн очистки и фильтрации
Все тексты прошли многоступенчатую потоковую очистку и валидацию качества:
1. **Санитизация и эвристика:** удаление HTML-разметки, URL-ссылок, упоминаний (`@handle`), рекламного спама и аномальных повторов символов (с защитой числовых последовательностей), а также проверка доли кириллицы.
2. **Дедупликация:** отсечение точных и нечётких дубликатов с помощью 64-битного хэширования `Blake2b`.
3. **Лингвистический контроль:** проверка длины документов, плотности пунктуации и словарной энтропии для исключения бессвязного флуда.
---
## Структура репозитория
```text
OWLv1Set/
├── train.bin # Обучающая выборка (uint16, 2.23 GB)
├── val.bin # Валидационная выборка (uint16, 22.5 MB)
└── tokenizer/
├── tokenizer.json # Конфигурация ByteLevelBPE (16,384 токенов)
├── vocab.json # Таблица словаря
└── merges.txt # Правила слияния BPE
```
---
## Быстрый старт (Python)
Пример потокового чтения бинарных данных и декодирования токенов:
```python
import numpy as np
from tokenizers import Tokenizer
# 1. Загрузка токенизатора
tokenizer = Tokenizer.from_file("tokenizer/tokenizer.json")
# 2. Мгновенное подключение бинарника через memmap (без загрузки всего файла в RAM)
train_data = np.memmap("train.bin", dtype=np.uint16, mode="r")
print(f"Всего токенов в train: {len(train_data):,}")
# 3. Чтение и декодирование тестового фрагмента
sample_ids = train_data[:100].tolist()
print(tokenizer.decode(sample_ids))
```
---
## Автор и лицензия
* **Автор:** SatoshiManjoro
* **Лицензия:** Apache 2.0