OWLv1Set

OWLv1Set — высокоочищенный, предварительно токенизированный русскоязычный текстовый корпус объёмом ~1.13 млрд токенов, разработанный специально для претрейна компактных языковых моделей (SLM), включая архитектуру RWKV-7 (MiniManjoro-100M).

Датасет поставляется в готовом бинарном формате (uint16) вместе с обученным под него кастомным Byte-Level BPE токенизатором, что позволяет сразу запускать обучение через np.memmap без затрат времени на парсинг и токенизацию.

---

Основные характеристики

Параметр	Значение
Язык	Русский (ru)
Объём корпуса	1,126,372,029 токенов
Формат хранения	Бинарный поток numpy.uint16 (2 байта/токен)
Разделение	train.bin — 99% (1.115B токенов, 2.23 GB) val.bin — 1% (11.3M токенов, 22.5 MB)
Токенизатор	Кастомный ByteLevelBPE (vocab_size = 16,384)
Спецтокены	`<
Плотность сжатия	~5.52 байт/токен (для русского UTF-8 текста)

---

Тематический состав

Корпус сбалансирован таким образом, чтобы компактная модель одновременно усваивала строгую грамматику, фактологию, техническую логику и живую разговорную речь:

• IT, наука и технические статьи (~35.6%) — сложные лонгриды, программирование, инженерия и аналитика.
• Живая речь, диалоги и интернет-фольклор (~31.7%) — естественные реплики, юмор, дискуссии и актуальный разговорный контекст.
• Энциклопедические знания (~26.6%) — структурированные факты, определения, история и базовые знания о мире.
• Публицистика и новости (~6.0%) — связные новостные и медиа-материалы.

---

Пайплайн очистки и фильтрации

Все тексты прошли многоступенчатую потоковую очистку и валидацию качества:

1. Санитизация и эвристика: удаление HTML-разметки, URL-ссылок, упоминаний (@handle), рекламного спама и аномальных повторов символов (с защитой числовых последовательностей), а также проверка доли кириллицы.
2. Дедупликация: отсечение точных и нечётких дубликатов с помощью 64-битного хэширования Blake2b.
3. Лингвистический контроль: проверка длины документов, плотности пунктуации и словарной энтропии для исключения бессвязного флуда.

---

Структура репозитория

OWLv1Set/
├── train.bin              # Обучающая выборка (uint16, 2.23 GB)
├── val.bin                # Валидационная выборка (uint16, 22.5 MB)
└── tokenizer/
    ├── tokenizer.json     # Конфигурация ByteLevelBPE (16,384 токенов)
    ├── vocab.json         # Таблица словаря
    └── merges.txt         # Правила слияния BPE

---

Быстрый старт (Python)

Пример потокового чтения бинарных данных и декодирования токенов:

import numpy as np
from tokenizers import Tokenizer

# 1. Загрузка токенизатора
tokenizer = Tokenizer.from_file("tokenizer/tokenizer.json")

# 2. Мгновенное подключение бинарника через memmap (без загрузки всего файла в RAM)
train_data = np.memmap("train.bin", dtype=np.uint16, mode="r")
print(f"Всего токенов в train: {len(train_data):,}")

# 3. Чтение и декодирование тестового фрагмента
sample_ids = train_data[:100].tolist()
print(tokenizer.decode(sample_ids))

---

Автор и лицензия

• Автор: SatoshiManjoro
• Лицензия: Apache 2.0