Datasets:
Download README.md from SatoshiManjoro/OWLv1Set: direct link, hf CLI and curl.
- Browser
- Download file 5.21 kB
-
https://huggingface.co/datasets/SatoshiManjoro/OWLv1Set/resolve/main/README.md
- Command line
-
hf download hf://datasets/SatoshiManjoro/OWLv1Set/README.md
-
curl -L -o README.md https://huggingface.co/datasets/SatoshiManjoro/OWLv1Set/resolve/main/README.md
license: apache-2.0
language:
- ru
task_categories:
- text-generation
size_categories:
- 1B<n<10B
tags:
- russian
- pretraining
- rwkv
- rwkv7
- slm
- bpe
- uint16
OWLv1Set
OWLv1Set — высокоочищенный, предварительно токенизированный русскоязычный текстовый корпус объёмом ~1.13 млрд токенов, разработанный специально для претрейна компактных языковых моделей (SLM), включая архитектуру RWKV-7 (MiniManjoro-100M).
Датасет поставляется в готовом бинарном формате (uint16) вместе с обученным под него кастомным Byte-Level BPE токенизатором, что позволяет сразу запускать обучение через np.memmap без затрат времени на парсинг и токенизацию.
Основные характеристики
| Параметр | Значение |
|---|---|
| Язык | Русский (ru) |
| Объём корпуса | 1,126,372,029 токенов |
| Формат хранения | Бинарный поток numpy.uint16 (2 байта/токен) |
| Разделение | train.bin — 99% (2.23 GB)val.bin — 1% (22.5 MB) |
| Токенизатор | Кастомный ByteLevelBPE (vocab_size = 16,384) |
| Спецтокены | `< |
| Плотность сжатия | ~5.52 байт/токен (для русского UTF-8 текста) |
Тематический состав
Корпус сбалансирован таким образом, чтобы компактная модель одновременно усваивала строгую грамматику, фактологию, техническую логику и живую разговорную речь:
- IT, наука и технические статьи (~35.6%) — сложные лонгриды, программирование, инженерия и аналитика.
- Живая речь, диалоги и интернет-фольклор (~31.7%) — естественные реплики, юмор, дискуссии и актуальный разговорный контекст.
- Энциклопедические знания (~26.6%) — структурированные факты, определения, история и базовые знания о мире.
- Публицистика и новости (~6.0%) — связные новостные и медиа-материалы.
Пайплайн очистки и фильтрации
Все тексты прошли многоступенчатую потоковую очистку и валидацию качества:
- Санитизация и эвристика: удаление HTML-разметки, URL-ссылок, упоминаний (
@handle), рекламного спама и аномальных повторов символов (с защитой числовых последовательностей), а также проверка доли кириллицы. - Дедупликация: отсечение точных и нечётких дубликатов с помощью 64-битного хэширования
Blake2b. - Лингвистический контроль: проверка длины документов, плотности пунктуации и словарной энтропии для исключения бессвязного флуда.
Структура репозитория
OWLv1Set/
├── train.bin # Обучающая выборка (uint16, 2.23 GB)
├── val.bin # Валидационная выборка (uint16, 22.5 MB)
└── tokenizer/
├── tokenizer.json # Конфигурация ByteLevelBPE (16,384 токенов)
├── vocab.json # Таблица словаря
└── merges.txt # Правила слияния BPE
Быстрый старт (Python)
Пример потокового чтения бинарных данных и декодирования токенов:
import numpy as np
from tokenizers import Tokenizer
# 1. Загрузка токенизатора
tokenizer = Tokenizer.from_file("tokenizer/tokenizer.json")
# 2. Мгновенное подключение бинарника через memmap (без загрузки всего файла в RAM)
train_data = np.memmap("train.bin", dtype=np.uint16, mode="r")
print(f"Всего токенов в train: {len(train_data):,}")
# 3. Чтение и декодирование тестового фрагмента
sample_ids = train_data[:100].tolist()
print(tokenizer.decode(sample_ids))
Автор и лицензия
- Автор: SatoshiManjoro
- Лицензия: Apache 2.0