OWLv1Set / README.md
SatoshiManjoro's picture
Update README.md
7871c96 verified
|
Raw History Blame Contribute Delete
5.21 kB
metadata
license: apache-2.0
language:
  - ru
task_categories:
  - text-generation
size_categories:
  - 1B<n<10B
tags:
  - russian
  - pretraining
  - rwkv
  - rwkv7
  - slm
  - bpe
  - uint16

OWLv1Set

OWLv1Set — высокоочищенный, предварительно токенизированный русскоязычный текстовый корпус объёмом ~1.13 млрд токенов, разработанный специально для претрейна компактных языковых моделей (SLM), включая архитектуру RWKV-7 (MiniManjoro-100M).

Датасет поставляется в готовом бинарном формате (uint16) вместе с обученным под него кастомным Byte-Level BPE токенизатором, что позволяет сразу запускать обучение через np.memmap без затрат времени на парсинг и токенизацию.


Основные характеристики

Параметр Значение
Язык Русский (ru)
Объём корпуса 1,126,372,029 токенов
Формат хранения Бинарный поток numpy.uint16 (2 байта/токен)
Разделение train.bin — 99% (1.115B токенов, 2.23 GB)
val.bin — 1% (
11.3M токенов, 22.5 MB)
Токенизатор Кастомный ByteLevelBPE (vocab_size = 16,384)
Спецтокены `<
Плотность сжатия ~5.52 байт/токен (для русского UTF-8 текста)

Тематический состав

Корпус сбалансирован таким образом, чтобы компактная модель одновременно усваивала строгую грамматику, фактологию, техническую логику и живую разговорную речь:

  • IT, наука и технические статьи (~35.6%) — сложные лонгриды, программирование, инженерия и аналитика.
  • Живая речь, диалоги и интернет-фольклор (~31.7%) — естественные реплики, юмор, дискуссии и актуальный разговорный контекст.
  • Энциклопедические знания (~26.6%) — структурированные факты, определения, история и базовые знания о мире.
  • Публицистика и новости (~6.0%) — связные новостные и медиа-материалы.

Пайплайн очистки и фильтрации

Все тексты прошли многоступенчатую потоковую очистку и валидацию качества:

  1. Санитизация и эвристика: удаление HTML-разметки, URL-ссылок, упоминаний (@handle), рекламного спама и аномальных повторов символов (с защитой числовых последовательностей), а также проверка доли кириллицы.
  2. Дедупликация: отсечение точных и нечётких дубликатов с помощью 64-битного хэширования Blake2b.
  3. Лингвистический контроль: проверка длины документов, плотности пунктуации и словарной энтропии для исключения бессвязного флуда.

Структура репозитория

OWLv1Set/
├── train.bin              # Обучающая выборка (uint16, 2.23 GB)
├── val.bin                # Валидационная выборка (uint16, 22.5 MB)
└── tokenizer/
    ├── tokenizer.json     # Конфигурация ByteLevelBPE (16,384 токенов)
    ├── vocab.json         # Таблица словаря
    └── merges.txt         # Правила слияния BPE

Быстрый старт (Python)

Пример потокового чтения бинарных данных и декодирования токенов:

import numpy as np
from tokenizers import Tokenizer

# 1. Загрузка токенизатора
tokenizer = Tokenizer.from_file("tokenizer/tokenizer.json")

# 2. Мгновенное подключение бинарника через memmap (без загрузки всего файла в RAM)
train_data = np.memmap("train.bin", dtype=np.uint16, mode="r")
print(f"Всего токенов в train: {len(train_data):,}")

# 3. Чтение и декодирование тестового фрагмента
sample_ids = train_data[:100].tolist()
print(tokenizer.decode(sample_ids))

Автор и лицензия

  • Автор: SatoshiManjoro
  • Лицензия: Apache 2.0