--- license: apache-2.0 language: - ru task_categories: - text-generation size_categories: - 1B`val.bin` — 1% (~11.3M токенов, `22.5 MB`) | | **Токенизатор** | Кастомный `ByteLevelBPE` (`vocab_size = 16,384`) | | **Спецтокены** | `<|eos|>`, `<|pad|>` | | **Плотность сжатия** | ~5.52 байт/токен (для русского UTF-8 текста) | --- ## Тематический состав Корпус сбалансирован таким образом, чтобы компактная модель одновременно усваивала строгую грамматику, фактологию, техническую логику и живую разговорную речь: * **IT, наука и технические статьи (~35.6%)** — сложные лонгриды, программирование, инженерия и аналитика. * **Живая речь, диалоги и интернет-фольклор (~31.7%)** — естественные реплики, юмор, дискуссии и актуальный разговорный контекст. * **Энциклопедические знания (~26.6%)** — структурированные факты, определения, история и базовые знания о мире. * **Публицистика и новости (~6.0%)** — связные новостные и медиа-материалы. --- ## Пайплайн очистки и фильтрации Все тексты прошли многоступенчатую потоковую очистку и валидацию качества: 1. **Санитизация и эвристика:** удаление HTML-разметки, URL-ссылок, упоминаний (`@handle`), рекламного спама и аномальных повторов символов (с защитой числовых последовательностей), а также проверка доли кириллицы. 2. **Дедупликация:** отсечение точных и нечётких дубликатов с помощью 64-битного хэширования `Blake2b`. 3. **Лингвистический контроль:** проверка длины документов, плотности пунктуации и словарной энтропии для исключения бессвязного флуда. --- ## Структура репозитория ```text OWLv1Set/ ├── train.bin # Обучающая выборка (uint16, 2.23 GB) ├── val.bin # Валидационная выборка (uint16, 22.5 MB) └── tokenizer/ ├── tokenizer.json # Конфигурация ByteLevelBPE (16,384 токенов) ├── vocab.json # Таблица словаря └── merges.txt # Правила слияния BPE ``` --- ## Быстрый старт (Python) Пример потокового чтения бинарных данных и декодирования токенов: ```python import numpy as np from tokenizers import Tokenizer # 1. Загрузка токенизатора tokenizer = Tokenizer.from_file("tokenizer/tokenizer.json") # 2. Мгновенное подключение бинарника через memmap (без загрузки всего файла в RAM) train_data = np.memmap("train.bin", dtype=np.uint16, mode="r") print(f"Всего токенов в train: {len(train_data):,}") # 3. Чтение и декодирование тестового фрагмента sample_ids = train_data[:100].tolist() print(tokenizer.decode(sample_ids)) ``` --- ## Автор и лицензия * **Автор:** SatoshiManjoro * **Лицензия:** Apache 2.0