longtimedevs's picture
Upload 2 files
0207096 verified
|
Raw History Blame Contribute Delete
1.76 kB
metadata
language:
  - ru
license: mit
size_categories:
  - 10K<n<100K
task_categories:
  - text-generation
  - conversational
pretty_name: Ru-Sovereign-Mixture-Dataset
tags:
  - pretraining
  - sft
  - russian
  - llama
configs:
  - config_name: default
    data_files:
      - split: train
        path: train.parquet

🇷🇺 Ru-Sovereign-Mixture Dataset

Сбалансированная смесь русскоязычных корпусов для полного цикла обучения легковесных суверенных языковых моделей (Pre-training + SFT).

Структура полей

Поле Тип Описание
text string Текст для фундаментального чтения или размеченный диалог
type string Этап обучения: pretrain (базовое чтение) или sft (диалоги)
source string Исходный датасет (wikipedia, gazeta, saiga, grandmaster, alpaca)
category string Смысловой раздел (энциклопедия, новости, диалог, факты, инструкции)

Статистика объема

  • Всего примеров: 21000
  • Фундаментальное чтение (pretrain): ~10 000 статей
  • Диалоги и инструкции (sft): ~11 000 размеченных пар

Датасет очищен от битого программного кода, артефактов машинного перевода, американских единиц измерения (дюймы/футы) и системных отказов.