GPT-6-Luna-RU / README.md
Calamity228's picture
Upload 2 files
442c8e3 verified
|
Raw History Blame Contribute Delete
9.39 kB
metadata
language:
  - ru
license: apache-2.0
task_categories:
  - text-generation
  - question-answering
tags:
  - synthetic
  - sft
  - instruction-tuning
  - chat
  - conversational
  - russian
  - general-purpose
  - gpt-6
pretty_name: GPT-6 Luna General Purpose (RU)
size_categories:
  - 1K<n<10K
configs:
  - config_name: default
    data_files:
      - split: train
        path: GPT6.jsonl

GPT-6 Luna General Purpose (RU)

Синтетический русскоязычный диалоговый датасет общего назначения (General Purpose) для supervised fine-tuning языковых моделей. Все 6 015 примеров полностью сгенерированы моделью GPT-6 Luna: и вопросы пользователя, и ответы ассистента.

Датасет охватывает широкий спектр повседневных и познавательных тем: от физики и биологии до кулинарии, ремонта, литературы и личной продуктивности. Цель — научить модель отвечать на русском языке понятно, по существу и в естественном разговорном стиле.

Кратко

Параметр Значение
Количество примеров 6 015
Язык Русский
Формат JSONL, chat (messages)
Структура диалога Одноходовой: user → assistant
Источник 100% синтетика, GPT-6 Luna
Сплиты train
Размер файла ~12 МБ

Формат данных

Каждая строка файла — отдельный JSON-объект с полем messages:

{"messages": [{"role": "user", "content": "..."}, {"role": "assistant", "content": "..."}]}

Пример из датасета:

{
  "messages": [
    {"role": "user", "content": "самая маленькая частица в мире"},
    {"role": "assistant", "content": "Самые маленькие известные частицы — **элементарные частицы**, например электроны и кварки. Насколько известно, у них нет измеримого размера: они считаются точечными. Поэтому назвать одну из них «самой маленькой» нельзя."}
  ]
}

Формат совместим с chat-шаблонами большинства современных моделей и напрямую поддерживается trl (SFTTrainer), Axolotl, LLaMA-Factory, Unsloth и другими фреймворками для дообучения.

Статистика

Метрика Вопрос (user) Ответ (assistant)
Средняя длина, символов 41 1 047
Медиана, символов 41 906
Максимум, символов 447 13 133
Всего символов ~250 тыс. ~6.3 млн

Дополнительно:

  • Все диалоги строго двухрепликовые: одна реплика пользователя, один ответ ассистента.
  • Пустых сообщений нет, все строки валидны.
  • Дубликатов вопросов нет: все 6 015 запросов уникальны.
  • Около 60% ответов используют Markdown-разметку (заголовки, списки, выделение жирным), что делает их структурированными и удобными для чтения.
  • Небольшая часть ответов (~90) содержит блоки кода.

Тематика

Датасет носит общий характер и не сфокусирован на одной области. Среди представленных направлений:

  • Естественные науки — физика, химия, биология, астрономия, устройство природы и живых организмов.
  • Технологии — как работают устройства и привычные технологии, базовые вопросы программирования.
  • История и культура — исторические события, происхождение вещей и традиций, литература, искусство.
  • Общество и философия — устройство обществ, наука как явление, абстрактные и мировоззренческие вопросы.
  • Повседневная жизнь — быт, ремонт, дом, кулинария, хобби, здоровье и спорт.
  • Обучение и саморазвитие — объяснения понятий, советы по освоению навыков, продуктивность и планирование.
  • Творческие задачи — придумать, сочинить, составить: шутки, тексты, списки, планы.

Типы запросов разнообразны по форме. Чаще всего вопросы начинаются со слов «Как» (34%), «Почему» (17%) и «Что» (~11%); также встречаются задания вида «Придумай», «Объясни», «Составь», «Напиши». Запросы написаны в живой манере: с разговорными формулировками, без заглавной буквы, короткими фразами — так, как реальные пользователи пишут в чат.

Несколько примеров запросов:

  • Как работает беспроводная зарядка?
  • Почему у кенгуру сумка на животе? Там тепло?
  • Как начать играть на гитаре самостоятельно?
  • Что делает человеческие общества устойчивыми на протяжении тысяч лет?
  • Какие темы поднимает Лермонтов в лирике?
  • Что такое матрица Эйзенхауэра и как её использовать?
  • Придумай смешной гороскоп для программистов

Использование

Загрузка через datasets:

from datasets import load_dataset

ds = load_dataset("Calamity228/GPT6-Luna-RU", split="train")
print(ds[0]["messages"])

Применение chat-шаблона модели:

from transformers import AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("your-base-model")
text = tokenizer.apply_chat_template(ds[0]["messages"], tokenize=False)

Обучение с trl:

from trl import SFTTrainer, SFTConfig

trainer = SFTTrainer(
    model="your-base-model",
    train_dataset=ds,
    args=SFTConfig(output_dir="out"),
)
trainer.train()

Назначение

Датасет подходит для:

  • SFT и instruction-tuning моделей на русском языке;
  • улучшения разговорных навыков и стиля ответов у небольших и средних моделей;
  • дистилляции поведения сильной модели в более компактную;
  • смешивания с другими датасетами как русскоязычный general-purpose компонент.

Ограничения

  • Синтетическое происхождение. Все данные сгенерированы моделью и не проходили полную ручную проверку. Возможны фактические неточности, устаревшая информация или галлюцинации.
  • Стиль одной модели. Ответы отражают манеру и предпочтения GPT-6 Luna; модель, обученная только на этих данных, унаследует этот стиль.
  • Только одноходовые диалоги. Многоходовые беседы, работа с контекстом и system-промпты не представлены.
  • Не предназначен для узкоспециализированных задач. Медицинские, юридические и финансовые ответы носят общий справочный характер и не являются профессиональной консультацией.

Перед использованием в продакшене рекомендуется дополнительная фильтрация и проверка под конкретную задачу.

Цитирование

@misc{gpt6_luna_ru_general,
  title  = {GPT-6 Luna General Purpose (RU)},
  author = {Calamity228},
  year   = {2026},
  publisher = {Hugging Face},
  howpublished = {\url{https://huggingface.co/datasets/Calamity228/GPT-6-Luna-RU}}
}