GPT-6-Luna-RU / README.md
Calamity228's picture
Upload 2 files
442c8e3 verified
|
Raw History Blame Contribute Delete
9.39 kB
---
language:
- ru
license: apache-2.0
task_categories:
- text-generation
- question-answering
tags:
- synthetic
- sft
- instruction-tuning
- chat
- conversational
- russian
- general-purpose
- gpt-6
pretty_name: GPT-6 Luna General Purpose (RU)
size_categories:
- 1K<n<10K
configs:
- config_name: default
data_files:
- split: train
path: GPT6.jsonl
---
# GPT-6 Luna General Purpose (RU)
Синтетический русскоязычный диалоговый датасет общего назначения (General Purpose) для supervised fine-tuning языковых моделей. Все 6 015 примеров полностью сгенерированы моделью **GPT-6 Luna**: и вопросы пользователя, и ответы ассистента.
Датасет охватывает широкий спектр повседневных и познавательных тем: от физики и биологии до кулинарии, ремонта, литературы и личной продуктивности. Цель — научить модель отвечать на русском языке понятно, по существу и в естественном разговорном стиле.
## Кратко
| Параметр | Значение |
|---|---|
| Количество примеров | 6 015 |
| Язык | Русский |
| Формат | JSONL, chat (`messages`) |
| Структура диалога | Одноходовой: `user` → `assistant` |
| Источник | 100% синтетика, GPT-6 Luna |
| Сплиты | `train` |
| Размер файла | ~12 МБ |
## Формат данных
Каждая строка файла — отдельный JSON-объект с полем `messages`:
```json
{"messages": [{"role": "user", "content": "..."}, {"role": "assistant", "content": "..."}]}
```
Пример из датасета:
```json
{
"messages": [
{"role": "user", "content": "самая маленькая частица в мире"},
{"role": "assistant", "content": "Самые маленькие известные частицы — **элементарные частицы**, например электроны и кварки. Насколько известно, у них нет измеримого размера: они считаются точечными. Поэтому назвать одну из них «самой маленькой» нельзя."}
]
}
```
Формат совместим с chat-шаблонами большинства современных моделей и напрямую поддерживается `trl` (`SFTTrainer`), Axolotl, LLaMA-Factory, Unsloth и другими фреймворками для дообучения.
## Статистика
| Метрика | Вопрос (`user`) | Ответ (`assistant`) |
|---|---|---|
| Средняя длина, символов | 41 | 1 047 |
| Медиана, символов | 41 | 906 |
| Максимум, символов | 447 | 13 133 |
| Всего символов | ~250 тыс. | ~6.3 млн |
Дополнительно:
- Все диалоги строго двухрепликовые: одна реплика пользователя, один ответ ассистента.
- Пустых сообщений нет, все строки валидны.
- Дубликатов вопросов нет: все 6 015 запросов уникальны.
- Около 60% ответов используют Markdown-разметку (заголовки, списки, выделение жирным), что делает их структурированными и удобными для чтения.
- Небольшая часть ответов (~90) содержит блоки кода.
## Тематика
Датасет носит общий характер и не сфокусирован на одной области. Среди представленных направлений:
- **Естественные науки** — физика, химия, биология, астрономия, устройство природы и живых организмов.
- **Технологии** — как работают устройства и привычные технологии, базовые вопросы программирования.
- **История и культура** — исторические события, происхождение вещей и традиций, литература, искусство.
- **Общество и философия** — устройство обществ, наука как явление, абстрактные и мировоззренческие вопросы.
- **Повседневная жизнь** — быт, ремонт, дом, кулинария, хобби, здоровье и спорт.
- **Обучение и саморазвитие** — объяснения понятий, советы по освоению навыков, продуктивность и планирование.
- **Творческие задачи** — придумать, сочинить, составить: шутки, тексты, списки, планы.
Типы запросов разнообразны по форме. Чаще всего вопросы начинаются со слов «Как» (~34%), «Почему» (~17%) и «Что» (~11%); также встречаются задания вида «Придумай», «Объясни», «Составь», «Напиши». Запросы написаны в живой манере: с разговорными формулировками, без заглавной буквы, короткими фразами — так, как реальные пользователи пишут в чат.
Несколько примеров запросов:
- Как работает беспроводная зарядка?
- Почему у кенгуру сумка на животе? Там тепло?
- Как начать играть на гитаре самостоятельно?
- Что делает человеческие общества устойчивыми на протяжении тысяч лет?
- Какие темы поднимает Лермонтов в лирике?
- Что такое матрица Эйзенхауэра и как её использовать?
- Придумай смешной гороскоп для программистов
## Использование
Загрузка через `datasets`:
```python
from datasets import load_dataset
ds = load_dataset("Calamity228/GPT6-Luna-RU", split="train")
print(ds[0]["messages"])
```
Применение chat-шаблона модели:
```python
from transformers import AutoTokenizer
tokenizer = AutoTokenizer.from_pretrained("your-base-model")
text = tokenizer.apply_chat_template(ds[0]["messages"], tokenize=False)
```
Обучение с `trl`:
```python
from trl import SFTTrainer, SFTConfig
trainer = SFTTrainer(
model="your-base-model",
train_dataset=ds,
args=SFTConfig(output_dir="out"),
)
trainer.train()
```
## Назначение
Датасет подходит для:
- SFT и instruction-tuning моделей на русском языке;
- улучшения разговорных навыков и стиля ответов у небольших и средних моделей;
- дистилляции поведения сильной модели в более компактную;
- смешивания с другими датасетами как русскоязычный general-purpose компонент.
## Ограничения
- **Синтетическое происхождение.** Все данные сгенерированы моделью и не проходили полную ручную проверку. Возможны фактические неточности, устаревшая информация или галлюцинации.
- **Стиль одной модели.** Ответы отражают манеру и предпочтения GPT-6 Luna; модель, обученная только на этих данных, унаследует этот стиль.
- **Только одноходовые диалоги.** Многоходовые беседы, работа с контекстом и system-промпты не представлены.
- **Не предназначен для узкоспециализированных задач.** Медицинские, юридические и финансовые ответы носят общий справочный характер и не являются профессиональной консультацией.
Перед использованием в продакшене рекомендуется дополнительная фильтрация и проверка под конкретную задачу.
## Цитирование
```bibtex
@misc{gpt6_luna_ru_general,
title = {GPT-6 Luna General Purpose (RU)},
author = {Calamity228},
year = {2026},
publisher = {Hugging Face},
howpublished = {\url{https://huggingface.co/datasets/Calamity228/GPT-6-Luna-RU}}
}
```