🧠 RuThink-OSS-120B

Русский SFT-датасет с цепочками рассуждений: истории + медицина

---

Диалоговый датасет для дообучения языковых моделей на русском языке. Все 3 220 примеров — и запросы пользователя, и ответы ассистента вместе с цепочкой рассуждений (reasoning) — полностью сгенерированы моделью GPT-OSS-120B.

Датасет состоит из двух тематических блоков: творческое письмо (придумывание рассказов, сказок, притч) и медицина (бытовые вопросы о здоровье, симптомах, препаратах и визитах к врачу). Каждый ответ сопровождается внутренним рассуждением модели в отдельном поле — это делает датасет пригодным не только для обучения стилю ответов, но и для обучения reasoning-поведению.

📌 Кратко

Параметр	Значение
Количество примеров	3 220
Язык ответов	Русский
Язык рассуждений (reasoning)	Преимущественно английский (аналитический канал GPT-OSS)
Формат	JSONL, chat (messages)
Структура диалога	Одноходовой: user → assistant
Особенность	У каждого ответа есть поле reasoning (chain-of-thought)
Источник	100% синтетика, GPT-OSS-120B
Сплиты	train
Размер файла	≈ 49 МБ (50 485 КБ)

🗂️ Состав датасета

Примеры упорядочены по темам: сначала идёт блок с историями, затем — медицинский блок.

№ строк	Тема	Примеров	Доля
1 – 517	✍️ Написание историй	517	16%
518 – 3 220	🩺 Медицина	2 703	84%
Итого		3 220	100%

🧩 Формат данных

Каждая строка файла — отдельный JSON-объект с полем messages. Сообщение ассистента, помимо content, содержит поле reasoning — внутреннюю цепочку рассуждений модели (analysis-канал GPT-OSS):

{
  "messages": [
    {"role": "user", "content": "..."},
    {"role": "assistant", "reasoning": "...", "content": "..."}
  ]
}

Реальный пример из датасета (ответ сокращён):

{
  "messages": [
    {
      "role": "user",
      "content": "У меня постоянно краснеет кожа на руках и шее, чешется, и иногда появляется сыпь. К какому врачу мне стоит обратиться?"
    },
    {
      "role": "assistant",
      "reasoning": "We need to respond briefly, to the point, in Russian. The user asks about skin redness, itching, rash on hands and neck. Which doctor to see. Answer: dermatologist (дерматолог)...",
      "content": "Вам нужен дерматолог — специалист по кожным заболеваниям. При подозрении на аллергию можно также записаться к аллергологу/иммунологу."
    }
  ]
}

⚠️ Важно про поле reasoning. Это нестандартное поле (обычный chat-формат содержит только role и content). Рассуждения написаны в основном на английском языке. В зависимости от задачи вы можете:

• обучать на рассуждениях — склеивать reasoning + content в reasoning-формате вашей модели (теги <think>…</think>, harmony-каналы и т.п.);
• игнорировать их — использовать только content как целевой ответ, просто не читая поле reasoning.

📊 Статистика

Длина (в символах), по всему датасету:

Метрика	Запрос (user)	Ответ (content)	Рассуждение (reasoning)
Средняя	97	7 187	2 766
Медиана	91	7 348	826
Максимум	282	49 482	99 053
Всего	≈ 314 тыс.	≈ 23.1 млн	≈ 8.9 млн

Разбивка по темам (средняя длина ответа / рассуждения, символов):

Тема	Примеров	Ø запрос	Ø ответ	Ø рассуждение
✍️ Истории	517	73	9 425	11 186
🩺 Медицина	2 703	102	6 759	1 156

Творческие задания дают самые длинные и развёрнутые ответы и рассуждения; медицинские ответы короче и конкретнее.

Дополнительно:

• Все диалоги строго двухрепликовые: одна реплика пользователя, один ответ ассистента.
• Пустых сообщений нет, все 3 220 строк — валидный JSON.
• Все запросы уникальны (нет дубликатов вопросов).
• ≈ 97% ответов используют Markdown-разметку (заголовки, списки, выделение) — ответы структурированы и удобны для чтения.
• Небольшая часть ответов (~36) содержит блоки кода.

🎯 Тематика

✍️ Написание историй (строки 1–517)

Творческие задания: придумать рассказ, сказку, притчу, историю от необычного лица или в заданной форме. Запросы образные и нестандартные, ответы — развёрнутая художественная проза.

Примеры запросов:

• Придумай рассказ о поваре, чьи блюда заставляют гостей говорить только правду.
• Что, если бы воспоминания продавались на рынке на развес? Напиши рассказ о торговце, который однажды продал собственное детство.
• Сочини сказку про ёжика, который боится темноты, но работает ночным почтальоном.
• Напиши притчу о старике, который каждый день сажал деревья в пустыне, зная, что не увидит их тени.
• Расскажи от лица старого чемодана обо всех поездках, которые он пережил.
• История в форме переписки двух незнакомцев, которым почта по ошибке перепутала адреса.

🩺 Медицина (строки 518–3 220)

Бытовые вопросы о здоровье, сформулированные так, как их задают реальные люди: симптомы, тревоги, назначенные препараты, выбор специалиста. Ответы носят справочный характер: что это может быть, к какому врачу обратиться, на что обратить внимание.

Примеры запросов:

• у меня болит зуб, что мне делать?
• У меня болит локоть после падения. Что это может быть и что делать?
• Врач назначил мне препарат Амитриптилин, но я не совсем понял, для чего он мне нужен и как его принимать.
• У меня диабет 2 типа, я принимаю метформин, но появились боли в желудке после еды. Что мне делать?
• У меня тревога, которая мешает мне спать и сосредоточиться...

🚀 Использование

Загрузка через datasets:

from datasets import load_dataset

ds = load_dataset("<ваш-аккаунт>/RuThink-OSS-120B", split="train")
print(ds[0]["messages"])

Вариант A — обучение только на ответах (игнорируем рассуждения):

def to_chat(ex):
    msgs = [
        {"role": m["role"], "content": m["content"]}
        for m in ex["messages"]
    ]
    return {"messages": msgs}

ds_plain = ds.map(to_chat)

Вариант B — обучение с рассуждениями (склеиваем reasoning и content):

def with_reasoning(ex):
    msgs = []
    for m in ex["messages"]:
        if m["role"] == "assistant" and m.get("reasoning"):
            content = f"<think>\n{m['reasoning']}\n</think>\n\n{m['content']}"
        else:
            content = m["content"]
        msgs.append({"role": m["role"], "content": content})
    return {"messages": msgs}

ds_reason = ds.map(with_reasoning)

Применение chat-шаблона модели:

from transformers import AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("your-base-model")
text = tokenizer.apply_chat_template(ds_plain[0]["messages"], tokenize=False)

Обучение с trl:

from trl import SFTTrainer, SFTConfig

trainer = SFTTrainer(
    model="your-base-model",
    train_dataset=ds_plain,
    args=SFTConfig(output_dir="out"),
)
trainer.train()

Формат совместим с chat-шаблонами большинства современных моделей и напрямую поддерживается trl (SFTTrainer), Axolotl, LLaMA-Factory, Unsloth и другими фреймворками для дообучения.

💡 Назначение

Датасет подходит для:

• SFT и instruction-tuning русскоязычных моделей;
• обучения reasoning-поведению (цепочкам рассуждений перед ответом);
• развития навыков творческого письма и грамотных справочных ответов на медицинские вопросы;
• дистилляции поведения GPT-OSS-120B в более компактные модели;
• смешивания с другими датасетами как русскоязычный компонент (истории + медицина).

⚠️ Ограничения

• Синтетическое происхождение. Все данные сгенерированы моделью и не проходили полную ручную проверку. Возможны фактические неточности, устаревшая информация и галлюцинации.
• Медицина — не консультация. Медицинские ответы носят общий справочный характер и не являются профессиональной медицинской консультацией, диагнозом или назначением лечения. Модель, обученная на этих данных, не должна использоваться как замена врачу.
• Стиль одной модели. Ответы отражают манеру GPT-OSS-120B; модель, обученная только на этих данных, унаследует её стиль.
• Рассуждения на английском. Поле reasoning написано преимущественно на английском языке — учитывайте это, если обучаете русскоязычную reasoning-модель.
• Только одноходовые диалоги. Многоходовые беседы, работа с контекстом и system-промпты не представлены.

Перед использованием в продакшене рекомендуется дополнительная фильтрация и проверка под конкретную задачу.

📎 Цитирование

@misc{ruthink_oss_120b,
  title        = {RuThink-OSS-120B — Russian Reasoning SFT (Stories \& Medicine)},
  author       = {Calamity228},
  year         = {2026},
  publisher    = {Hugging Face},
  howpublished = {\url{https://huggingface.co/datasets}}
}