Datasets:
Tasks:
Text Generation
Modalities:
Text
Formats:
json
Sub-tasks:
dialogue-modeling
Size:
< 1K
License:
File size: 2,391 Bytes
2a698b2 d6bbb07 066fe50 dbeb5bb 066fe50 dbeb5bb 066fe50 dbeb5bb 2a698b2 d6bbb07 dbeb5bb 066fe50 dbeb5bb | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 | ---
language:
- ru
- en
license: apache-2.0
task_categories:
- text-generation
- conversational
task_ids:
- dialogue-modeling
pretty_name: TinyCynic SFT
size_categories:
- 1K<n<10K
source_datasets:
- original
tags:
- sft
- chatml
- russian
- cynical
- synthetic
- qwen
configs:
- config_name: default
data_files:
- split: train
path: data/train.jsonl
---
## TinyCynic SFT
Датасет для supervised fine-tuning (SFT) маленькой чат-модели в **циничном, но не злом** стиле.
Формат — **ChatML**, совместим с `trl.SFTTrainer` и `assistant_only_loss=True`.
Целевая модель: [`Qwen/Qwen2.5-0.5B-Instruct`](https://huggingface.co/Qwen/Qwen2.5-0.5B-Instruct) → `TinyCynic-0.5B_Qwen2.5`.
## Генерация
Данные синтетические, сгенерированы через Google AI Studio (Gemini Flash) по двум промптам:
- список разнообразных тем (философия, работа, технологии, абсурд);
- ответ в роли циничного ассистента на каждую тему.
## Намерения и ограничения
# Для чего:
- проверка пайплайна данных и ChatML-шаблона перед SFT на собственной базе (TinyCyclic-0.4B);
- быстрый PoC «циничного» ассистента на 0.5B;
- демонстрация формата для переноса на другие базы.
# Чего в датасете нет:
- фактов, требующих проверки (никакой медицинской, юридической, финансовой информации);
- длинных ответов (все — ≤3 предложения);
- оскорблений, травли, NSFW — «циничный» ≠ «грубый».
# Известные ограничения:
- Синтетика → возможны повторы формулировок между примерами.
- Стиль контролируется промптом, а не редактурой; часть ответов может быть «недостаточно циничной».
- RU-центрично; EN — только как побочный продукт промпта. |