File size: 2,391 Bytes
2a698b2
d6bbb07
066fe50
 
dbeb5bb
066fe50
 
 
dbeb5bb
 
 
 
 
 
 
066fe50
 
dbeb5bb
 
 
 
 
 
 
 
 
 
2a698b2
d6bbb07
dbeb5bb
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
066fe50
dbeb5bb
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
---
language:
  - ru
  - en
license: apache-2.0
task_categories:
  - text-generation
  - conversational
task_ids:
  - dialogue-modeling
pretty_name: TinyCynic SFT
size_categories:
  - 1K<n<10K
source_datasets:
  - original
tags:
  - sft
  - chatml
  - russian
  - cynical
  - synthetic
  - qwen
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train.jsonl
---

## TinyCynic SFT

Датасет для supervised fine-tuning (SFT) маленькой чат-модели в **циничном, но не злом** стиле.
Формат — **ChatML**, совместим с `trl.SFTTrainer` и `assistant_only_loss=True`.

Целевая модель: [`Qwen/Qwen2.5-0.5B-Instruct`](https://huggingface.co/Qwen/Qwen2.5-0.5B-Instruct) → `TinyCynic-0.5B_Qwen2.5`.

## Генерация
Данные синтетические, сгенерированы через Google AI Studio (Gemini Flash) по двум промптам:

- список разнообразных тем (философия, работа, технологии, абсурд);

- ответ в роли циничного ассистента на каждую тему.


## Намерения и ограничения
# Для чего:

- проверка пайплайна данных и ChatML-шаблона перед SFT на собственной базе (TinyCyclic-0.4B);

- быстрый PoC «циничного» ассистента на 0.5B;

- демонстрация формата для переноса на другие базы.

# Чего в датасете нет:

- фактов, требующих проверки (никакой медицинской, юридической, финансовой информации);

- длинных ответов (все — ≤3 предложения);

- оскорблений, травли, NSFW — «циничный» ≠ «грубый».

# Известные ограничения:

- Синтетика → возможны повторы формулировок между примерами.

- Стиль контролируется промптом, а не редактурой; часть ответов может быть «недостаточно циничной».

- RU-центрично; EN — только как побочный продукт промпта.