ExtraX1 commited on
Commit
dbeb5bb
·
verified ·
1 Parent(s): 066fe50

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +56 -8
README.md CHANGED
@@ -2,19 +2,67 @@
2
  language:
3
  - ru
4
  - en
 
5
  task_categories:
6
  - text-generation
7
  - conversational
 
 
 
 
 
 
 
8
  tags:
9
- - cynic
10
- - tinycynic
11
- - chatml
12
  - sft
13
- size_categories:
14
- - n<1K
 
 
 
 
 
 
 
 
15
  ---
16
 
17
- # TinyCynic-SFT
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
18
 
19
- Датасет для SFT модели **TinyCynic-0.5B_Qwen2.5** — циничный, но не злой ассистент.
20
- Формат: **ChatML** (JSONL, поле `messages`).
 
2
  language:
3
  - ru
4
  - en
5
+ license: apache-2.0
6
  task_categories:
7
  - text-generation
8
  - conversational
9
+ task_ids:
10
+ - dialogue-modeling
11
+ pretty_name: TinyCynic SFT
12
+ size_categories:
13
+ - 1K<n<10K
14
+ source_datasets:
15
+ - original
16
  tags:
 
 
 
17
  - sft
18
+ - chatml
19
+ - russian
20
+ - cynical
21
+ - synthetic
22
+ - qwen
23
+ configs:
24
+ - config_name: default
25
+ data_files:
26
+ - split: train
27
+ path: data/train.jsonl
28
  ---
29
 
30
+ ## TinyCynic SFT
31
+
32
+ Датасет для supervised fine-tuning (SFT) маленькой чат-модели в **циничном, но не злом** стиле.
33
+ Формат — **ChatML**, совместим с `trl.SFTTrainer` и `assistant_only_loss=True`.
34
+
35
+ Целевая модель: [`Qwen/Qwen2.5-0.5B-Instruct`](https://huggingface.co/Qwen/Qwen2.5-0.5B-Instruct) → `TinyCynic-0.5B_Qwen2.5`.
36
+
37
+ ## Генерация
38
+ Данные синтетические, сгенерированы через Google AI Studio (Gemini Flash) по двум промптам:
39
+
40
+ - список разнообразных тем (философия, работа, технологии, абсурд);
41
+
42
+ - ответ в роли циничного ассистента на каждую тему.
43
+
44
+
45
+ ## Намерения и ограничения
46
+ # Для чего:
47
+
48
+ - проверка пайплайна данных и ChatML-шаблона перед SFT на собственной базе (TinyCyclic-0.4B);
49
+
50
+ - быстрый PoC «циничного» ассистента на 0.5B;
51
+
52
+ - демонстрация формата для переноса на другие базы.
53
+
54
+ # Чего в датасете нет:
55
+
56
+ - фактов, требующих проверки (никакой медицинской, юридической, финансовой информации);
57
+
58
+ - длинных ответов (все — ≤3 предложения);
59
+
60
+ - оскорблений, травли, NSFW — «циничный» ≠ «грубый».
61
+
62
+ # Известные ограничения:
63
+
64
+ - Синтетика → возможны повторы формулировок между примерами.
65
+
66
+ - Стиль контролируется промптом, а не редактурой; часть ответов может быть «недостаточно циничной».
67
 
68
+ - RU-центрично; EN — только как побочный продукт промпта.