| --- |
| language: |
| - ru |
| - en |
| license: apache-2.0 |
| task_categories: |
| - text-generation |
| - conversational |
| task_ids: |
| - dialogue-modeling |
| pretty_name: TinyCynic SFT |
| size_categories: |
| - 1K<n<10K |
| source_datasets: |
| - original |
| tags: |
| - sft |
| - chatml |
| - russian |
| - cynical |
| - synthetic |
| - qwen |
| configs: |
| - config_name: default |
| data_files: |
| - split: train |
| path: data/train.jsonl |
| --- |
| |
| ## TinyCynic SFT |
|
|
| Датасет для supervised fine-tuning (SFT) маленькой чат-модели в **циничном, но не злом** стиле. |
| Формат — **ChatML**, совместим с `trl.SFTTrainer` и `assistant_only_loss=True`. |
|
|
| Целевая модель: [`Qwen/Qwen2.5-0.5B-Instruct`](https://huggingface.co/Qwen/Qwen2.5-0.5B-Instruct) → `TinyCynic-0.5B_Qwen2.5`. |
|
|
| ## Генерация |
| Данные синтетические, сгенерированы через Google AI Studio (Gemini Flash) по двум промптам: |
|
|
| - список разнообразных тем (философия, работа, технологии, абсурд); |
|
|
| - ответ в роли циничного ассистента на каждую тему. |
|
|
|
|
| ## Намерения и ограничения |
| # Для чего: |
|
|
| - проверка пайплайна данных и ChatML-шаблона перед SFT на собственной базе (TinyCyclic-0.4B); |
|
|
| - быстрый PoC «циничного» ассистента на 0.5B; |
|
|
| - демонстрация формата для переноса на другие базы. |
|
|
| # Чего в датасете нет: |
|
|
| - фактов, требующих проверки (никакой медицинской, юридической, финансовой информации); |
|
|
| - длинных ответов (все — ≤3 предложения); |
|
|
| - оскорблений, травли, NSFW — «циничный» ≠ «грубый». |
|
|
| # Известные ограничения: |
|
|
| - Синтетика → возможны повторы формулировок между примерами. |
|
|
| - Стиль контролируется промптом, а не редактурой; часть ответов может быть «недостаточно циничной». |
|
|
| - RU-центрично; EN — только как побочный продукт промпта. |
