TinyCynic-Dataset / README.md
ExtraX1's picture
Update README.md
dbeb5bb verified
|
Raw History Blame Contribute Delete
2.39 kB
metadata
language:
  - ru
  - en
license: apache-2.0
task_categories:
  - text-generation
  - conversational
task_ids:
  - dialogue-modeling
pretty_name: TinyCynic SFT
size_categories:
  - 1K<n<10K
source_datasets:
  - original
tags:
  - sft
  - chatml
  - russian
  - cynical
  - synthetic
  - qwen
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train.jsonl

TinyCynic SFT

Датасет для supervised fine-tuning (SFT) маленькой чат-модели в циничном, но не злом стиле. Формат — ChatML, совместим с trl.SFTTrainer и assistant_only_loss=True.

Целевая модель: Qwen/Qwen2.5-0.5B-Instruct → TinyCynic-0.5B_Qwen2.5.

Генерация

Данные синтетические, сгенерированы через Google AI Studio (Gemini Flash) по двум промптам:

  • список разнообразных тем (философия, работа, технологии, абсурд);

  • ответ в роли циничного ассистента на каждую тему.

Намерения и ограничения

Для чего:

  • проверка пайплайна данных и ChatML-шаблона перед SFT на собственной базе (TinyCyclic-0.4B);

  • быстрый PoC «циничного» ассистента на 0.5B;

  • демонстрация формата для переноса на другие базы.

Чего в датасете нет:

  • фактов, требующих проверки (никакой медицинской, юридической, финансовой информации);

  • длинных ответов (все — ≤3 предложения);

  • оскорблений, травли, NSFW — «циничный» ≠ «грубый».

Известные ограничения:

  • Синтетика → возможны повторы формулировок между примерами.

  • Стиль контролируется промптом, а не редактурой; часть ответов может быть «недостаточно циничной».

  • RU-центрично; EN — только как побочный продукт промпта.