# AI Developer Dataset — Инструкция по масштабированию

Датасет уже загружен на HuggingFace: **[VIRUS374/ai-developer-dataset](https://huggingface.co/datasets/VIRUS374/ai-developer-dataset)**

Текущая версия: **v0.1** — 68 handcrafted примеров.

Цель: масштабировать до **20 000 примеров** (v1.0).

---

## Структура проекта

```
/home/z/my-project/
├── download/                      # Финальные JSONL файлы
│   ├── train.jsonl                # 57 примеров
│   ├── validation.jsonl           # 9 примеров
│   ├── test.jsonl                 # 2 примера
│   ├── all.jsonl                  # все 68
│   └── README.md                  # dataset card
├── scripts/
│   ├── base.py                    # Example dataclass + QC + JSONL writer
│   ├── build_dataset.py           # Собирает всё в JSONL
│   ├── upload_hf.py               # Загрузка в HuggingFace
│   ├── write_readme.py            # Генерирует README с метаданными
│   ├── scale_generator.py         # ⭐ Синтетическая генерация для масштабирования
│   ├── CATEGORIES.yaml            # Архитектура датасета
│   ├── GENERATION_SPEC.md         # Спека для агентов-генераторов
│   ├── cat_programming.py         # 10 примеров
│   ├── cat_webdev.py              # 9 примеров
│   ├── cat_debugging.py           # 6 примеров
│   ├── cat_bots.py                # 8 примеров
│   ├── cat_backend.py             # 6 примеров
│   ├── cat_linux.py               # 6 примеров
│   ├── cat_aiml.py                # 7 примеров
│   ├── cat_websearch.py           # 6 примеров
│   └── cat_uiux.py                # 10 примеров
└── dataset/
    └── CATEGORIES.yaml            # Архитектура категорий
```

---

## Как добавить примеры вручную

Открой нужный `cat_*.py` и добавь в конец:

```python
EXAMPLES.append(Example(
    category="programming",
    subcategory="python_basics",
    complexity="beginner",
    user="""Твой запрос""",
    assistant="""Твой ответ"""
))
```

Затем пересобери датасет:
```bash
cd /home/z/my-project/scripts
python build_dataset.py
```

---

## Как масштабировать через генератор

### Вариант 1: Синтетическая генерация через LLM

Скрипт `scale_generator.py` вызывает LLM (через z-ai-web-dev-sdk CLI) для генерации новых примеров по шаблонам. Каждый пример проходит QC и дедупликацию.

```bash
# Сгенерировать 100 примеров по всем категориям
python scripts/scale_generator.py --target 100 --all-categories

# Сгенерировать 50 примеров для конкретной категории
python scripts/scale_generator.py --target 50 --category programming

# Посмотреть промпты без вызова LLM
python scripts/scale_generator.py --dry-run --target 10
```

Генератор:
1. Распределяет target по категориям согласно весам (programming 25%, webdev 20%, ...)
2. Для каждого примера выбирает сложность (20/40/30/10)
3. Строит промпт с шаблоном сценария
4. Вызывает LLM, парсит JSON
5. Прогоняет через `validate_example()` (длина, JSON-безопасность)
6. Дедуплицирует по fingerprint существующих примеров
7. Дописывает в `cat_*.py` файл

### Вариант 2: Использовать subagent'ов (как в этой сессии)

Запусти агентов с детальной спецификацией — каждый делает свою категорию. Это даёт более высокое качество, чем чистая LLM-генерация, потому что агент:
- Читает существующие примеры для стиля
- Итеративно правит ошибки
- Проверяет код на синтаксис
- Делает реальный self-test

Пример промпта для агента в `/scripts/GENERATION_SPEC.md`.

### Вариант 3: Реальные данные из open-source

Можно собрать реальные Q&A с:
- Stack Overflow (под лицензией CC-BY-SA)
- GitHub Issues/PRs с пометкой "good first issue"
- Reddit r/learnprogramming, r/webdev (с авторским разрешением)

Обязательно: фильтровать на качество, дедуплицировать, рерайтить под единый стиль.

---

## Pipeline для production (QLoRA → GGUF → Ollama)

Полный pipeline описан в спеке:

```
Synthetic Data
    ↓
Quality Control (validate_example)
    ↓
Deduplication (fingerprint)
    ↓
Train/Validation/Test split (build_dataset.py)
    ↓
QLoRA fine-tuning (peft + bitsandbytes)
    ↓
Evaluation (MT-bench, HumanEval, MBPP)
    ↓
Dataset Improvement (править ошибки, дополнять слабые категории)
    ↓
Fine-tuning v2
    ↓
GGUF Conversion (llama.cpp/convert.py)
    ↓
Quantization (Q4_K_M, Q5_K_M)
    ↓
Hugging Face upload (models/)
    ↓
Ollama modelfile
    ↓
API / AI Agent
```

### Скрипт QLoRA (не вошёл в эту сессию, но вот шаблон)

```python
# finetune_qlora.py
from transformers import AutoModelForCausalLM, AutoTokenizer, TrainingArguments
from peft import LoraConfig, get_peft_model, prepare_model_for_kbit_training
from trl import SFTTrainer
from datasets import load_dataset
import torch

MODEL = "meta-llama/Llama-3.1-8B-Instruct"
DATASET = "VIRUS374/ai-developer-dataset"

tokenizer = AutoTokenizer.from_pretrained(MODEL)
tokenizer.pad_token = tokenizer.eos_token

model = AutoModelForCausalLM.from_pretrained(
    MODEL,
    torch_dtype=torch.bfloat16,
    load_in_4bit=True,
    device_map="auto",
)
model = prepare_model_for_kbit_training(model)

lora_config = LoraConfig(
    r=16,
    lora_alpha=32,
    target_modules=["q_proj", "v_proj", "k_proj", "o_proj", "gate_proj", "up_proj", "down_proj"],
    lora_dropout=0.05,
    bias="none",
    task_type="CAUSAL_LM",
)
model = get_peft_model(model, lora_config)

ds = load_dataset(DATASET)

def format_example(example):
    text = tokenizer.apply_chat_template(
        example["messages"],
        tokenize=False,
        add_generation_prompt=False,
    )
    return {"text": text}

ds = ds.map(format_example, remove_columns=ds["train"].column_names)

trainer = SFTTrainer(
    model=model,
    train_dataset=ds["train"],
    eval_dataset=ds["validation"],
    args=TrainingArguments(
        output_dir="./output",
        num_train_epochs=3,
        per_device_train_batch_size=2,
        gradient_accumulation_steps=8,
        warmup_steps=50,
        learning_rate=2e-4,
        bf16=True,
        logging_steps=10,
        save_steps=200,
        eval_strategy="steps",
        eval_steps=200,
    ),
    max_seq_length=4096,
)

trainer.train()
trainer.save_model("./output/final")
```

### Конвертация в GGUF

```bash
git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp
pip install -r requirements.txt

# Конвертация
python convert.py ../output/final --outfile ai-developer.gguf

# Квантизация
./llama-quantize ai-developer.gguf ai-developer-Q4_K_M.gguf Q4_K_M
```

### Modelfile для Ollama

```
FROM ./ai-developer-Q4_K_M.gguf

PARAMETER temperature 0.3
PARAMETER top_p 0.9
PARAMETER num_ctx 8192

SYSTEM """Ты — AI-разработчик, специализирующийся на программировании, веб-разработке, UI/UX, ботах, скриптах, автоматизации, backend, API, базах данных, отладке, Linux, деплое и AI/ML. Пиши рабочий код, объясняй решения, при необходимости используй web search."""

TEMPLATE """{{- if .System }}
<|im_start|>system
{{ .System }}<|im_end|>
{{- end }}
<|im_start|>user
{{ .Prompt }}<|im_end|>
<|im_start|>assistant
"""

# Запуск
ollama create ai-developer -f Modelfile
ollama run ai-developer
```

---

## ⚠️ Безопасность — ВАЖНО

**Токен был опубликован в чате.**

Немедленно:
1. Зайди на https://huggingface.co/settings/tokens
2. Удали утёкший токен
3. Создай новый с правами `write` для `VIRUS374/*`
4. Обнови в `scripts/upload_hf.py` (или используй `HF_TOKEN` env var)
5. Никогда больше не публикуй токены в открытых чатах

HuggingFace автоматически детектит токены при upload и блокирует их — это защита от случайной утечки.

---

## Чек-лист для масштабирования до 20k

- [ ] Отозвать старый HF-токен, создать новый
- [ ] Запустить `scale_generator.py --target 1000 --all-categories` (получишь ~1000 примеров)
- [ ] Просмотреть сгенерированное, отфильтровать мусор вручную
- [ ] Добавить 100-200 handcrafted примеров для слабых категорий
- [ ] Запустить `build_dataset.py` — пересобрать JSONL
- [ ] Загрузить новую версию: `python upload_hf.py`
- [ ] Запустить QLoRA fine-tuning на 7B или 8B модели
- [ ] Сравнить с baseline на HumanEval/MBPP/MT-bench
- [ ] Итерировать: найти слабые места в датасете, дополнить
- [ ] Повторить цикл до целевых метрик
- [ ] Конвертировать в GGUF, опубликовать модель на HF
- [ ] Сделать Ollama modelfile, опубликовать

---

## Текущие метрики v0.1

| Категория | Кол-во | Цель % | Факт % |
|-----------|--------|--------|--------|
| programming | 10 | 25% | 14.7% |
| web_development | 9 | 20% | 13.2% |
| ui_ux_design | 10 | 15% | 14.7% |
| debugging | 6 | 10% | 8.8% |
| bots_automation | 8 | 10% | 11.8% |
| backend_api_db | 6 | 5% | 8.8% |
| linux_server_deploy | 6 | 5% | 8.8% |
| ai_ml | 7 | 5% | 10.3% |
| web_search_docs | 6 | 5% | 8.8% |
| **ИТОГО** | **68** | 100% | 100% |

| Сложность | Кол-во | Цель % | Факт % |
|-----------|--------|--------|--------|
| beginner | 12 | 20% | 17.6% |
| intermediate | 34 | 40% | 50.0% |
| advanced | 20 | 30% | 29.4% |
| expert | 2 | 10% | 2.9% |

**Зоны роста для v0.2:**
- `expert` уровень сильно недопредставлен (2.9% vs 10%) — нужны сложные продакшен-сценарии
- `programming` чуть ниже цели (14.7% vs 25%) — добавить больше языков (Java, C++, Rust)
- `debugging` — нужны production logs с реальными stack traces

---

## Использование

```python
from datasets import load_dataset

ds = load_dataset("VIRUS374/ai-developer-dataset")
print(ds)
# DatasetDict({
#     train: 57 примеров
#     validation: 9 примеров
#     test: 2 примера
# })

for example in ds["train"]:
    messages = example["messages"]
    print(example["metadata"]["category"])
```