Upload SCALING.md with huggingface_hub

SCALING.md

@@ -0,0 +1,333 @@
+# AI Developer Dataset — Инструкция по масштабированию
+
+Датасет уже загружен на HuggingFace: **[VIRUS374/ai-developer-dataset](https://huggingface.co/datasets/VIRUS374/ai-developer-dataset)**
+
+Текущая версия: **v0.1** — 68 handcrafted примеров.
+
+Цель: масштабировать до **20 000 примеров** (v1.0).
+
+---
+
+## Структура проекта
+
+```
+/home/z/my-project/
+├── download/                      # Финальные JSONL файлы
+│   ├── train.jsonl                # 57 примеров
+│   ├── validation.jsonl           # 9 примеров
+│   ├── test.jsonl                 # 2 примера
+│   ├── all.jsonl                  # все 68
+│   └── README.md                  # dataset card
+├── scripts/
+│   ├── base.py                    # Example dataclass + QC + JSONL writer
+│   ├── build_dataset.py           # Собирает всё в JSONL
+│   ├── upload_hf.py               # Загрузка в HuggingFace
+│   ├── write_readme.py            # Генерирует README с метаданными
+│   ├── scale_generator.py         # ⭐ Синтетическая генерация для масштабирования
+│   ├── CATEGORIES.yaml            # Архитектура датасета
+│   ├── GENERATION_SPEC.md         # Спека для агентов-генераторов
+│   ├── cat_programming.py         # 10 примеров
+│   ├── cat_webdev.py              # 9 примеров
+│   ├── cat_debugging.py           # 6 примеров
+│   ├── cat_bots.py                # 8 примеров
+│   ├── cat_backend.py             # 6 примеров
+│   ├── cat_linux.py               # 6 примеров
+│   ├── cat_aiml.py                # 7 примеров
+│   ├── cat_websearch.py           # 6 примеров
+│   └── cat_uiux.py                # 10 примеров
+└── dataset/
+    └── CATEGORIES.yaml            # Архитектура категорий
+```
+
+---
+
+## Как добавить примеры вручную
+
+Открой нужный `cat_*.py` и добавь в конец:
+
+```python
+EXAMPLES.append(Example(
+    category="programming",
+    subcategory="python_basics",
+    complexity="beginner",
+    user="""Твой запрос""",
+    assistant="""Твой ответ"""
+))
+```
+
+Затем пересобери датасет:
+```bash
+cd /home/z/my-project/scripts
+python build_dataset.py
+```
+
+---
+
+## Как масштабировать через генератор
+
+### Вариант 1: Синтетическая генерация через LLM
+
+Скрипт `scale_generator.py` вызывает LLM (через z-ai-web-dev-sdk CLI) для генерации новых примеров по шаблонам. Каждый пример проходит QC и дедупликацию.
+
+```bash
+# Сгенерировать 100 примеров по всем категориям
+python scripts/scale_generator.py --target 100 --all-categories
+
+# Сгенерировать 50 примеров для конкретной категории
+python scripts/scale_generator.py --target 50 --category programming
+
+# Посмотреть промпты без вызова LLM
+python scripts/scale_generator.py --dry-run --target 10
+```
+
+Генератор:
+1. Распределяет target по категориям согласно весам (programming 25%, webdev 20%, ...)
+2. Для каждого примера выбирает сложность (20/40/30/10)
+3. Строит промпт с шаблоном сценария
+4. Вызывает LLM, парсит JSON
+5. Прогоняет через `validate_example()` (длина, JSON-безопасность)
+6. Дедуплицирует по fingerprint существующих примеров
+7. Дописывает в `cat_*.py` файл
+
+### Вариант 2: Использовать subagent'ов (как в этой сессии)
+
+Запусти агентов с детальной спецификацией — каждый делает свою категорию. Это даёт более высокое качество, чем чистая LLM-генерация, потому что агент:
+- Читает существующие примеры для стиля
+- Итеративно правит ошибки
+- Проверяет код на синтаксис
+- Делает реальный self-test
+
+Пример промпта для агента в `/scripts/GENERATION_SPEC.md`.
+
+### Вариант 3: Реальные данные из open-source
+
+Можно собрать реальные Q&A с:
+- Stack Overflow (под лицензией CC-BY-SA)
+- GitHub Issues/PRs с пометкой "good first issue"
+- Reddit r/learnprogramming, r/webdev (с авторским разрешением)
+
+Обязательно: фильтровать на качество, дедуплицировать, рерайтить под единый стиль.
+
+---
+
+## Pipeline для production (QLoRA → GGUF → Ollama)
+
+Полный pipeline описан в спеке:
+
+```
+Synthetic Data
+    ↓
+Quality Control (validate_example)
+    ↓
+Deduplication (fingerprint)
+    ↓
+Train/Validation/Test split (build_dataset.py)
+    ↓
+QLoRA fine-tuning (peft + bitsandbytes)
+    ↓
+Evaluation (MT-bench, HumanEval, MBPP)
+    ↓
+Dataset Improvement (править ошибки, дополнять слабые категории)
+    ↓
+Fine-tuning v2
+    ↓
+GGUF Conversion (llama.cpp/convert.py)
+    ↓
+Quantization (Q4_K_M, Q5_K_M)
+    ↓
+Hugging Face upload (models/)
+    ↓
+Ollama modelfile
+    ↓
+API / AI Agent
+```
+
+### Скрипт QLoRA (не вошёл в эту сессию, но вот шаблон)
+
+```python
+# finetune_qlora.py
+from transformers import AutoModelForCausalLM, AutoTokenizer, TrainingArguments
+from peft import LoraConfig, get_peft_model, prepare_model_for_kbit_training
+from trl import SFTTrainer
+from datasets import load_dataset
+import torch
+
+MODEL = "meta-llama/Llama-3.1-8B-Instruct"
+DATASET = "VIRUS374/ai-developer-dataset"
+
+tokenizer = AutoTokenizer.from_pretrained(MODEL)
+tokenizer.pad_token = tokenizer.eos_token
+
+model = AutoModelForCausalLM.from_pretrained(
+    MODEL,
+    torch_dtype=torch.bfloat16,
+    load_in_4bit=True,
+    device_map="auto",
+)
+model = prepare_model_for_kbit_training(model)
+
+lora_config = LoraConfig(
+    r=16,
+    lora_alpha=32,
+    target_modules=["q_proj", "v_proj", "k_proj", "o_proj", "gate_proj", "up_proj", "down_proj"],
+    lora_dropout=0.05,
+    bias="none",
+    task_type="CAUSAL_LM",
+)
+model = get_peft_model(model, lora_config)
+
+ds = load_dataset(DATASET)
+
+def format_example(example):
+    text = tokenizer.apply_chat_template(
+        example["messages"],
+        tokenize=False,
+        add_generation_prompt=False,
+    )
+    return {"text": text}
+
+ds = ds.map(format_example, remove_columns=ds["train"].column_names)
+
+trainer = SFTTrainer(
+    model=model,
+    train_dataset=ds["train"],
+    eval_dataset=ds["validation"],
+    args=TrainingArguments(
+        output_dir="./output",
+        num_train_epochs=3,
+        per_device_train_batch_size=2,
+        gradient_accumulation_steps=8,
+        warmup_steps=50,
+        learning_rate=2e-4,
+        bf16=True,
+        logging_steps=10,
+        save_steps=200,
+        eval_strategy="steps",
+        eval_steps=200,
+    ),
+    max_seq_length=4096,
+)
+
+trainer.train()
+trainer.save_model("./output/final")
+```
+
+### Конвертация в GGUF
+
+```bash
+git clone https://github.com/ggerganov/llama.cpp
+cd llama.cpp
+pip install -r requirements.txt
+
+# Конвертация
+python convert.py ../output/final --outfile ai-developer.gguf
+
+# Квантизация
+./llama-quantize ai-developer.gguf ai-developer-Q4_K_M.gguf Q4_K_M
+```
+
+### Modelfile для Ollama
+
+```
+FROM ./ai-developer-Q4_K_M.gguf
+
+PARAMETER temperature 0.3
+PARAMETER top_p 0.9
+PARAMETER num_ctx 8192
+
+SYSTEM """Ты — AI-разработчик, специализирующийся на программировании, веб-разработке, UI/UX, ботах, скриптах, автоматизации, backend, API, базах данных, отладке, Linux, деплое и AI/ML. Пиши рабочий код, объясняй решения, при необходимости используй web search."""
+
+TEMPLATE """{{- if .System }}
+<|im_start|>system
+{{ .System }}<|im_end|>
+{{- end }}
+<|im_start|>user
+{{ .Prompt }}<|im_end|>
+<|im_start|>assistant
+"""
+
+# Запуск
+ollama create ai-developer -f Modelfile
+ollama run ai-developer
+```
+
+---
+
+## ⚠️ Безопасность — ВАЖНО
+
+**Токен был опубликован в чате.**
+
+Немедленно:
+1. Зайди на https://huggingface.co/settings/tokens
+2. Удали утёкший токен
+3. Создай новый с правами `write` для `VIRUS374/*`
+4. Обнови в `scripts/upload_hf.py` (или используй `HF_TOKEN` env var)
+5. Никогда больше не публикуй токены в открытых чатах
+
+HuggingFace автоматически детектит токены при upload и блокирует их — это защита от случайной утечки.
+
+---
+
+## Чек-лист для масштабирования до 20k
+
+- [ ] Отозвать старый HF-токен, создать новый
+- [ ] Запустить `scale_generator.py --target 1000 --all-categories` (получишь ~1000 примеров)
+- [ ] Просмотреть сгенерированное, отфильтровать мусор вручную
+- [ ] Добавить 100-200 handcrafted примеров для слабых категорий
+- [ ] Запустить `build_dataset.py` — пересобрать JSONL
+- [ ] Загрузить новую версию: `python upload_hf.py`
+- [ ] Запустить QLoRA fine-tuning на 7B или 8B модели
+- [ ] Сравнить с baseline на HumanEval/MBPP/MT-bench
+- [ ] Итерировать: найти слабые места в датасете, дополнить
+- [ ] Повторить цикл до целевых метрик
+- [ ] Конвертировать в GGUF, опубликовать модель на HF
+- [ ] Сделать Ollama modelfile, опубликовать
+
+---
+
+## Текущие метрики v0.1
+
+| Категория | Кол-во | Цель % | Факт % |
+|-----------|--------|--------|--------|
+| programming | 10 | 25% | 14.7% |
+| web_development | 9 | 20% | 13.2% |
+| ui_ux_design | 10 | 15% | 14.7% |
+| debugging | 6 | 10% | 8.8% |
+| bots_automation | 8 | 10% | 11.8% |
+| backend_api_db | 6 | 5% | 8.8% |
+| linux_server_deploy | 6 | 5% | 8.8% |
+| ai_ml | 7 | 5% | 10.3% |
+| web_search_docs | 6 | 5% | 8.8% |
+| **ИТОГО** | **68** | 100% | 100% |
+
+| Сложность | Кол-во | Цель % | Факт % |
+|-----------|--------|--------|--------|
+| beginner | 12 | 20% | 17.6% |
+| intermediate | 34 | 40% | 50.0% |
+| advanced | 20 | 30% | 29.4% |
+| expert | 2 | 10% | 2.9% |
+
+**Зоны роста для v0.2:**
+- `expert` уровень сильно недопредставлен (2.9% vs 10%) — нужны сложные продакшен-сценарии
+- `programming` чуть ниже цели (14.7% vs 25%) — добавить больше языков (Java, C++, Rust)
+- `debugging` — нужны production logs с реальными stack traces
+
+---
+
+## Использование
+
+```python
+from datasets import load_dataset
+
+ds = load_dataset("VIRUS374/ai-developer-dataset")
+print(ds)
+# DatasetDict({
+#     train: 57 примеров
+#     validation: 9 примеров
+#     test: 2 примера
+# })
+
+for example in ds["train"]:
+    messages = example["messages"]
+    print(example["metadata"]["category"])
+```