Datasets:

VIRUS374
/

ai-developer-dataset

/home/z/my-project/
├── download/                      # Финальные JSONL файлы
│   ├── train.jsonl                # 57 примеров
│   ├── validation.jsonl           # 9 примеров
│   ├── test.jsonl                 # 2 примера
│   ├── all.jsonl                  # все 68
│   └── README.md                  # dataset card
├── scripts/
│   ├── base.py                    # Example dataclass + QC + JSONL writer
│   ├── build_dataset.py           # Собирает всё в JSONL
│   ├── upload_hf.py               # Загрузка в HuggingFace
│   ├── write_readme.py            # Генерирует README с метаданными
│   ├── scale_generator.py         # ⭐ Синтетическая генерация для масштабирования
│   ├── CATEGORIES.yaml            # Архитектура датасета
│   ├── GENERATION_SPEC.md         # Спека для агентов-генераторов
│   ├── cat_programming.py         # 10 примеров
│   ├── cat_webdev.py              # 9 примеров
│   ├── cat_debugging.py           # 6 примеров
│   ├── cat_bots.py                # 8 примеров
│   ├── cat_backend.py             # 6 примеров
│   ├── cat_linux.py               # 6 примеров
│   ├── cat_aiml.py                # 7 примеров
│   ├── cat_websearch.py           # 6 примеров
│   └── cat_uiux.py                # 10 примеров
└── dataset/
    └── CATEGORIES.yaml            # Архитектура категорий

Как добавить примеры вручную

Открой нужный cat_*.py и добавь в конец:

EXAMPLES.append(Example(
    category="programming",
    subcategory="python_basics",
    complexity="beginner",
    user="""Твой запрос""",
    assistant="""Твой ответ"""
))

Затем пересобери датасет:

cd /home/z/my-project/scripts
python build_dataset.py

Как масштабировать через генератор

Вариант 1: Синтетическая генерация через LLM

Скрипт scale_generator.py вызывает LLM (через z-ai-web-dev-sdk CLI) для генерации новых примеров по шаблонам. Каждый пример проходит QC и дедупликацию.

# Сгенерировать 100 примеров по всем категориям
python scripts/scale_generator.py --target 100 --all-categories

# Сгенерировать 50 примеров для конкретной категории
python scripts/scale_generator.py --target 50 --category programming

# Посмотреть промпты без вызова LLM
python scripts/scale_generator.py --dry-run --target 10

Генератор:

Распределяет target по категориям согласно весам (programming 25%, webdev 20%, ...)
Для каждого примера выбирает сложность (20/40/30/10)
Строит промпт с шаблоном сценария
Вызывает LLM, парсит JSON
Прогоняет через validate_example() (длина, JSON-безопасность)
Дедуплицирует по fingerprint существующих примеров
Дописывает в cat_*.py файл

Вариант 2: Использовать subagent'ов (как в этой сессии)

Запусти агентов с детальной спецификацией — каждый делает свою категорию. Это даёт более высокое качество, чем чистая LLM-генерация, потому что агент:

Читает существующие примеры для стиля
Итеративно правит ошибки
Проверяет код на синтаксис
Делает реальный self-test

Пример промпта для агента в /scripts/GENERATION_SPEC.md.

Вариант 3: Реальные данные из open-source

Можно собрать реальные Q&A с:

Stack Overflow (под лицензией CC-BY-SA)
GitHub Issues/PRs с пометкой "good first issue"
Reddit r/learnprogramming, r/webdev (с авторским разрешением)

Обязательно: фильтровать на качество, дедуплицировать, рерайтить под единый стиль.

Pipeline для production (QLoRA → GGUF → Ollama)

Полный pipeline описан в спеке:

Synthetic Data
    ↓
Quality Control (validate_example)
    ↓
Deduplication (fingerprint)
    ↓
Train/Validation/Test split (build_dataset.py)
    ↓
QLoRA fine-tuning (peft + bitsandbytes)
    ↓
Evaluation (MT-bench, HumanEval, MBPP)
    ↓
Dataset Improvement (править ошибки, дополнять слабые категории)
    ↓
Fine-tuning v2
    ↓
GGUF Conversion (llama.cpp/convert.py)
    ↓
Quantization (Q4_K_M, Q5_K_M)
    ↓
Hugging Face upload (models/)
    ↓
Ollama modelfile
    ↓
API / AI Agent

Скрипт QLoRA (не вошёл в эту сессию, но вот шаблон)

# finetune_qlora.py
from transformers import AutoModelForCausalLM, AutoTokenizer, TrainingArguments
from peft import LoraConfig, get_peft_model, prepare_model_for_kbit_training
from trl import SFTTrainer
from datasets import load_dataset
import torch

MODEL = "meta-llama/Llama-3.1-8B-Instruct"
DATASET = "VIRUS374/ai-developer-dataset"

tokenizer = AutoTokenizer.from_pretrained(MODEL)
tokenizer.pad_token = tokenizer.eos_token

model = AutoModelForCausalLM.from_pretrained(
    MODEL,
    torch_dtype=torch.bfloat16,
    load_in_4bit=True,
    device_map="auto",
)
model = prepare_model_for_kbit_training(model)

lora_config = LoraConfig(
    r=16,
    lora_alpha=32,
    target_modules=["q_proj", "v_proj", "k_proj", "o_proj", "gate_proj", "up_proj", "down_proj"],
    lora_dropout=0.05,
    bias="none",
    task_type="CAUSAL_LM",
)
model = get_peft_model(model, lora_config)

ds = load_dataset(DATASET)

def format_example(example):
    text = tokenizer.apply_chat_template(
        example["messages"],
        tokenize=False,
        add_generation_prompt=False,
    )
    return {"text": text}

ds = ds.map(format_example, remove_columns=ds["train"].column_names)

trainer = SFTTrainer(
    model=model,
    train_dataset=ds["train"],
    eval_dataset=ds["validation"],
    args=TrainingArguments(
        output_dir="./output",
        num_train_epochs=3,
        per_device_train_batch_size=2,
        gradient_accumulation_steps=8,
        warmup_steps=50,
        learning_rate=2e-4,
        bf16=True,
        logging_steps=10,
        save_steps=200,
        eval_strategy="steps",
        eval_steps=200,
    ),
    max_seq_length=4096,
)

trainer.train()
trainer.save_model("./output/final")

Конвертация в GGUF

git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp
pip install -r requirements.txt

# Конвертация
python convert.py ../output/final --outfile ai-developer.gguf

# Квантизация
./llama-quantize ai-developer.gguf ai-developer-Q4_K_M.gguf Q4_K_M

Modelfile для Ollama

FROM ./ai-developer-Q4_K_M.gguf

PARAMETER temperature 0.3
PARAMETER top_p 0.9
PARAMETER num_ctx 8192

SYSTEM """Ты — AI-разработчик, специализирующийся на программировании, веб-разработке, UI/UX, ботах, скриптах, автоматизации, backend, API, базах данных, отладке, Linux, деплое и AI/ML. Пиши рабочий код, объясняй решения, при необходимости используй web search."""

TEMPLATE """{{- if .System }}
<|im_start|>system
{{ .System }}<|im_end|>
{{- end }}
<|im_start|>user
{{ .Prompt }}<|im_end|>
<|im_start|>assistant
"""

# Запуск
ollama create ai-developer -f Modelfile
ollama run ai-developer

⚠️ Безопасность — ВАЖНО

Токен был опубликован в чате.

Немедленно:

Зайди на https://huggingface.co/settings/tokens
Удали утёкший токен
Создай новый с правами write для VIRUS374/*
Обнови в scripts/upload_hf.py (или используй HF_TOKEN env var)
Никогда больше не публикуй токены в открытых чатах

HuggingFace автоматически детектит токены при upload и блокирует их — это защита от случайной утечки.

Чек-лист для масштабирования до 20k

Отозвать старый HF-токен, создать новый
Запустить scale_generator.py --target 1000 --all-categories (получишь ~1000 примеров)
Просмотреть сгенерированное, отфильтровать мусор вручную
Добавить 100-200 handcrafted примеров для слабых категорий
Запустить build_dataset.py — пересобрать JSONL
Загрузить новую версию: python upload_hf.py
Запустить QLoRA fine-tuning на 7B или 8B модели
Сравнить с baseline на HumanEval/MBPP/MT-bench
Итерировать: найти слабые места в датасете, дополнить
Повторить цикл до целевых метрик
Конвертировать в GGUF, опубликовать модель на HF
Сделать Ollama modelfile, опубликовать

Текущие метрики v0.1

Категория	Кол-во	Цель %	Факт %
programming	10	25%	14.7%
web_development	9	20%	13.2%
ui_ux_design	10	15%	14.7%
debugging	6	10%	8.8%
bots_automation	8	10%	11.8%
backend_api_db	6	5%	8.8%
linux_server_deploy	6	5%	8.8%
ai_ml	7	5%	10.3%
web_search_docs	6	5%	8.8%
ИТОГО	68	100%	100%

Сложность	Кол-во	Цель %	Факт %
beginner	12	20%	17.6%
intermediate	34	40%	50.0%
advanced	20	30%	29.4%
expert	2	10%	2.9%

Зоны роста для v0.2:

expert уровень сильно недопредставлен (2.9% vs 10%) — нужны сложные продакшен-сценарии
programming чуть ниже цели (14.7% vs 25%) — добавить больше языков (Java, C++, Rust)
debugging — нужны production logs с реальными stack traces

Использование

from datasets import load_dataset

ds = load_dataset("VIRUS374/ai-developer-dataset")
print(ds)
# DatasetDict({
#     train: 57 примеров
#     validation: 9 примеров
#     test: 2 примера
# })

for example in ds["train"]:
    messages = example["messages"]
    print(example["metadata"]["category"])