Ilirt's picture
Create README.md
680df2e verified
|
Raw History Blame Contribute Delete
3.19 kB
metadata
license: cc-by-nc-4.0
language:
  - ru
  - en
task_categories:
  - text-generation
tags:
  - sql
  - text-to-sql
  - agent
  - tool-use
  - evaluation
size_categories:
  - n<1K

DataPilot · ecommerce SQL (учебная база)

Набор задач, обучающие траектории и журналы оценки для проекта DataPilot AI (трек 3 Lexsi). Код: https://github.com/prprprmk12/datapilot-ai. Адаптер: https://huggingface.co/HF_USER/datapilot-tiny-aya-sql-sft-extra

Состав

Файл Что внутри
ecommerce-v1.jsonl 99 задач: поля id, split, family, question, reference_sql
ecommerce-v1-extra-train.jsonl 51 дополнительная обучающая задача (12 семейств), только train
sft-train.jsonl, sft-extra-train.jsonl Траектории агента (prompt/completion) для SFT, построены на реальных инструментах
base.json, sft.json, sft-extra.json Журналы оценки трёх вариантов на 18 тестовых задачах
sft-extra-retry1.json, sft-extra-retry3.json Оценка с повтором SQL после ошибки (×1, ×3)

Разбиение v1 по семействам задач, а не по строкам: train 69 (13 семейств), dev 12 (3 семейства), test 18 (paid-profit, payment-status-counts, revenue-by-country). Эталонные запросы в промпт модели не попадают; успех определяется сравнением результата SQL агента с результатом эталона (значения и имена столбцов).

База данных

Синтетический интернет-магазин: customers, products, orders, order_items, payments. Данные вымышлены, фиксированный seed (сентябрь–ноябрь 2026: 4 клиента, 4 товара, 6 заказов). Схема и seed: db/001_schema.sql, db/002_seed.sql в репозитории.

Ограничения

  • Маленький размер. 18 тестовых задач (рекомендуется не менее 100), 3 семейства. Выводы о качестве на других схемах невозможны.
  • Тест не совсем чистый. Дополнительные обучающие семейства созданы после просмотра ошибок на тесте; тестовые семейства в обучение не входили.
  • Мало данных в базе. Совпадение формул на крошечных данных возможно: так, неверная формула прибыли даёт верный ответ при LIMIT 1.
  • Эталоны написаны вручную или шаблонами и проверены выполнением в read-only PostgreSQL.
  • Лицензия: CC BY-NC 4.0, согласована с лицензией базовой модели Cohere Labs Tiny Aya.