Dataset Viewer
Auto-converted to Parquet Duplicate
id
stringlengths
9
9
model_input
stringlengths
11k
12.9k
eval-a-01
{"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"10:15 AM\",\"groups\":[{\"entries\":[{\"detail\":\"English audio\",\"id\":\"e1\",\"name\":\"Sculpture court\"},{\"detail\":\"Quiet room on level 2\",\"id\":\"e2\",\"name\":\"Print gallery\"}],\"id\":\"g1\",\"name\":\"10:15 AM\"},{\"entries\":[{\"detail\"...
eval-a-02
{"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"Local history\",\"groups\":[{\"entries\":[{\"detail\":\"Use the north shelves\",\"id\":\"e1\",\"name\":\"Maps\"},{\"detail\":\"Desk opens at nine\",\"id\":\"e2\",\"name\":\"Oral histories\"}],\"id\":\"g1\",\"name\":\"Local history\"},{\"entries\":[{\"det...
eval-a-03
{"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"Introduction to lino\",\"groups\":[{\"entries\":[{\"detail\":\"Make a small print\",\"id\":\"e1\",\"name\":\"Sketch design\"},{\"detail\":\"Bring an apron\",\"id\":\"e2\",\"name\":\"Cut block\"}],\"id\":\"g1\",\"name\":\"Introduction to lino\"},{\"entrie...
eval-a-04
{"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"Central depot\",\"groups\":[{\"entries\":[{\"detail\":\"Between 2 and 3 PM\",\"id\":\"e1\",\"name\":\"Sample box\"},{\"detail\":\"Keep upright\",\"id\":\"e2\",\"name\":\"Document pouch\"}],\"id\":\"g1\",\"name\":\"Central depot\"},{\"entries\":[{\"detail...
eval-a-05
{"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"$1,200.00\",\"groups\":[{\"entries\":[{\"detail\":\"3.1% annual rate\",\"id\":\"e1\",\"name\":\"March\"},{\"detail\":\"Monthly statement ready\",\"id\":\"e2\",\"name\":\"April\"}],\"id\":\"g1\",\"name\":\"$1,200.00\"},{\"entries\":[{\"detail\":\"Other de...
eval-a-06
{"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"Blue hatchback\",\"groups\":[{\"entries\":[{\"detail\":\"Tuesday at 11 AM\",\"id\":\"e1\",\"name\":\"Front panel\"},{\"detail\":\"Bring registration\",\"id\":\"e2\",\"name\":\"Rear door\"}],\"id\":\"g1\",\"name\":\"Blue hatchback\"},{\"entries\":[{\"deta...
eval-a-07
{"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"Cedar Quartet\",\"groups\":[{\"entries\":[{\"detail\":\"Original mix\",\"id\":\"e1\",\"name\":\"First movement\"},{\"detail\":\"Headphones recommended\",\"id\":\"e2\",\"name\":\"Finale\"}],\"id\":\"g1\",\"name\":\"Cedar Quartet\"},{\"entries\":[{\"detail...
eval-a-08
{"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"The Glass Harbor\",\"groups\":[{\"entries\":[{\"detail\":\"16 mm print\",\"id\":\"e1\",\"name\":\"Opening reel\"},{\"detail\":\"Captioned screening\",\"id\":\"e2\",\"name\":\"Closing reel\"}],\"id\":\"g1\",\"name\":\"The Glass Harbor\"},{\"entries\":[{\"...
eval-a-09
{"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"Travel line\",\"groups\":[{\"entries\":[{\"detail\":\"4 GB remaining\",\"id\":\"e1\",\"name\":\"Data\"},{\"detail\":\"Coverage advisory\",\"id\":\"e2\",\"name\":\"Voice\"}],\"id\":\"g1\",\"name\":\"Travel line\"},{\"entries\":[{\"detail\":\"Other detail:...
eval-a-10
{"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"Garden flat\",\"groups\":[{\"entries\":[{\"detail\":\"18 June\",\"id\":\"e1\",\"name\":\"Kitchen\"},{\"detail\":\"Key at reception\",\"id\":\"e2\",\"name\":\"Bedroom\"}],\"id\":\"g1\",\"name\":\"Garden flat\"},{\"entries\":[{\"detail\":\"Other detail: 18...
eval-a-11
{"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"Tomatoes\",\"groups\":[{\"entries\":[{\"detail\":\"$3 per box\",\"id\":\"e1\",\"name\":\"Herbs\"},{\"detail\":\"Keep cool\",\"id\":\"e2\",\"name\":\"Peppers\"}],\"id\":\"g1\",\"name\":\"Tomatoes\"},{\"entries\":[{\"detail\":\"Other detail: $3 per box\",\...
eval-a-12
{"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"Bond fund\",\"groups\":[{\"entries\":[{\"detail\":\"$420.00\",\"id\":\"e1\",\"name\":\"Government bonds\"},{\"detail\":\"Values may change\",\"id\":\"e2\",\"name\":\"Cash reserve\"}],\"id\":\"g1\",\"name\":\"Bond fund\"},{\"entries\":[{\"detail\":\"Other...
eval-a-13
{"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"Mira Chen\",\"groups\":[{\"entries\":[{\"detail\":\"Monday at 6 PM\",\"id\":\"e1\",\"name\":\"Introductions\"},{\"detail\":\"Bring a notebook\",\"id\":\"e2\",\"name\":\"Directions\"}],\"id\":\"g1\",\"name\":\"Mira Chen\"},{\"entries\":[{\"detail\":\"Othe...
End of preview. Expand in Data Studio

GenUI TOTE — intent evaluation candidates v1

Исправленный выпуск oracle 1.1.0. Входы, эталоны, схемы и данные probes побайтово/структурно сохранены. Изменились проверки и классификация трёх негативных примеров. Scores разных версий oracle напрямую не сопоставимы. Предыдущий выпуск доступен по revision 38e177bedfeaf0957b5e69b437f606f64da324b2.

60 задач: 40 representative и 20 stress, подготовленных Codex Terra на основе тематик V8 и проверенных координатором и native toolchain. Это кандидаты в gold: человеческой проверки пока нет. Не независимый внешний benchmark.

Набор предназначен для оценки экспериментов с genui-tote-v9.1-augmented-100k. У него отдельные происхождение и версия; это не часть 100K аугментаций. 12 тематических исходников исключены из validation до авторства test.

Входы и эталоны

import json
from datasets import load_dataset

inputs = load_dataset("ggwplarin/genui-tote-eval-v1", "inputs", split="test")
references = load_dataset("ggwplarin/genui-tote-eval-v1", "references", split="test")
assert len(inputs) == len(references) == 60
model_input = json.loads(inputs[0]["model_input"])

Передавайте модели только inputs.model_input. Эталоны, tier, требования, контрфактические данные и неверные ответы не добавляются в prompt. Для повторения эксперимента закрепите HF commit через revision.

Каждый вход содержит kit из 16 компонентов: core9 + семь типов, выбранных по ID кейса до просмотра ответа. Описания используют те же пулы, что и train/validation. Первый набор данных — видимый base. Остальные наборы скрыты от генератора. Один сгенерированный TOTE исполняется без изменений на всех probes; repair и повторная генерация на изменённых данных не входят в эту оценку.

data/references.parquet содержит TOTE, IR, fingerprints и статус кандидата. evaluation/cases.jsonl содержит требования, probes, эталон и негативные примеры. Абсолютные bindings и данные при упаковке обёрнуты в entity screen для совместимости с Pipe. Равенство semantic traces после преобразования проверено. Строки и Parquet опубликованы без изменений относительно финальной локальной сборки.

Что проверено

  • 140 запусков эталонов на probes прошли native validation и intent checks.
  • Все 234 оставшихся исходных негативных варианта компилируются: 564 запуска. Каждый отклоняется хотя бы на одном probe. Три прежних негатива признаны допустимыми: порядок имени/detail внутри Row не был указан в запросе.
  • Дополнительно проверены 125 регрессионных вариантов: 104 допустимых и 21 недопустимый; включая все 44 свидетеля независимого Astra-ревью. Всего 419 вариантов, 999 native-запусков; ожидаемые результаты совпали.
  • 10 тестов проверяют typed values, scopes, связи полей, порядок и исправления.
  • Скрипт оценки принимает все 60 эталонов и отклоняет по выбранному негативному варианту для каждого кейса. Отсутствующие ответы считаются провалами; дублированные/неизвестные ID вызывают ошибку.
  • Исправлены найденные пропуски: подпись и значение проверяются вместе, порядок — с учётом целого поддерева, а требование одной Row — внутри одной Row.
  • Проверены отсутствие точных совпадений запросов/текстов TOTE с train и val и ближайшие лексические сходства. Это не доказательство независимости по смыслу.

Локальная оценка TOTE

evaluation/grade_test.py принимает JSONL {"id":"eval-a-01","tote":"..."}. Каноническое исполнение остаётся в native SDK и Pipe: Python-обвязка не реализует парсер или семантику TOTE заново. В пакет включены фиксированные каталоги и consumer-level проверки. Для исполнения нужен совместимый checkout datagen-pipe с IR3 и native Python bindings; один pip install datasets его не предоставляет. Не утверждается, что все эти runtime-изменения уже в main.

Проверено с Python 3.13.5, Pipe checkout b6802cf809d8e689d2c9100e2161a3f5b87cb20e, SDK source 4aca0debd801ae0b6b65c14e0b5123d986422fc6, grammar eb008bdcb01d1f1c086fc67e36b2c00734a58cd5. Точные hashes используемых Pipe-модулей находятся в metadata/runtime-files.json.

# Из корня скачанного датасета, в существующем native окружении:
PYTHONPATH=/path/to/compatible/datagen-pipe python evaluation/grade_test.py   --cases evaluation/cases.jsonl   --predictions /path/to/predictions.jsonl   --output /path/to/new-scores.json

Скрипт не выполняет inference и не исправляет ответы. Новый файл результатов создаётся без перезаписи старого. Case pass требует выполнения всех требований на всех probes. Macro requirement score сначала усредняется внутри кейса, затем между кейсами. Representative и stress показываются отдельно. reference-predictions.jsonl служит самопроверкой обвязки, не оценкой модели.

Для воспроизведения полного регрессионного набора:

PYTHONPATH=/path/to/compatible/datagen-pipe python evaluation/run_regressions.py \
  --output /path/to/new-regression-results.json

evaluation/regression-candidates.jsonl содержит положительные альтернативы и дополнительные контрпримеры. metadata/corrections-v1.1.json описывает решения; metadata/regression-results-v1.1.json содержит все результаты. Старые отчёты сохранены в metadata/history-v1/ и относятся только к предыдущему oracle. Независимое Astra-ревью выявило проблемы в v1; это не утверждение о независимом одобрении v1.1. Человеческая adjudication всё ещё не выполнена.

Для проверки только Parquet и hashes без native SDK:

pip install pyarrow
python verify.py

Границы вывода

60 задач содержат 42 разных текста эталонного TOTE; структуры повторяются. Общие домены и синтетические шаблоны не дают статистически независимый benchmark. Название stress обозначает замысел задачи, а не измеренную трудность для модели. Конечные probes не доказывают корректность для всех возможных данных; проверки не покрывают каждое произвольное добавление контента. Browser/layout QA, доступность и интерактивное поведение здесь не оцениваются. Компоненты — previews.

Не включайте test, его negatives и probes в обучение/аугментацию. Повторный подбор гиперпараметров по этому test превращает его в validation. Перед заявлениями о качестве нужна человеческая проверка intent и допустимых альтернативных решений. train_eligible=false сохранён. Лицензия распространения владельцем пока не указана; этот выпуск не назначает её автоматически.

Downloads last month
109