id stringlengths 9 9 | model_input stringlengths 11k 12.9k |
|---|---|
eval-a-01 | {"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"10:15 AM\",\"groups\":[{\"entries\":[{\"detail\":\"English audio\",\"id\":\"e1\",\"name\":\"Sculpture court\"},{\"detail\":\"Quiet room on level 2\",\"id\":\"e2\",\"name\":\"Print gallery\"}],\"id\":\"g1\",\"name\":\"10:15 AM\"},{\"entries\":[{\"detail\"... |
eval-a-02 | {"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"Local history\",\"groups\":[{\"entries\":[{\"detail\":\"Use the north shelves\",\"id\":\"e1\",\"name\":\"Maps\"},{\"detail\":\"Desk opens at nine\",\"id\":\"e2\",\"name\":\"Oral histories\"}],\"id\":\"g1\",\"name\":\"Local history\"},{\"entries\":[{\"det... |
eval-a-03 | {"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"Introduction to lino\",\"groups\":[{\"entries\":[{\"detail\":\"Make a small print\",\"id\":\"e1\",\"name\":\"Sketch design\"},{\"detail\":\"Bring an apron\",\"id\":\"e2\",\"name\":\"Cut block\"}],\"id\":\"g1\",\"name\":\"Introduction to lino\"},{\"entrie... |
eval-a-04 | {"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"Central depot\",\"groups\":[{\"entries\":[{\"detail\":\"Between 2 and 3 PM\",\"id\":\"e1\",\"name\":\"Sample box\"},{\"detail\":\"Keep upright\",\"id\":\"e2\",\"name\":\"Document pouch\"}],\"id\":\"g1\",\"name\":\"Central depot\"},{\"entries\":[{\"detail... |
eval-a-05 | {"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"$1,200.00\",\"groups\":[{\"entries\":[{\"detail\":\"3.1% annual rate\",\"id\":\"e1\",\"name\":\"March\"},{\"detail\":\"Monthly statement ready\",\"id\":\"e2\",\"name\":\"April\"}],\"id\":\"g1\",\"name\":\"$1,200.00\"},{\"entries\":[{\"detail\":\"Other de... |
eval-a-06 | {"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"Blue hatchback\",\"groups\":[{\"entries\":[{\"detail\":\"Tuesday at 11 AM\",\"id\":\"e1\",\"name\":\"Front panel\"},{\"detail\":\"Bring registration\",\"id\":\"e2\",\"name\":\"Rear door\"}],\"id\":\"g1\",\"name\":\"Blue hatchback\"},{\"entries\":[{\"deta... |
eval-a-07 | {"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"Cedar Quartet\",\"groups\":[{\"entries\":[{\"detail\":\"Original mix\",\"id\":\"e1\",\"name\":\"First movement\"},{\"detail\":\"Headphones recommended\",\"id\":\"e2\",\"name\":\"Finale\"}],\"id\":\"g1\",\"name\":\"Cedar Quartet\"},{\"entries\":[{\"detail... |
eval-a-08 | {"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"The Glass Harbor\",\"groups\":[{\"entries\":[{\"detail\":\"16 mm print\",\"id\":\"e1\",\"name\":\"Opening reel\"},{\"detail\":\"Captioned screening\",\"id\":\"e2\",\"name\":\"Closing reel\"}],\"id\":\"g1\",\"name\":\"The Glass Harbor\"},{\"entries\":[{\"... |
eval-a-09 | {"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"Travel line\",\"groups\":[{\"entries\":[{\"detail\":\"4 GB remaining\",\"id\":\"e1\",\"name\":\"Data\"},{\"detail\":\"Coverage advisory\",\"id\":\"e2\",\"name\":\"Voice\"}],\"id\":\"g1\",\"name\":\"Travel line\"},{\"entries\":[{\"detail\":\"Other detail:... |
eval-a-10 | {"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"Garden flat\",\"groups\":[{\"entries\":[{\"detail\":\"18 June\",\"id\":\"e1\",\"name\":\"Kitchen\"},{\"detail\":\"Key at reception\",\"id\":\"e2\",\"name\":\"Bedroom\"}],\"id\":\"g1\",\"name\":\"Garden flat\"},{\"entries\":[{\"detail\":\"Other detail: 18... |
eval-a-11 | {"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"Tomatoes\",\"groups\":[{\"entries\":[{\"detail\":\"$3 per box\",\"id\":\"e1\",\"name\":\"Herbs\"},{\"detail\":\"Keep cool\",\"id\":\"e2\",\"name\":\"Peppers\"}],\"id\":\"g1\",\"name\":\"Tomatoes\"},{\"entries\":[{\"detail\":\"Other detail: $3 per box\",\... |
eval-a-12 | {"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"Bond fund\",\"groups\":[{\"entries\":[{\"detail\":\"$420.00\",\"id\":\"e1\",\"name\":\"Government bonds\"},{\"detail\":\"Values may change\",\"id\":\"e2\",\"name\":\"Cash reserve\"}],\"id\":\"g1\",\"name\":\"Bond fund\"},{\"entries\":[{\"detail\":\"Other... |
eval-a-13 | {"context":{"domain_data":{"entities":[{"data_json":"{\"first\":\"Mira Chen\",\"groups\":[{\"entries\":[{\"detail\":\"Monday at 6 PM\",\"id\":\"e1\",\"name\":\"Introductions\"},{\"detail\":\"Bring a notebook\",\"id\":\"e2\",\"name\":\"Directions\"}],\"id\":\"g1\",\"name\":\"Mira Chen\"},{\"entries\":[{\"detail\":\"Othe... |
GenUI TOTE — intent evaluation candidates v1
Исправленный выпуск oracle 1.1.0. Входы, эталоны, схемы и данные probes
побайтово/структурно сохранены. Изменились проверки и классификация трёх
негативных примеров. Scores разных версий oracle напрямую не сопоставимы.
Предыдущий выпуск доступен по revision 38e177bedfeaf0957b5e69b437f606f64da324b2.
60 задач: 40 representative и 20 stress, подготовленных Codex Terra на основе тематик V8 и проверенных координатором и native toolchain. Это кандидаты в gold: человеческой проверки пока нет. Не независимый внешний benchmark.
Набор предназначен для оценки экспериментов с genui-tote-v9.1-augmented-100k. У него отдельные происхождение и версия; это не часть 100K аугментаций. 12 тематических исходников исключены из validation до авторства test.
Входы и эталоны
import json
from datasets import load_dataset
inputs = load_dataset("ggwplarin/genui-tote-eval-v1", "inputs", split="test")
references = load_dataset("ggwplarin/genui-tote-eval-v1", "references", split="test")
assert len(inputs) == len(references) == 60
model_input = json.loads(inputs[0]["model_input"])
Передавайте модели только inputs.model_input. Эталоны, tier, требования,
контрфактические данные и неверные ответы не добавляются в prompt. Для повторения
эксперимента закрепите HF commit через revision.
Каждый вход содержит kit из 16 компонентов: core9 + семь типов, выбранных по ID кейса до просмотра ответа. Описания используют те же пулы, что и train/validation. Первый набор данных — видимый base. Остальные наборы скрыты от генератора. Один сгенерированный TOTE исполняется без изменений на всех probes; repair и повторная генерация на изменённых данных не входят в эту оценку.
data/references.parquet содержит TOTE, IR, fingerprints и статус кандидата.
evaluation/cases.jsonl содержит требования, probes, эталон и негативные примеры.
Абсолютные bindings и данные при упаковке обёрнуты в entity screen для
совместимости с Pipe. Равенство semantic traces после преобразования проверено.
Строки и Parquet опубликованы без изменений относительно финальной локальной сборки.
Что проверено
- 140 запусков эталонов на probes прошли native validation и intent checks.
- Все 234 оставшихся исходных негативных варианта компилируются: 564 запуска. Каждый отклоняется хотя бы на одном probe. Три прежних негатива признаны допустимыми: порядок имени/detail внутри Row не был указан в запросе.
- Дополнительно проверены 125 регрессионных вариантов: 104 допустимых и 21 недопустимый; включая все 44 свидетеля независимого Astra-ревью. Всего 419 вариантов, 999 native-запусков; ожидаемые результаты совпали.
- 10 тестов проверяют typed values, scopes, связи полей, порядок и исправления.
- Скрипт оценки принимает все 60 эталонов и отклоняет по выбранному негативному варианту для каждого кейса. Отсутствующие ответы считаются провалами; дублированные/неизвестные ID вызывают ошибку.
- Исправлены найденные пропуски: подпись и значение проверяются вместе, порядок — с учётом целого поддерева, а требование одной Row — внутри одной Row.
- Проверены отсутствие точных совпадений запросов/текстов TOTE с train и val и ближайшие лексические сходства. Это не доказательство независимости по смыслу.
Локальная оценка TOTE
evaluation/grade_test.py принимает JSONL {"id":"eval-a-01","tote":"..."}.
Каноническое исполнение остаётся в native SDK и Pipe: Python-обвязка не
реализует парсер или семантику TOTE заново. В пакет включены фиксированные
каталоги и consumer-level проверки. Для исполнения нужен совместимый checkout
datagen-pipe с IR3 и native Python bindings; один pip install datasets
его не предоставляет. Не утверждается, что все эти runtime-изменения уже в main.
Проверено с Python 3.13.5, Pipe checkout
b6802cf809d8e689d2c9100e2161a3f5b87cb20e, SDK source
4aca0debd801ae0b6b65c14e0b5123d986422fc6, grammar
eb008bdcb01d1f1c086fc67e36b2c00734a58cd5.
Точные hashes используемых Pipe-модулей находятся в metadata/runtime-files.json.
# Из корня скачанного датасета, в существующем native окружении:
PYTHONPATH=/path/to/compatible/datagen-pipe python evaluation/grade_test.py --cases evaluation/cases.jsonl --predictions /path/to/predictions.jsonl --output /path/to/new-scores.json
Скрипт не выполняет inference и не исправляет ответы. Новый файл результатов
создаётся без перезаписи старого. Case pass требует выполнения всех требований
на всех probes. Macro requirement score сначала усредняется внутри кейса,
затем между кейсами. Representative и stress показываются отдельно.
reference-predictions.jsonl служит самопроверкой обвязки, не оценкой модели.
Для воспроизведения полного регрессионного набора:
PYTHONPATH=/path/to/compatible/datagen-pipe python evaluation/run_regressions.py \
--output /path/to/new-regression-results.json
evaluation/regression-candidates.jsonl содержит положительные альтернативы
и дополнительные контрпримеры. metadata/corrections-v1.1.json описывает решения;
metadata/regression-results-v1.1.json содержит все результаты. Старые отчёты
сохранены в metadata/history-v1/ и относятся только к предыдущему oracle.
Независимое Astra-ревью выявило проблемы в v1; это не утверждение о независимом
одобрении v1.1. Человеческая adjudication всё ещё не выполнена.
Для проверки только Parquet и hashes без native SDK:
pip install pyarrow
python verify.py
Границы вывода
60 задач содержат 42 разных текста эталонного TOTE; структуры повторяются. Общие домены и синтетические шаблоны не дают статистически независимый benchmark. Название stress обозначает замысел задачи, а не измеренную трудность для модели. Конечные probes не доказывают корректность для всех возможных данных; проверки не покрывают каждое произвольное добавление контента. Browser/layout QA, доступность и интерактивное поведение здесь не оцениваются. Компоненты — previews.
Не включайте test, его negatives и probes в обучение/аугментацию. Повторный подбор
гиперпараметров по этому test превращает его в validation. Перед заявлениями о
качестве нужна человеческая проверка intent и допустимых альтернативных решений.
train_eligible=false сохранён. Лицензия распространения владельцем пока не
указана; этот выпуск не назначает её автоматически.
- Downloads last month
- 109