Datasets:

---

alexshpunt

/

explicit-edit-benchmark

Like 5

Статус: требуется дождаться публичных GitHub-изменений

Это отдельное повторное наблюдение BB → Pi с исправленным учётом usage каждого assistant message_end.

Перед acceptance прошу дождаться:

1. merge explicit-edit-benchmark PR #20, который суммирует tokenUsage.last каждого response и не публикует неполную telemetry старого BB;
2. публичного upstream-исправления BB Pi provider, эквивалентного закрытому get-bb/bb PR #3764. Текущий прогон использовал локальный telemetry-only patch BB 0.43.1; prompt, tools и model requests не менялись.

Результат

• Конфигурация: BB 0.43.1 + telemetry patch → Pi 0.85.1 → agent-proxy/gpt-5.6-luna → low
• Задач: 226
• First exact: 212/226
• Final exact: 222/226
• Recovery exhausted: 4
• Timeouts: 0
• Provider responses: 895
• Input tokens: 1 899 001
• Cached input tokens: 3 894 272
• Output tokens: 99 463
• Total tokens: 5 892 736
• Tool calls: 759
• costUsd: отсутствует; денежные оценки в Dataset не добавлялись

Все 895 usage events проверены: для каждого response компоненты сходятся с totalTokens, per-round суммы совпадают с raw results и normalized bundle прошёл validator.

Во время полного запуска внешний runner был остановлен после 69 завершённых независимых trials. Оставшиеся 157 trials были продолжены с той же конфигурацией, policy, concurrency и отдельной изоляцией; незавершённый trial не включён. Bundle содержит ровно по одному исходному результату для всех 226 задач, без изменения outcomes.

Accepted as an unverified historical observation in Dataset commit c13d0ca964fd914c9efb66fae49988223572a354 after current validation and ingestion passed.