Оценка прогона одной командой (eval/evaluate.py), модель из переменных WORKPERMIT_MODEL_*, прогон по частям в одном run.json, ключ «none» для агента без ключа, округление Q как на сайте
399470c verified |
Download runners/dsh/README.md from synaptex/workpermit: direct link, hf CLI and curl.
- Browser
- Download file 13.7 kB
-
https://huggingface.co/datasets/synaptex/workpermit/resolve/main/runners/dsh/README.md
- Command line
-
hf download hf://datasets/synaptex/workpermit/runners/dsh/README.md
-
curl -L -o README.md https://huggingface.co/datasets/synaptex/workpermit/resolve/main/runners/dsh/README.md
13.7 kB
| # Прогон агента DeepSeek Harness на WorkPermit | |
| Здесь всё, что нужно для прогона агента DeepSeek Harness (dsh) по 120 задачам WorkPermit: образ агента, шлюз к модели, | |
| серверы MCP с двойниками подключённых систем, памятью и органайзером, прогонщик и проверка связки без модели. Нужен только | |
| датасет: кода сравниваемых систем не нужно. Прогон Santify отсюда не повторить: у неё нет открытого API. | |
| ## Что нужно | |
| - Docker: Docker Desktop (Windows, macOS) или Docker Engine 20.10+ (Linux). | |
| - Python 3.10+, без сторонних пакетов. | |
| - Выход в интернет только для сборки образа (Docker Hub, npm, PyPI); сам прогон идёт без сети, кроме модели. | |
| - Модель на адресе, совместимом с OpenAI (`/v1/chat/completions`), с вызовом инструментов (tool calling) и вводом | |
| изображений. У vLLM вызов инструментов включается ключом `--enable-auto-tool-choice` с парсером вызовов своей модели | |
| (`--tool-call-parser`). Сервер вправе принимать одно изображение за запрос: шлюз оставляет в запросе одно, последнее. | |
| Сравнение идёт на Qwen3.8-27B (vLLM) с окном 64 000 токенов и пределом ответа 8 192. | |
| ## Запуск | |
| Команды даются из корня датасета. | |
| 1. Образ агента (DeepSeek Harness 0.2.0-rc.2 на Node 22, Python с python-docx, openpyxl, python-pptx, pypdf, poppler): | |
| ```bash | |
| docker build -t workpermit-dsh:0.2.0-rc.2 runners/dsh | |
| ``` | |
| 2. Проверка связки без модели: вместо модели отвечает заглушка, которая вызывает инструмент MCP и отвечает текстом. | |
| Печатает, какие инструменты MCP модель видела в запросе и что агент получил; код выхода 1 — связка не работает. | |
| ```bash | |
| python runners/dsh/smoke.py . runs | |
| ``` | |
| 3. Прогон. Модель задаётся один раз переменными окружения, общими с судьёй (`eval/judge.py`, `eval/evaluate.py`); | |
| ключ агенту приходит переменной окружения и нигде не записывается; без ключа агент получает ключ «none», который | |
| принимает сервер модели без ключа (пустой ключ агент не принимает и к модели не обращается). | |
| ```bash | |
| export WORKPERMIT_MODEL_URL=http://localhost:8000/v1 WORKPERMIT_MODEL=<модель> WORKPERMIT_MODEL_KEY=<ключ> | |
| ``` | |
| ```bash | |
| python runners/dsh/run.py . runs --name <прогон> | |
| ``` | |
| | Ключ | Что задаёт | По умолчанию | | |
| |---|---|---| | |
| | `--base-url` | адрес модели; `localhost` шлюз видит как `host.docker.internal` | `WORKPERMIT_MODEL_URL` | | |
| | `--model` | имя модели на сервере | `WORKPERMIT_MODEL` | | |
| | `--name` | имя прогона, папка `runs/<прогон>/dsh/`; для сравнения то же, что у прогона другой системы | сегодняшняя дата | | |
| | `--only` | задачи по имени или номеру через запятую; `8` — вся категория | все 120 | | |
| | `--again` | прогнать заново задачи с готовой записью | пропускать | | |
| | `--context`, `--max-tokens` | окно модели и предел ответа за обращение | 64 000 и 8 192 | | |
| | `--turn-minutes` | срок одного сообщения: страховка от зависания, а не мерило | 90 | | |
| | `--image` | образ агента | `workpermit-dsh:0.2.0-rc.2` | | |
| Задача с готовой записью пропускается, поэтому прерванный прогон продолжается той же командой, а прогон по частям | |
| (`--only` по категориям) — тем же `--name`: `run.json` дописывает задачи и хранит начало первого запуска. Запуск на | |
| другой модели или другом образе в ту же папку прогонщик отклоняет: для них нужен новый прогон. | |
| 4. Оценка — одной командой `eval/evaluate.py` в контейнере `eval/Dockerfile` (раздел «Оценка» карточки датасета): проверки | |
| кода, судья на той же модели, отчёт. | |
| ## Что получается | |
| ``` | |
| runs/<прогон>/dsh/run.json модель, образ, окно, время начала, перечень задач | |
| runs/<прогон>/dsh/<задача>/ | |
| record.json запись прогона в формате оценки (описан в начале eval/checks.py) | |
| files/ выданные файлы: новые документы рабочей папки и изменённые файлы человека | |
| events.jsonl, stderr.txt журнал событий агента (--json) и его ошибки, по всем ходам | |
| work/ рабочая папка агента: материалы задачи и всё, что он написал | |
| home/ дом агента: его сессии | |
| config/patch.yml накладка настроек агента этой задачи | |
| desk/state.json, desk/calls.jsonl органайзер и память после задачи, журнал вызовов серверов MCP | |
| desk.log журнал серверов MCP | |
| ``` | |
| ## Устройство | |
| ``` | |
| внутренняя сеть Docker «workpermit-offline» (без выхода наружу) | |
| ┌──────────────────────────────────────────────────────────────────────┐ | |
| │ агент dsh ── /work, /work-config, /work-home (папки задачи) │ | |
| │ │ модель │ инструменты MCP │ | |
| │ ▼ ▼ │ | |
| │ шлюз workpermit-model-gate серверы MCP workpermit-desk-… │ | |
| │ (gate.js, одно изображение) (desk/server.py, /state) │ | |
| └─────┼────────────────────────────────────────────────────────────────┘ | |
| ▼ единственный выход наружу | |
| модель (--base-url) | |
| ``` | |
| - **Агент** работает в безголовом профиле `headless` как есть: оболочка без подтверждения, чтение, запись и поиск файлов, | |
| подагенты, навыки из папок. Поиск в сети в профиле есть, но сети у агента нет. Накладка `config/patch.yml` меняет три | |
| вещи: модель (адрес шлюза, имя, окно, предел ответа, ввод изображений, рассуждение выключено), сжатие истории под малое | |
| окно (по умолчанию оно держит запас в 65 536 токенов и при окне 64 000 не срабатывает ни разу; здесь запас 4 096, | |
| порог 80 % окна) и серверы MCP (плагин `dsh-mcp-client`, новые записи строкой `insert`). | |
| - **Шлюз** пересылает запросы на один адрес модели и больше никуда; в запросе оставляет последнее изображение, прежние | |
| заменяет пометкой «прочитайте файл ещё раз». | |
| - **Серверы MCP** работают в своём контейнере той же сети: агент видит их инструменты, но не код двойников и не файл | |
| состояния. Память и органайзер подключены в каждой задаче, подключённая система — в задачах категории 8. | |
| | Сервер | Инструменты | | |
| |---|---| | |
| | `memory` — память о человеке, общая для всех разговоров задачи | `remember`, `recall`, `forget` | | |
| | `organizer` — органайзер во времени человека | `current_time`; `create_reminder`, `list_reminders`, `delete_reminder`; `create_automation`, `list_automations`, `delete_automation`; `create_board_task`, `list_board_tasks`, `update_board_task`, `delete_board_task`; `create_note`, `list_notes`, `search_notes`, `update_note`, `delete_note` | | |
| | `onec` — база 1С «Торговля» | `odata_get`: GET к стандартному интерфейсу OData | | |
| | `jira` — Jira компании | `api_get`: GET к REST API | | |
| | `github` — репозиторий `acme/warehouse` | `api_get`: GET к REST API; содержимое файла приходит расшифрованным | | |
| Двойники (`desk/onec.py`, `desk/jira.py`, `desk/github.py`) отвечают по правилам API, а не заготовленными строками: | |
| неверный запрос получает такой же отказ, как у настоящей системы, остатки и обороты 1С считаются по движениям. Они те же, | |
| на которых прогонялась Santify, и сверены с её двойниками запрос в запрос. `desk/answer.py` показывает ответ двойника | |
| на адрес без сервера. | |
| ## Как идёт задача | |
| - Материалы ложатся в рабочую папку по местам человека: «База знаний «…»» и «Мои файлы» с начала, «Вложения» — со своим | |
| сообщением. Каждый файл сверяется с датасетом по SHA-256. | |
| - К словам человека добавляется одна строка: где лежат материалы и что готовые файлы кладутся в рабочую папку. Других | |
| подсказок нет. | |
| - Сообщения одного разговора идут одной сессией агента (`--session-id`), другого — новой. | |
| - Если агент спросил (ответ кончается вопросительным знаком, и ни один документ папки не появился и не изменился), ему | |
| уходит ответ человека, не больше двух раз: заготовленный задачей (`reply_if_asked`), а после последнего сообщения, если | |
| вопрос не верный исход задачи, общий «Других сведений у меня нет. Сделай по тому, что есть.». | |
| - После задачи снимаются выданные файлы, хеши файлов человека, органайзер и действия агента; у подключённой системы к | |
| действию приложена её выдача: судья сверяет с ней то, чего нет в материалах. | |
| ## Особенности | |
| - **Linux.** `host.docker.internal` шлюз получает ключом `--add-host host.docker.internal:host-gateway`; модель на этой | |
| же машине должна слушать не только 127.0.0.1, а 0.0.0.0 или адрес моста docker0. Контейнеры работают от root, и файлы | |
| в `runs/` принадлежат root. | |
| - **Windows.** Работает через Docker Desktop; команды те же (`python`, пути с прямой или обратной чертой). | |
| - **Что не повторится байт в байт:** ответы модели (один прогон на задачу, без отбора лучшей попытки), базовый образ | |
| `node:22-alpine` и пакеты Alpine при новой сборке. Версия агента закреплена: `@deepseek-ai/dsh@0.2.0-rc.2`. | |
| - **Тесты:** `python -m unittest discover -s runners/dsh -p "test_*.py"` — двойники, протокол MCP, органайзер, разбор | |
| событий агента (нужен Python с базой поясов: на Windows — пакет `tzdata`, иначе тесты органайзера не пройдут). | |