workpermit / runners /dsh /README.md
synaptex-community's picture
Оценка прогона одной командой (eval/evaluate.py), модель из переменных WORKPERMIT_MODEL_*, прогон по частям в одном run.json, ключ «none» для агента без ключа, округление Q как на сайте
399470c verified
|
Raw History Blame Contribute Delete
13.7 kB
# Прогон агента DeepSeek Harness на WorkPermit
Здесь всё, что нужно для прогона агента DeepSeek Harness (dsh) по 120 задачам WorkPermit: образ агента, шлюз к модели,
серверы MCP с двойниками подключённых систем, памятью и органайзером, прогонщик и проверка связки без модели. Нужен только
датасет: кода сравниваемых систем не нужно. Прогон Santify отсюда не повторить: у неё нет открытого API.
## Что нужно
- Docker: Docker Desktop (Windows, macOS) или Docker Engine 20.10+ (Linux).
- Python 3.10+, без сторонних пакетов.
- Выход в интернет только для сборки образа (Docker Hub, npm, PyPI); сам прогон идёт без сети, кроме модели.
- Модель на адресе, совместимом с OpenAI (`/v1/chat/completions`), с вызовом инструментов (tool calling) и вводом
изображений. У vLLM вызов инструментов включается ключом `--enable-auto-tool-choice` с парсером вызовов своей модели
(`--tool-call-parser`). Сервер вправе принимать одно изображение за запрос: шлюз оставляет в запросе одно, последнее.
Сравнение идёт на Qwen3.8-27B (vLLM) с окном 64 000 токенов и пределом ответа 8 192.
## Запуск
Команды даются из корня датасета.
1. Образ агента (DeepSeek Harness 0.2.0-rc.2 на Node 22, Python с python-docx, openpyxl, python-pptx, pypdf, poppler):
```bash
docker build -t workpermit-dsh:0.2.0-rc.2 runners/dsh
```
2. Проверка связки без модели: вместо модели отвечает заглушка, которая вызывает инструмент MCP и отвечает текстом.
Печатает, какие инструменты MCP модель видела в запросе и что агент получил; код выхода 1 — связка не работает.
```bash
python runners/dsh/smoke.py . runs
```
3. Прогон. Модель задаётся один раз переменными окружения, общими с судьёй (`eval/judge.py`, `eval/evaluate.py`);
ключ агенту приходит переменной окружения и нигде не записывается; без ключа агент получает ключ «none», который
принимает сервер модели без ключа (пустой ключ агент не принимает и к модели не обращается).
```bash
export WORKPERMIT_MODEL_URL=http://localhost:8000/v1 WORKPERMIT_MODEL=<модель> WORKPERMIT_MODEL_KEY=<ключ>
```
```bash
python runners/dsh/run.py . runs --name <прогон>
```
| Ключ | Что задаёт | По умолчанию |
|---|---|---|
| `--base-url` | адрес модели; `localhost` шлюз видит как `host.docker.internal` | `WORKPERMIT_MODEL_URL` |
| `--model` | имя модели на сервере | `WORKPERMIT_MODEL` |
| `--name` | имя прогона, папка `runs/<прогон>/dsh/`; для сравнения то же, что у прогона другой системы | сегодняшняя дата |
| `--only` | задачи по имени или номеру через запятую; `8` — вся категория | все 120 |
| `--again` | прогнать заново задачи с готовой записью | пропускать |
| `--context`, `--max-tokens` | окно модели и предел ответа за обращение | 64 000 и 8 192 |
| `--turn-minutes` | срок одного сообщения: страховка от зависания, а не мерило | 90 |
| `--image` | образ агента | `workpermit-dsh:0.2.0-rc.2` |
Задача с готовой записью пропускается, поэтому прерванный прогон продолжается той же командой, а прогон по частям
(`--only` по категориям) — тем же `--name`: `run.json` дописывает задачи и хранит начало первого запуска. Запуск на
другой модели или другом образе в ту же папку прогонщик отклоняет: для них нужен новый прогон.
4. Оценка — одной командой `eval/evaluate.py` в контейнере `eval/Dockerfile` (раздел «Оценка» карточки датасета): проверки
кода, судья на той же модели, отчёт.
## Что получается
```
runs/<прогон>/dsh/run.json модель, образ, окно, время начала, перечень задач
runs/<прогон>/dsh/<задача>/
record.json запись прогона в формате оценки (описан в начале eval/checks.py)
files/ выданные файлы: новые документы рабочей папки и изменённые файлы человека
events.jsonl, stderr.txt журнал событий агента (--json) и его ошибки, по всем ходам
work/ рабочая папка агента: материалы задачи и всё, что он написал
home/ дом агента: его сессии
config/patch.yml накладка настроек агента этой задачи
desk/state.json, desk/calls.jsonl органайзер и память после задачи, журнал вызовов серверов MCP
desk.log журнал серверов MCP
```
## Устройство
```
внутренняя сеть Docker «workpermit-offline» (без выхода наружу)
┌──────────────────────────────────────────────────────────────────────┐
│ агент dsh ── /work, /work-config, /work-home (папки задачи) │
│ │ модель │ инструменты MCP │
│ ▼ ▼ │
│ шлюз workpermit-model-gate серверы MCP workpermit-desk-… │
│ (gate.js, одно изображение) (desk/server.py, /state) │
└─────┼────────────────────────────────────────────────────────────────┘
▼ единственный выход наружу
модель (--base-url)
```
- **Агент** работает в безголовом профиле `headless` как есть: оболочка без подтверждения, чтение, запись и поиск файлов,
подагенты, навыки из папок. Поиск в сети в профиле есть, но сети у агента нет. Накладка `config/patch.yml` меняет три
вещи: модель (адрес шлюза, имя, окно, предел ответа, ввод изображений, рассуждение выключено), сжатие истории под малое
окно (по умолчанию оно держит запас в 65 536 токенов и при окне 64 000 не срабатывает ни разу; здесь запас 4 096,
порог 80 % окна) и серверы MCP (плагин `dsh-mcp-client`, новые записи строкой `insert`).
- **Шлюз** пересылает запросы на один адрес модели и больше никуда; в запросе оставляет последнее изображение, прежние
заменяет пометкой «прочитайте файл ещё раз».
- **Серверы MCP** работают в своём контейнере той же сети: агент видит их инструменты, но не код двойников и не файл
состояния. Память и органайзер подключены в каждой задаче, подключённая система — в задачах категории 8.
| Сервер | Инструменты |
|---|---|
| `memory` — память о человеке, общая для всех разговоров задачи | `remember`, `recall`, `forget` |
| `organizer` — органайзер во времени человека | `current_time`; `create_reminder`, `list_reminders`, `delete_reminder`; `create_automation`, `list_automations`, `delete_automation`; `create_board_task`, `list_board_tasks`, `update_board_task`, `delete_board_task`; `create_note`, `list_notes`, `search_notes`, `update_note`, `delete_note` |
| `onec` — база 1С «Торговля» | `odata_get`: GET к стандартному интерфейсу OData |
| `jira` — Jira компании | `api_get`: GET к REST API |
| `github` — репозиторий `acme/warehouse` | `api_get`: GET к REST API; содержимое файла приходит расшифрованным |
Двойники (`desk/onec.py`, `desk/jira.py`, `desk/github.py`) отвечают по правилам API, а не заготовленными строками:
неверный запрос получает такой же отказ, как у настоящей системы, остатки и обороты 1С считаются по движениям. Они те же,
на которых прогонялась Santify, и сверены с её двойниками запрос в запрос. `desk/answer.py` показывает ответ двойника
на адрес без сервера.
## Как идёт задача
- Материалы ложатся в рабочую папку по местам человека: «База знаний «…»» и «Мои файлы» с начала, «Вложения» — со своим
сообщением. Каждый файл сверяется с датасетом по SHA-256.
- К словам человека добавляется одна строка: где лежат материалы и что готовые файлы кладутся в рабочую папку. Других
подсказок нет.
- Сообщения одного разговора идут одной сессией агента (`--session-id`), другого — новой.
- Если агент спросил (ответ кончается вопросительным знаком, и ни один документ папки не появился и не изменился), ему
уходит ответ человека, не больше двух раз: заготовленный задачей (`reply_if_asked`), а после последнего сообщения, если
вопрос не верный исход задачи, общий «Других сведений у меня нет. Сделай по тому, что есть.».
- После задачи снимаются выданные файлы, хеши файлов человека, органайзер и действия агента; у подключённой системы к
действию приложена её выдача: судья сверяет с ней то, чего нет в материалах.
## Особенности
- **Linux.** `host.docker.internal` шлюз получает ключом `--add-host host.docker.internal:host-gateway`; модель на этой
же машине должна слушать не только 127.0.0.1, а 0.0.0.0 или адрес моста docker0. Контейнеры работают от root, и файлы
в `runs/` принадлежат root.
- **Windows.** Работает через Docker Desktop; команды те же (`python`, пути с прямой или обратной чертой).
- **Что не повторится байт в байт:** ответы модели (один прогон на задачу, без отбора лучшей попытки), базовый образ
`node:22-alpine` и пакеты Alpine при новой сборке. Версия агента закреплена: `@deepseek-ai/dsh@0.2.0-rc.2`.
- **Тесты:** `python -m unittest discover -s runners/dsh -p "test_*.py"` — двойники, протокол MCP, органайзер, разбор
событий агента (нужен Python с базой поясов: на Windows — пакет `tzdata`, иначе тесты органайзера не пройдут).