# Прогон агента DeepSeek Harness на WorkPermit Здесь всё, что нужно для прогона агента DeepSeek Harness (dsh) по 120 задачам WorkPermit: образ агента, шлюз к модели, серверы MCP с двойниками подключённых систем, памятью и органайзером, прогонщик и проверка связки без модели. Нужен только датасет: кода сравниваемых систем не нужно. Прогон Santify отсюда не повторить: у неё нет открытого API. ## Что нужно - Docker: Docker Desktop (Windows, macOS) или Docker Engine 20.10+ (Linux). - Python 3.10+, без сторонних пакетов. - Выход в интернет только для сборки образа (Docker Hub, npm, PyPI); сам прогон идёт без сети, кроме модели. - Модель на адресе, совместимом с OpenAI (`/v1/chat/completions`), с вызовом инструментов (tool calling) и вводом изображений. У vLLM вызов инструментов включается ключом `--enable-auto-tool-choice` с парсером вызовов своей модели (`--tool-call-parser`). Сервер вправе принимать одно изображение за запрос: шлюз оставляет в запросе одно, последнее. Сравнение идёт на Qwen3.8-27B (vLLM) с окном 64 000 токенов и пределом ответа 8 192. ## Запуск Команды даются из корня датасета. 1. Образ агента (DeepSeek Harness 0.2.0-rc.2 на Node 22, Python с python-docx, openpyxl, python-pptx, pypdf, poppler): ```bash docker build -t workpermit-dsh:0.2.0-rc.2 runners/dsh ``` 2. Проверка связки без модели: вместо модели отвечает заглушка, которая вызывает инструмент MCP и отвечает текстом. Печатает, какие инструменты MCP модель видела в запросе и что агент получил; код выхода 1 — связка не работает. ```bash python runners/dsh/smoke.py . runs ``` 3. Прогон. Модель задаётся один раз переменными окружения, общими с судьёй (`eval/judge.py`, `eval/evaluate.py`); ключ агенту приходит переменной окружения и нигде не записывается; без ключа агент получает ключ «none», который принимает сервер модели без ключа (пустой ключ агент не принимает и к модели не обращается). ```bash export WORKPERMIT_MODEL_URL=http://localhost:8000/v1 WORKPERMIT_MODEL=<модель> WORKPERMIT_MODEL_KEY=<ключ> ``` ```bash python runners/dsh/run.py . runs --name <прогон> ``` | Ключ | Что задаёт | По умолчанию | |---|---|---| | `--base-url` | адрес модели; `localhost` шлюз видит как `host.docker.internal` | `WORKPERMIT_MODEL_URL` | | `--model` | имя модели на сервере | `WORKPERMIT_MODEL` | | `--name` | имя прогона, папка `runs/<прогон>/dsh/`; для сравнения то же, что у прогона другой системы | сегодняшняя дата | | `--only` | задачи по имени или номеру через запятую; `8` — вся категория | все 120 | | `--again` | прогнать заново задачи с готовой записью | пропускать | | `--context`, `--max-tokens` | окно модели и предел ответа за обращение | 64 000 и 8 192 | | `--turn-minutes` | срок одного сообщения: страховка от зависания, а не мерило | 90 | | `--image` | образ агента | `workpermit-dsh:0.2.0-rc.2` | Задача с готовой записью пропускается, поэтому прерванный прогон продолжается той же командой, а прогон по частям (`--only` по категориям) — тем же `--name`: `run.json` дописывает задачи и хранит начало первого запуска. Запуск на другой модели или другом образе в ту же папку прогонщик отклоняет: для них нужен новый прогон. 4. Оценка — одной командой `eval/evaluate.py` в контейнере `eval/Dockerfile` (раздел «Оценка» карточки датасета): проверки кода, судья на той же модели, отчёт. ## Что получается ``` runs/<прогон>/dsh/run.json модель, образ, окно, время начала, перечень задач runs/<прогон>/dsh/<задача>/ record.json запись прогона в формате оценки (описан в начале eval/checks.py) files/ выданные файлы: новые документы рабочей папки и изменённые файлы человека events.jsonl, stderr.txt журнал событий агента (--json) и его ошибки, по всем ходам work/ рабочая папка агента: материалы задачи и всё, что он написал home/ дом агента: его сессии config/patch.yml накладка настроек агента этой задачи desk/state.json, desk/calls.jsonl органайзер и память после задачи, журнал вызовов серверов MCP desk.log журнал серверов MCP ``` ## Устройство ``` внутренняя сеть Docker «workpermit-offline» (без выхода наружу) ┌──────────────────────────────────────────────────────────────────────┐ │ агент dsh ── /work, /work-config, /work-home (папки задачи) │ │ │ модель │ инструменты MCP │ │ ▼ ▼ │ │ шлюз workpermit-model-gate серверы MCP workpermit-desk-… │ │ (gate.js, одно изображение) (desk/server.py, /state) │ └─────┼────────────────────────────────────────────────────────────────┘ ▼ единственный выход наружу модель (--base-url) ``` - **Агент** работает в безголовом профиле `headless` как есть: оболочка без подтверждения, чтение, запись и поиск файлов, подагенты, навыки из папок. Поиск в сети в профиле есть, но сети у агента нет. Накладка `config/patch.yml` меняет три вещи: модель (адрес шлюза, имя, окно, предел ответа, ввод изображений, рассуждение выключено), сжатие истории под малое окно (по умолчанию оно держит запас в 65 536 токенов и при окне 64 000 не срабатывает ни разу; здесь запас 4 096, порог 80 % окна) и серверы MCP (плагин `dsh-mcp-client`, новые записи строкой `insert`). - **Шлюз** пересылает запросы на один адрес модели и больше никуда; в запросе оставляет последнее изображение, прежние заменяет пометкой «прочитайте файл ещё раз». - **Серверы MCP** работают в своём контейнере той же сети: агент видит их инструменты, но не код двойников и не файл состояния. Память и органайзер подключены в каждой задаче, подключённая система — в задачах категории 8. | Сервер | Инструменты | |---|---| | `memory` — память о человеке, общая для всех разговоров задачи | `remember`, `recall`, `forget` | | `organizer` — органайзер во времени человека | `current_time`; `create_reminder`, `list_reminders`, `delete_reminder`; `create_automation`, `list_automations`, `delete_automation`; `create_board_task`, `list_board_tasks`, `update_board_task`, `delete_board_task`; `create_note`, `list_notes`, `search_notes`, `update_note`, `delete_note` | | `onec` — база 1С «Торговля» | `odata_get`: GET к стандартному интерфейсу OData | | `jira` — Jira компании | `api_get`: GET к REST API | | `github` — репозиторий `acme/warehouse` | `api_get`: GET к REST API; содержимое файла приходит расшифрованным | Двойники (`desk/onec.py`, `desk/jira.py`, `desk/github.py`) отвечают по правилам API, а не заготовленными строками: неверный запрос получает такой же отказ, как у настоящей системы, остатки и обороты 1С считаются по движениям. Они те же, на которых прогонялась Santify, и сверены с её двойниками запрос в запрос. `desk/answer.py` показывает ответ двойника на адрес без сервера. ## Как идёт задача - Материалы ложатся в рабочую папку по местам человека: «База знаний «…»» и «Мои файлы» с начала, «Вложения» — со своим сообщением. Каждый файл сверяется с датасетом по SHA-256. - К словам человека добавляется одна строка: где лежат материалы и что готовые файлы кладутся в рабочую папку. Других подсказок нет. - Сообщения одного разговора идут одной сессией агента (`--session-id`), другого — новой. - Если агент спросил (ответ кончается вопросительным знаком, и ни один документ папки не появился и не изменился), ему уходит ответ человека, не больше двух раз: заготовленный задачей (`reply_if_asked`), а после последнего сообщения, если вопрос не верный исход задачи, общий «Других сведений у меня нет. Сделай по тому, что есть.». - После задачи снимаются выданные файлы, хеши файлов человека, органайзер и действия агента; у подключённой системы к действию приложена её выдача: судья сверяет с ней то, чего нет в материалах. ## Особенности - **Linux.** `host.docker.internal` шлюз получает ключом `--add-host host.docker.internal:host-gateway`; модель на этой же машине должна слушать не только 127.0.0.1, а 0.0.0.0 или адрес моста docker0. Контейнеры работают от root, и файлы в `runs/` принадлежат root. - **Windows.** Работает через Docker Desktop; команды те же (`python`, пути с прямой или обратной чертой). - **Что не повторится байт в байт:** ответы модели (один прогон на задачу, без отбора лучшей попытки), базовый образ `node:22-alpine` и пакеты Alpine при новой сборке. Версия агента закреплена: `@deepseek-ai/dsh@0.2.0-rc.2`. - **Тесты:** `python -m unittest discover -s runners/dsh -p "test_*.py"` — двойники, протокол MCP, органайзер, разбор событий агента (нужен Python с базой поясов: на Windows — пакет `tzdata`, иначе тесты органайзера не пройдут).