workpermit / runners /dsh /README.md
synaptex-community's picture
Оценка прогона одной командой (eval/evaluate.py), модель из переменных WORKPERMIT_MODEL_*, прогон по частям в одном run.json, ключ «none» для агента без ключа, округление Q как на сайте
399470c verified
|
Raw History Blame Contribute Delete
13.7 kB

Прогон агента DeepSeek Harness на WorkPermit

Здесь всё, что нужно для прогона агента DeepSeek Harness (dsh) по 120 задачам WorkPermit: образ агента, шлюз к модели, серверы MCP с двойниками подключённых систем, памятью и органайзером, прогонщик и проверка связки без модели. Нужен только датасет: кода сравниваемых систем не нужно. Прогон Santify отсюда не повторить: у неё нет открытого API.

Что нужно

  • Docker: Docker Desktop (Windows, macOS) или Docker Engine 20.10+ (Linux).
  • Python 3.10+, без сторонних пакетов.
  • Выход в интернет только для сборки образа (Docker Hub, npm, PyPI); сам прогон идёт без сети, кроме модели.
  • Модель на адресе, совместимом с OpenAI (/v1/chat/completions), с вызовом инструментов (tool calling) и вводом изображений. У vLLM вызов инструментов включается ключом --enable-auto-tool-choice с парсером вызовов своей модели (--tool-call-parser). Сервер вправе принимать одно изображение за запрос: шлюз оставляет в запросе одно, последнее. Сравнение идёт на Qwen3.8-27B (vLLM) с окном 64 000 токенов и пределом ответа 8 192.

Запуск

Команды даются из корня датасета.

  1. Образ агента (DeepSeek Harness 0.2.0-rc.2 на Node 22, Python с python-docx, openpyxl, python-pptx, pypdf, poppler):

    docker build -t workpermit-dsh:0.2.0-rc.2 runners/dsh
    
  2. Проверка связки без модели: вместо модели отвечает заглушка, которая вызывает инструмент MCP и отвечает текстом. Печатает, какие инструменты MCP модель видела в запросе и что агент получил; код выхода 1 — связка не работает.

    python runners/dsh/smoke.py . runs
    
  3. Прогон. Модель задаётся один раз переменными окружения, общими с судьёй (eval/judge.py, eval/evaluate.py); ключ агенту приходит переменной окружения и нигде не записывается; без ключа агент получает ключ «none», который принимает сервер модели без ключа (пустой ключ агент не принимает и к модели не обращается).

    export WORKPERMIT_MODEL_URL=http://localhost:8000/v1 WORKPERMIT_MODEL=<модель> WORKPERMIT_MODEL_KEY=<ключ>
    
    python runners/dsh/run.py . runs --name <прогон>
    
    Ключ Что задаёт По умолчанию
    --base-url адрес модели; localhost шлюз видит как host.docker.internal WORKPERMIT_MODEL_URL
    --model имя модели на сервере WORKPERMIT_MODEL
    --name имя прогона, папка runs/<прогон>/dsh/; для сравнения то же, что у прогона другой системы сегодняшняя дата
    --only задачи по имени или номеру через запятую; 8 — вся категория все 120
    --again прогнать заново задачи с готовой записью пропускать
    --context, --max-tokens окно модели и предел ответа за обращение 64 000 и 8 192
    --turn-minutes срок одного сообщения: страховка от зависания, а не мерило 90
    --image образ агента workpermit-dsh:0.2.0-rc.2

    Задача с готовой записью пропускается, поэтому прерванный прогон продолжается той же командой, а прогон по частям (--only по категориям) — тем же --name: run.json дописывает задачи и хранит начало первого запуска. Запуск на другой модели или другом образе в ту же папку прогонщик отклоняет: для них нужен новый прогон.

  4. Оценка — одной командой eval/evaluate.py в контейнере eval/Dockerfile (раздел «Оценка» карточки датасета): проверки кода, судья на той же модели, отчёт.

Что получается

runs/<прогон>/dsh/run.json            модель, образ, окно, время начала, перечень задач
runs/<прогон>/dsh/<задача>/
  record.json                         запись прогона в формате оценки (описан в начале eval/checks.py)
  files/                              выданные файлы: новые документы рабочей папки и изменённые файлы человека
  events.jsonl, stderr.txt            журнал событий агента (--json) и его ошибки, по всем ходам
  work/                               рабочая папка агента: материалы задачи и всё, что он написал
  home/                               дом агента: его сессии
  config/patch.yml                    накладка настроек агента этой задачи
  desk/state.json, desk/calls.jsonl   органайзер и память после задачи, журнал вызовов серверов MCP
  desk.log                            журнал серверов MCP

Устройство

        внутренняя сеть Docker «workpermit-offline» (без выхода наружу)
 ┌──────────────────────────────────────────────────────────────────────┐
 │  агент dsh  ── /work, /work-config, /work-home (папки задачи)        │
 │     │  модель                            │  инструменты MCP           │
 │     ▼                                    ▼                            │
 │  шлюз workpermit-model-gate          серверы MCP workpermit-desk-…    │
 │  (gate.js, одно изображение)          (desk/server.py, /state)        │
 └─────┼────────────────────────────────────────────────────────────────┘
       ▼  единственный выход наружу
     модель (--base-url)
  • Агент работает в безголовом профиле headless как есть: оболочка без подтверждения, чтение, запись и поиск файлов, подагенты, навыки из папок. Поиск в сети в профиле есть, но сети у агента нет. Накладка config/patch.yml меняет три вещи: модель (адрес шлюза, имя, окно, предел ответа, ввод изображений, рассуждение выключено), сжатие истории под малое окно (по умолчанию оно держит запас в 65 536 токенов и при окне 64 000 не срабатывает ни разу; здесь запас 4 096, порог 80 % окна) и серверы MCP (плагин dsh-mcp-client, новые записи строкой insert).

  • Шлюз пересылает запросы на один адрес модели и больше никуда; в запросе оставляет последнее изображение, прежние заменяет пометкой «прочитайте файл ещё раз».

  • Серверы MCP работают в своём контейнере той же сети: агент видит их инструменты, но не код двойников и не файл состояния. Память и органайзер подключены в каждой задаче, подключённая система — в задачах категории 8.

    Сервер Инструменты
    memory — память о человеке, общая для всех разговоров задачи remember, recall, forget
    organizer — органайзер во времени человека current_time; create_reminder, list_reminders, delete_reminder; create_automation, list_automations, delete_automation; create_board_task, list_board_tasks, update_board_task, delete_board_task; create_note, list_notes, search_notes, update_note, delete_note
    onec — база 1С «Торговля» odata_get: GET к стандартному интерфейсу OData
    jira — Jira компании api_get: GET к REST API
    github — репозиторий acme/warehouse api_get: GET к REST API; содержимое файла приходит расшифрованным

    Двойники (desk/onec.py, desk/jira.py, desk/github.py) отвечают по правилам API, а не заготовленными строками: неверный запрос получает такой же отказ, как у настоящей системы, остатки и обороты 1С считаются по движениям. Они те же, на которых прогонялась Santify, и сверены с её двойниками запрос в запрос. desk/answer.py показывает ответ двойника на адрес без сервера.

Как идёт задача

  • Материалы ложатся в рабочую папку по местам человека: «База знаний «…»» и «Мои файлы» с начала, «Вложения» — со своим сообщением. Каждый файл сверяется с датасетом по SHA-256.
  • К словам человека добавляется одна строка: где лежат материалы и что готовые файлы кладутся в рабочую папку. Других подсказок нет.
  • Сообщения одного разговора идут одной сессией агента (--session-id), другого — новой.
  • Если агент спросил (ответ кончается вопросительным знаком, и ни один документ папки не появился и не изменился), ему уходит ответ человека, не больше двух раз: заготовленный задачей (reply_if_asked), а после последнего сообщения, если вопрос не верный исход задачи, общий «Других сведений у меня нет. Сделай по тому, что есть.».
  • После задачи снимаются выданные файлы, хеши файлов человека, органайзер и действия агента; у подключённой системы к действию приложена её выдача: судья сверяет с ней то, чего нет в материалах.

Особенности

  • Linux. host.docker.internal шлюз получает ключом --add-host host.docker.internal:host-gateway; модель на этой же машине должна слушать не только 127.0.0.1, а 0.0.0.0 или адрес моста docker0. Контейнеры работают от root, и файлы в runs/ принадлежат root.
  • Windows. Работает через Docker Desktop; команды те же (python, пути с прямой или обратной чертой).
  • Что не повторится байт в байт: ответы модели (один прогон на задачу, без отбора лучшей попытки), базовый образ node:22-alpine и пакеты Alpine при новой сборке. Версия агента закреплена: @deepseek-ai/dsh@0.2.0-rc.2.
  • Тесты: python -m unittest discover -s runners/dsh -p "test_*.py" — двойники, протокол MCP, органайзер, разбор событий агента (нужен Python с базой поясов: на Windows — пакет tzdata, иначе тесты органайзера не пройдут).