Download runners/dsh/README.md from synaptex/workpermit: direct link, hf CLI and curl.
- Browser
- Download file 13.7 kB
-
https://huggingface.co/datasets/synaptex/workpermit/resolve/main/runners/dsh/README.md
- Command line
-
hf download hf://datasets/synaptex/workpermit/runners/dsh/README.md
-
curl -L -o README.md https://huggingface.co/datasets/synaptex/workpermit/resolve/main/runners/dsh/README.md
Прогон агента DeepSeek Harness на WorkPermit
Здесь всё, что нужно для прогона агента DeepSeek Harness (dsh) по 120 задачам WorkPermit: образ агента, шлюз к модели, серверы MCP с двойниками подключённых систем, памятью и органайзером, прогонщик и проверка связки без модели. Нужен только датасет: кода сравниваемых систем не нужно. Прогон Santify отсюда не повторить: у неё нет открытого API.
Что нужно
- Docker: Docker Desktop (Windows, macOS) или Docker Engine 20.10+ (Linux).
- Python 3.10+, без сторонних пакетов.
- Выход в интернет только для сборки образа (Docker Hub, npm, PyPI); сам прогон идёт без сети, кроме модели.
- Модель на адресе, совместимом с OpenAI (
/v1/chat/completions), с вызовом инструментов (tool calling) и вводом изображений. У vLLM вызов инструментов включается ключом--enable-auto-tool-choiceс парсером вызовов своей модели (--tool-call-parser). Сервер вправе принимать одно изображение за запрос: шлюз оставляет в запросе одно, последнее. Сравнение идёт на Qwen3.8-27B (vLLM) с окном 64 000 токенов и пределом ответа 8 192.
Запуск
Команды даются из корня датасета.
Образ агента (DeepSeek Harness 0.2.0-rc.2 на Node 22, Python с python-docx, openpyxl, python-pptx, pypdf, poppler):
docker build -t workpermit-dsh:0.2.0-rc.2 runners/dshПроверка связки без модели: вместо модели отвечает заглушка, которая вызывает инструмент MCP и отвечает текстом. Печатает, какие инструменты MCP модель видела в запросе и что агент получил; код выхода 1 — связка не работает.
python runners/dsh/smoke.py . runsПрогон. Модель задаётся один раз переменными окружения, общими с судьёй (
eval/judge.py,eval/evaluate.py); ключ агенту приходит переменной окружения и нигде не записывается; без ключа агент получает ключ «none», который принимает сервер модели без ключа (пустой ключ агент не принимает и к модели не обращается).export WORKPERMIT_MODEL_URL=http://localhost:8000/v1 WORKPERMIT_MODEL=<модель> WORKPERMIT_MODEL_KEY=<ключ>python runners/dsh/run.py . runs --name <прогон>Ключ Что задаёт По умолчанию --base-urlадрес модели; localhostшлюз видит какhost.docker.internalWORKPERMIT_MODEL_URL--modelимя модели на сервере WORKPERMIT_MODEL--nameимя прогона, папка runs/<прогон>/dsh/; для сравнения то же, что у прогона другой системысегодняшняя дата --onlyзадачи по имени или номеру через запятую; 8— вся категориявсе 120 --againпрогнать заново задачи с готовой записью пропускать --context,--max-tokensокно модели и предел ответа за обращение 64 000 и 8 192 --turn-minutesсрок одного сообщения: страховка от зависания, а не мерило 90 --imageобраз агента workpermit-dsh:0.2.0-rc.2Задача с готовой записью пропускается, поэтому прерванный прогон продолжается той же командой, а прогон по частям (
--onlyпо категориям) — тем же--name:run.jsonдописывает задачи и хранит начало первого запуска. Запуск на другой модели или другом образе в ту же папку прогонщик отклоняет: для них нужен новый прогон.Оценка — одной командой
eval/evaluate.pyв контейнереeval/Dockerfile(раздел «Оценка» карточки датасета): проверки кода, судья на той же модели, отчёт.
Что получается
runs/<прогон>/dsh/run.json модель, образ, окно, время начала, перечень задач
runs/<прогон>/dsh/<задача>/
record.json запись прогона в формате оценки (описан в начале eval/checks.py)
files/ выданные файлы: новые документы рабочей папки и изменённые файлы человека
events.jsonl, stderr.txt журнал событий агента (--json) и его ошибки, по всем ходам
work/ рабочая папка агента: материалы задачи и всё, что он написал
home/ дом агента: его сессии
config/patch.yml накладка настроек агента этой задачи
desk/state.json, desk/calls.jsonl органайзер и память после задачи, журнал вызовов серверов MCP
desk.log журнал серверов MCP
Устройство
внутренняя сеть Docker «workpermit-offline» (без выхода наружу)
┌──────────────────────────────────────────────────────────────────────┐
│ агент dsh ── /work, /work-config, /work-home (папки задачи) │
│ │ модель │ инструменты MCP │
│ ▼ ▼ │
│ шлюз workpermit-model-gate серверы MCP workpermit-desk-… │
│ (gate.js, одно изображение) (desk/server.py, /state) │
└─────┼────────────────────────────────────────────────────────────────┘
▼ единственный выход наружу
модель (--base-url)
Агент работает в безголовом профиле
headlessкак есть: оболочка без подтверждения, чтение, запись и поиск файлов, подагенты, навыки из папок. Поиск в сети в профиле есть, но сети у агента нет. Накладкаconfig/patch.ymlменяет три вещи: модель (адрес шлюза, имя, окно, предел ответа, ввод изображений, рассуждение выключено), сжатие истории под малое окно (по умолчанию оно держит запас в 65 536 токенов и при окне 64 000 не срабатывает ни разу; здесь запас 4 096, порог 80 % окна) и серверы MCP (плагинdsh-mcp-client, новые записи строкойinsert).Шлюз пересылает запросы на один адрес модели и больше никуда; в запросе оставляет последнее изображение, прежние заменяет пометкой «прочитайте файл ещё раз».
Серверы MCP работают в своём контейнере той же сети: агент видит их инструменты, но не код двойников и не файл состояния. Память и органайзер подключены в каждой задаче, подключённая система — в задачах категории 8.
Сервер Инструменты memory— память о человеке, общая для всех разговоров задачиremember,recall,forgetorganizer— органайзер во времени человекаcurrent_time;create_reminder,list_reminders,delete_reminder;create_automation,list_automations,delete_automation;create_board_task,list_board_tasks,update_board_task,delete_board_task;create_note,list_notes,search_notes,update_note,delete_noteonec— база 1С «Торговля»odata_get: GET к стандартному интерфейсу ODatajira— Jira компанииapi_get: GET к REST APIgithub— репозиторийacme/warehouseapi_get: GET к REST API; содержимое файла приходит расшифрованнымДвойники (
desk/onec.py,desk/jira.py,desk/github.py) отвечают по правилам API, а не заготовленными строками: неверный запрос получает такой же отказ, как у настоящей системы, остатки и обороты 1С считаются по движениям. Они те же, на которых прогонялась Santify, и сверены с её двойниками запрос в запрос.desk/answer.pyпоказывает ответ двойника на адрес без сервера.
Как идёт задача
- Материалы ложатся в рабочую папку по местам человека: «База знаний «…»» и «Мои файлы» с начала, «Вложения» — со своим сообщением. Каждый файл сверяется с датасетом по SHA-256.
- К словам человека добавляется одна строка: где лежат материалы и что готовые файлы кладутся в рабочую папку. Других подсказок нет.
- Сообщения одного разговора идут одной сессией агента (
--session-id), другого — новой. - Если агент спросил (ответ кончается вопросительным знаком, и ни один документ папки не появился и не изменился), ему
уходит ответ человека, не больше двух раз: заготовленный задачей (
reply_if_asked), а после последнего сообщения, если вопрос не верный исход задачи, общий «Других сведений у меня нет. Сделай по тому, что есть.». - После задачи снимаются выданные файлы, хеши файлов человека, органайзер и действия агента; у подключённой системы к действию приложена её выдача: судья сверяет с ней то, чего нет в материалах.
Особенности
- Linux.
host.docker.internalшлюз получает ключом--add-host host.docker.internal:host-gateway; модель на этой же машине должна слушать не только 127.0.0.1, а 0.0.0.0 или адрес моста docker0. Контейнеры работают от root, и файлы вruns/принадлежат root. - Windows. Работает через Docker Desktop; команды те же (
python, пути с прямой или обратной чертой). - Что не повторится байт в байт: ответы модели (один прогон на задачу, без отбора лучшей попытки), базовый образ
node:22-alpineи пакеты Alpine при новой сборке. Версия агента закреплена:@deepseek-ai/dsh@0.2.0-rc.2. - Тесты:
python -m unittest discover -s runners/dsh -p "test_*.py"— двойники, протокол MCP, органайзер, разбор событий агента (нужен Python с базой поясов: на Windows — пакетtzdata, иначе тесты органайзера не пройдут).