Методика оценки: судья по эталону мерит точность, полноту и галлюцинации, Q = 100 × (0,4·Т + 0,4·П + 0,2·Г); прогонщик DeepSeek Harness и тесты оценки
67df8f6 verified Download runners/dsh/desk/answer.py from synaptex/workpermit: direct link, hf CLI and curl.
- Browser
- Download file 1.16 kB
-
https://huggingface.co/datasets/synaptex/workpermit/resolve/main/runners/dsh/desk/answer.py
- Command line
-
hf download hf://datasets/synaptex/workpermit/runners/dsh/desk/answer.py
-
curl -L -o answer.py https://huggingface.co/datasets/synaptex/workpermit/resolve/main/runners/dsh/desk/answer.py
1.16 kB
| """Ответы двойников на адреса запросов, без сервера: по ним двойники сверяются с теми, на которых прогонялась другая | |
| система, и по ним удобно разбирать, что агент получил. | |
| python answer.py < [["onec", "http://base/trade/odata/standard.odata/Catalog_Склады"], ["jira", "…"], ["github", "…"]] | |
| Выход — JSON-список ``[код, тело]`` в том же порядке. | |
| """ | |
| from __future__ import annotations | |
| import json | |
| import sys | |
| from pathlib import Path | |
| sys.path.insert(0, str(Path(__file__).parent)) | |
| import github # noqa: E402 | |
| import jira # noqa: E402 | |
| import onec # noqa: E402 | |
| def main() -> int: | |
| twins = {"onec": onec.OneCBase().answer, "jira": jira.answer, "github": github.Repository().answer} | |
| requests = json.loads(sys.stdin.buffer.read().decode("utf-8")) | |
| answers = [list(twins[system](url)[::2]) for system, url in requests] | |
| sys.stdout.buffer.write(json.dumps(answers, ensure_ascii=False).encode("utf-8")) | |
| return 0 | |
| if __name__ == "__main__": | |
| sys.exit(main()) | |