Оценка прогона одной командой (eval/evaluate.py), модель из переменных WORKPERMIT_MODEL_*, прогон по частям в одном run.json, ключ «none» для агента без ключа, округление Q как на сайте
399470c verified | """Оценка прогона одной командой: проверки кода и судья по каждой системе в папке прогона, затем отчёт. | |
| python evaluate.py <tasks.jsonl> <папка прогона> [--systems santify,dsh] [--only <задача> …] [--rejudge] | |
| [--base-url …] [--model …] [--api-key …] | |
| Модель судьи без ключей берётся из окружения, как у judge.py: WORKPERMIT_MODEL_URL, WORKPERMIT_MODEL, | |
| WORKPERMIT_MODEL_KEY (общие с прогонщиком DeepSeek Harness) или свои у судьи JUDGE_BASE_URL, JUDGE_MODEL, JUDGE_API_KEY. | |
| - Проверки кода идут по всем задачам с записью: они без модели и быстрые, а запись могла смениться после прогона заново. | |
| - Судья судит задачи без вердикта и задачи с вердиктом прежней методики; ``--rejudge`` пересуживает все выбранные. | |
| - Отчёт (report.json и report.md) считается по всей папке прогона последним. Если у какой-то задачи остался вердикт | |
| прежней методики (например, выбраны не все задачи через ``--only``), отчёт не считается и задачи называются. | |
| В контейнере оценки, где есть LibreOffice для книг Excel без посчитанных значений: | |
| docker run --rm -v $PWD/dataset:/dataset -v $PWD/runs:/runs -e WORKPERMIT_MODEL_URL -e WORKPERMIT_MODEL \\ | |
| -e WORKPERMIT_MODEL_KEY workpermit-eval evaluate.py /dataset/data/tasks.jsonl /runs/<прогон> | |
| """ | |
| from __future__ import annotations | |
| import argparse | |
| import json | |
| import sys | |
| from pathlib import Path | |
| sys.path.insert(0, str(Path(__file__).parent)) | |
| import checks # noqa: E402 | |
| import judge # noqa: E402 | |
| import report # noqa: E402 | |
| def to_judge(system_dir: Path, tasks: set[str], only: list[str] | None, rejudge: bool) -> list[str]: | |
| """Задачи системы, которые судья должен судить: с записью, запущенные, выбранные, без вердикта нынешней методики | |
| (или все при ``rejudge``).""" | |
| chosen = [] | |
| for task_dir in sorted(p for p in system_dir.iterdir() if p.is_dir()): | |
| record = task_dir / "record.json" | |
| if task_dir.name not in tasks or not record.exists() or (only is not None and task_dir.name not in only): | |
| continue | |
| if json.loads(record.read_text(encoding="utf-8")).get("status") == "not_run": | |
| continue | |
| verdict = task_dir / "judge.json" | |
| if rejudge or not verdict.exists() or report.judge_outdated(json.loads(verdict.read_text(encoding="utf-8"))): | |
| chosen.append(task_dir.name) | |
| return chosen | |
| def outdated(run: Path, systems: list[str], tasks: set[str]) -> list[str]: | |
| """Задачи прогона, у которых вердикт судьи прежней методики: по ним отчёт не считается.""" | |
| found = [] | |
| for system in systems: | |
| for verdict in sorted((run / system).glob("*/judge.json")): | |
| if verdict.parent.name in tasks and report.judge_outdated(json.loads(verdict.read_text(encoding="utf-8"))): | |
| found.append(f"{system}/{verdict.parent.name}") | |
| return found | |
| def main(argv: list[str]) -> int: | |
| parser = argparse.ArgumentParser(description=__doc__, formatter_class=argparse.RawDescriptionHelpFormatter) | |
| parser.add_argument("tasks") | |
| parser.add_argument("run") | |
| parser.add_argument("--systems", help="системы через запятую; по умолчанию все папки прогона") | |
| parser.add_argument("--only", nargs="+", help="имена задач для судьи; проверки кода идут по всем") | |
| parser.add_argument("--rejudge", action="store_true", help="пересудить и задачи с вердиктом нынешней методики") | |
| judge.add_connection_arguments(parser) | |
| args = parser.parse_args(argv[1:]) | |
| run = Path(args.run) | |
| tasks = {json.loads(line)["id"] for line in Path(args.tasks).read_text(encoding="utf-8").splitlines() if line.strip()} | |
| systems = args.systems.split(",") if args.systems else sorted(p.name for p in run.iterdir() if p.is_dir()) | |
| missing = [s for s in systems if not (run / s).is_dir()] | |
| if missing: | |
| parser.error(f"в папке прогона нет систем: {', '.join(missing)}") | |
| plan = {system: to_judge(run / system, tasks, args.only, args.rejudge) for system in systems} | |
| if any(plan.values()): | |
| judge.check_connection(parser, args) | |
| failed = False | |
| for system in systems: | |
| print(f"== {system}: проверки кода") | |
| checks.main(["checks.py", args.tasks, str(run / system)]) | |
| if plan[system]: | |
| print(f"== {system}: судья, задач {len(plan[system])}") | |
| connection = ["--base-url", args.base_url, "--model", args.model, "--api-key", args.api_key] | |
| failed |= judge.main(["judge.py", args.tasks, str(run / system), *connection, "--only", *plan[system]]) != 0 | |
| else: | |
| print(f"== {system}: судить нечего, у всех задач вердикт нынешней методики") | |
| # Отчёт идёт по всем системам папки прогона, и выбранным, и прочим: вердикт прежней методики у любой его остановил бы. | |
| left = outdated(run, sorted(p.name for p in run.iterdir() if p.is_dir()), tasks) | |
| if left: | |
| print(f"отчёт не посчитан: у задач ({len(left)}) вердикт прежней методики: {', '.join(left[:10])}" | |
| f"{', …' if len(left) > 10 else ''}; запустите evaluate.py по ним или без --only") | |
| return 1 | |
| print("== отчёт") | |
| report.main(["report.py", args.tasks, str(run)]) | |
| return 1 if failed else 0 | |
| if __name__ == "__main__": | |
| sys.exit(main(sys.argv)) | |