File size: 6,330 Bytes
399470c | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 | """Оценка прогона одной командой: проверки кода и судья по каждой системе в папке прогона, затем отчёт.
python evaluate.py <tasks.jsonl> <папка прогона> [--systems santify,dsh] [--only <задача> …] [--rejudge]
[--base-url …] [--model …] [--api-key …]
Модель судьи без ключей берётся из окружения, как у judge.py: WORKPERMIT_MODEL_URL, WORKPERMIT_MODEL,
WORKPERMIT_MODEL_KEY (общие с прогонщиком DeepSeek Harness) или свои у судьи JUDGE_BASE_URL, JUDGE_MODEL, JUDGE_API_KEY.
- Проверки кода идут по всем задачам с записью: они без модели и быстрые, а запись могла смениться после прогона заново.
- Судья судит задачи без вердикта и задачи с вердиктом прежней методики; ``--rejudge`` пересуживает все выбранные.
- Отчёт (report.json и report.md) считается по всей папке прогона последним. Если у какой-то задачи остался вердикт
прежней методики (например, выбраны не все задачи через ``--only``), отчёт не считается и задачи называются.
В контейнере оценки, где есть LibreOffice для книг Excel без посчитанных значений:
docker run --rm -v $PWD/dataset:/dataset -v $PWD/runs:/runs -e WORKPERMIT_MODEL_URL -e WORKPERMIT_MODEL \\
-e WORKPERMIT_MODEL_KEY workpermit-eval evaluate.py /dataset/data/tasks.jsonl /runs/<прогон>
"""
from __future__ import annotations
import argparse
import json
import sys
from pathlib import Path
sys.path.insert(0, str(Path(__file__).parent))
import checks # noqa: E402
import judge # noqa: E402
import report # noqa: E402
def to_judge(system_dir: Path, tasks: set[str], only: list[str] | None, rejudge: bool) -> list[str]:
"""Задачи системы, которые судья должен судить: с записью, запущенные, выбранные, без вердикта нынешней методики
(или все при ``rejudge``)."""
chosen = []
for task_dir in sorted(p for p in system_dir.iterdir() if p.is_dir()):
record = task_dir / "record.json"
if task_dir.name not in tasks or not record.exists() or (only is not None and task_dir.name not in only):
continue
if json.loads(record.read_text(encoding="utf-8")).get("status") == "not_run":
continue
verdict = task_dir / "judge.json"
if rejudge or not verdict.exists() or report.judge_outdated(json.loads(verdict.read_text(encoding="utf-8"))):
chosen.append(task_dir.name)
return chosen
def outdated(run: Path, systems: list[str], tasks: set[str]) -> list[str]:
"""Задачи прогона, у которых вердикт судьи прежней методики: по ним отчёт не считается."""
found = []
for system in systems:
for verdict in sorted((run / system).glob("*/judge.json")):
if verdict.parent.name in tasks and report.judge_outdated(json.loads(verdict.read_text(encoding="utf-8"))):
found.append(f"{system}/{verdict.parent.name}")
return found
def main(argv: list[str]) -> int:
parser = argparse.ArgumentParser(description=__doc__, formatter_class=argparse.RawDescriptionHelpFormatter)
parser.add_argument("tasks")
parser.add_argument("run")
parser.add_argument("--systems", help="системы через запятую; по умолчанию все папки прогона")
parser.add_argument("--only", nargs="+", help="имена задач для судьи; проверки кода идут по всем")
parser.add_argument("--rejudge", action="store_true", help="пересудить и задачи с вердиктом нынешней методики")
judge.add_connection_arguments(parser)
args = parser.parse_args(argv[1:])
run = Path(args.run)
tasks = {json.loads(line)["id"] for line in Path(args.tasks).read_text(encoding="utf-8").splitlines() if line.strip()}
systems = args.systems.split(",") if args.systems else sorted(p.name for p in run.iterdir() if p.is_dir())
missing = [s for s in systems if not (run / s).is_dir()]
if missing:
parser.error(f"в папке прогона нет систем: {', '.join(missing)}")
plan = {system: to_judge(run / system, tasks, args.only, args.rejudge) for system in systems}
if any(plan.values()):
judge.check_connection(parser, args)
failed = False
for system in systems:
print(f"== {system}: проверки кода")
checks.main(["checks.py", args.tasks, str(run / system)])
if plan[system]:
print(f"== {system}: судья, задач {len(plan[system])}")
connection = ["--base-url", args.base_url, "--model", args.model, "--api-key", args.api_key]
failed |= judge.main(["judge.py", args.tasks, str(run / system), *connection, "--only", *plan[system]]) != 0
else:
print(f"== {system}: судить нечего, у всех задач вердикт нынешней методики")
# Отчёт идёт по всем системам папки прогона, и выбранным, и прочим: вердикт прежней методики у любой его остановил бы.
left = outdated(run, sorted(p.name for p in run.iterdir() if p.is_dir()), tasks)
if left:
print(f"отчёт не посчитан: у задач ({len(left)}) вердикт прежней методики: {', '.join(left[:10])}"
f"{', …' if len(left) > 10 else ''}; запустите evaluate.py по ним или без --only")
return 1
print("== отчёт")
report.main(["report.py", args.tasks, str(run)])
return 1 if failed else 0
if __name__ == "__main__":
sys.exit(main(sys.argv))
|