"""Оценка прогона одной командой: проверки кода и судья по каждой системе в папке прогона, затем отчёт.

    python evaluate.py <tasks.jsonl> <папка прогона> [--systems santify,dsh] [--only <задача> …] [--rejudge]
                       [--base-url …] [--model …] [--api-key …]

Модель судьи без ключей берётся из окружения, как у judge.py: WORKPERMIT_MODEL_URL, WORKPERMIT_MODEL,
WORKPERMIT_MODEL_KEY (общие с прогонщиком DeepSeek Harness) или свои у судьи JUDGE_BASE_URL, JUDGE_MODEL, JUDGE_API_KEY.

- Проверки кода идут по всем задачам с записью: они без модели и быстрые, а запись могла смениться после прогона заново.
- Судья судит задачи без вердикта и задачи с вердиктом прежней методики; ``--rejudge`` пересуживает все выбранные.
- Отчёт (report.json и report.md) считается по всей папке прогона последним. Если у какой-то задачи остался вердикт
  прежней методики (например, выбраны не все задачи через ``--only``), отчёт не считается и задачи называются.

В контейнере оценки, где есть LibreOffice для книг Excel без посчитанных значений:

    docker run --rm -v $PWD/dataset:/dataset -v $PWD/runs:/runs -e WORKPERMIT_MODEL_URL -e WORKPERMIT_MODEL \\
        -e WORKPERMIT_MODEL_KEY workpermit-eval evaluate.py /dataset/data/tasks.jsonl /runs/<прогон>
"""

from __future__ import annotations

import argparse
import json
import sys
from pathlib import Path

sys.path.insert(0, str(Path(__file__).parent))
import checks  # noqa: E402
import judge  # noqa: E402
import report  # noqa: E402


def to_judge(system_dir: Path, tasks: set[str], only: list[str] | None, rejudge: bool) -> list[str]:
    """Задачи системы, которые судья должен судить: с записью, запущенные, выбранные, без вердикта нынешней методики
    (или все при ``rejudge``)."""
    chosen = []
    for task_dir in sorted(p for p in system_dir.iterdir() if p.is_dir()):
        record = task_dir / "record.json"
        if task_dir.name not in tasks or not record.exists() or (only is not None and task_dir.name not in only):
            continue
        if json.loads(record.read_text(encoding="utf-8")).get("status") == "not_run":
            continue
        verdict = task_dir / "judge.json"
        if rejudge or not verdict.exists() or report.judge_outdated(json.loads(verdict.read_text(encoding="utf-8"))):
            chosen.append(task_dir.name)
    return chosen


def outdated(run: Path, systems: list[str], tasks: set[str]) -> list[str]:
    """Задачи прогона, у которых вердикт судьи прежней методики: по ним отчёт не считается."""
    found = []
    for system in systems:
        for verdict in sorted((run / system).glob("*/judge.json")):
            if verdict.parent.name in tasks and report.judge_outdated(json.loads(verdict.read_text(encoding="utf-8"))):
                found.append(f"{system}/{verdict.parent.name}")
    return found


def main(argv: list[str]) -> int:
    parser = argparse.ArgumentParser(description=__doc__, formatter_class=argparse.RawDescriptionHelpFormatter)
    parser.add_argument("tasks")
    parser.add_argument("run")
    parser.add_argument("--systems", help="системы через запятую; по умолчанию все папки прогона")
    parser.add_argument("--only", nargs="+", help="имена задач для судьи; проверки кода идут по всем")
    parser.add_argument("--rejudge", action="store_true", help="пересудить и задачи с вердиктом нынешней методики")
    judge.add_connection_arguments(parser)
    args = parser.parse_args(argv[1:])

    run = Path(args.run)
    tasks = {json.loads(line)["id"] for line in Path(args.tasks).read_text(encoding="utf-8").splitlines() if line.strip()}
    systems = args.systems.split(",") if args.systems else sorted(p.name for p in run.iterdir() if p.is_dir())
    missing = [s for s in systems if not (run / s).is_dir()]
    if missing:
        parser.error(f"в папке прогона нет систем: {', '.join(missing)}")
    plan = {system: to_judge(run / system, tasks, args.only, args.rejudge) for system in systems}
    if any(plan.values()):
        judge.check_connection(parser, args)

    failed = False
    for system in systems:
        print(f"== {system}: проверки кода")
        checks.main(["checks.py", args.tasks, str(run / system)])
        if plan[system]:
            print(f"== {system}: судья, задач {len(plan[system])}")
            connection = ["--base-url", args.base_url, "--model", args.model, "--api-key", args.api_key]
            failed |= judge.main(["judge.py", args.tasks, str(run / system), *connection, "--only", *plan[system]]) != 0
        else:
            print(f"== {system}: судить нечего, у всех задач вердикт нынешней методики")

    # Отчёт идёт по всем системам папки прогона, и выбранным, и прочим: вердикт прежней методики у любой его остановил бы.
    left = outdated(run, sorted(p.name for p in run.iterdir() if p.is_dir()), tasks)
    if left:
        print(f"отчёт не посчитан: у задач ({len(left)}) вердикт прежней методики: {', '.join(left[:10])}"
              f"{', …' if len(left) > 10 else ''}; запустите evaluate.py по ним или без --only")
        return 1
    print("== отчёт")
    report.main(["report.py", args.tasks, str(run)])
    return 1 if failed else 0


if __name__ == "__main__":
    sys.exit(main(sys.argv))