| # Оценка прогонов бенчмарка: проверки кодом, судья и отчёт в одной среде для любой системы. | |
| # | |
| # Выданные файлы читаются здесь одними и теми же библиотеками Python, а книги Excel, где у формул нет посчитанных | |
| # значений, пересчитываются LibreOffice так, как их пересчитал бы Excel у человека (extract.py). Судья обращается к | |
| # модели по OpenAI-совместимому адресу из параметров judge.py; ключ передаётся параметром --api-key. | |
| # | |
| # docker build -t workpermit-eval eval | |
| # docker run --rm -v <датасет>:/dataset -v <прогоны>:/runs workpermit-eval checks.py /dataset/data/tasks.jsonl /runs/<прогон>/<система> | |
| FROM python:3.12-slim-bookworm | |
| RUN apt-get update \ | |
| && apt-get install -y --no-install-recommends libreoffice-calc-nogui \ | |
| && rm -rf /var/lib/apt/lists/* | |
| COPY requirements.txt /eval/requirements.txt | |
| RUN pip install --no-cache-dir -r /eval/requirements.txt | |
| COPY *.py /eval/ | |
| WORKDIR /eval | |
| ENV PYTHONUTF8=1 | |
| ENTRYPOINT ["python"] | |