Методика оценки: судья по эталону мерит точность, полноту и галлюцинации, Q = 100 × (0,4·Т + 0,4·П + 0,2·Г); прогонщик DeepSeek Harness и тесты оценки
67df8f6 verified | """Двойник GitHub по REST API: репозиторий acme/warehouse с деревом из трёх с лишним сотен путей, файлами (прайс на | |
| четыре тысячи строк, журнал изменений на полторы тысячи, собранный код одной строкой, конфигурации развёртывания) и | |
| задачей № 7 с обсуждением на двух страницах. Ответы лежат за пределом первой выдачи каждого чтения. Данные те же, что у | |
| двойника, на котором прогонялась Santify, и сверены с ним ответ в ответ (кроме хешей sha: там они случайны). | |
| """ | |
| from __future__ import annotations | |
| import base64 | |
| import hashlib | |
| import json | |
| from urllib.parse import unquote | |
| GOODS = ["Щебень гранитный", "Песок карьерный мытый", "Гравий речной", "Отсев дробления", "Керамзит"] | |
| DEPLOY = """apiVersion: apps/v1 | |
| kind: Deployment | |
| metadata: | |
| name: warehouse-api | |
| spec: | |
| replicas: 14 | |
| template: | |
| spec: | |
| containers: | |
| - name: api | |
| image: acme/warehouse:9.14""" | |
| def _price_line(number: int) -> str: | |
| price = 7345 if number == 3517 else 1000 + number * 2 | |
| return f"ART-{number:05d};{GOODS[number % len(GOODS)]} фракции {number % 40 + 5};м3;{price}" | |
| def _minified() -> str: | |
| """Собранный код одной строкой: версия API в середине, до неё и после — по шестьдесят тысяч знаков.""" | |
| parts, size, index = [], 0, 0 | |
| while size < 60_000: | |
| piece = f"var v{index}={index * 3};" | |
| parts.append(piece) | |
| size += len(piece) | |
| index += 1 | |
| parts.append('const API_VERSION="4.7.2";') | |
| size += len(parts[-1]) | |
| index = 0 | |
| while size < 120_000: | |
| piece = f"function f{index}(){{return {index}}}" | |
| parts.append(piece) | |
| size += len(piece) | |
| index += 1 | |
| return "".join(parts) + "\n" | |
| def _sha(path: str) -> str: | |
| return "s-" + hashlib.sha256(path.encode("utf-8")).hexdigest()[:8] | |
| def _files() -> dict[str, str]: | |
| prices = "артикул;наименование;единица;цена\n" + "\n".join(_price_line(n) for n in range(1, 4001)) + "\n" | |
| changelog = ("# Журнал изменений\n\n" + "\n".join(f"- Выпуск {n // 100}.{n % 100:02d}: исправление {n} в модуле учёта" for n in range(1, 1501)) | |
| + "\nВыпуск 9.14: добавлена выгрузка остатков в формате XLSX\n") | |
| return { | |
| "README.md": "# warehouse\n\nУчёт склада: остатки, прайс, выгрузки.\n", | |
| "data/prices.csv": prices, | |
| "CHANGELOG.md": changelog, | |
| "dist/app.min.js": _minified(), | |
| "infra/k8s/prod/deploy.yaml": DEPLOY, | |
| "infra/k8s/stage/deploy.yaml": DEPLOY.replace("replicas: 14", "replicas: 2"), | |
| } | |
| def _comments(first: int, last: int) -> list: | |
| return [{"user": {"login": "bob" if n == 117 else f"dev{n}"}, "created_at": "2026-03-02T10:00:00Z", | |
| "body": "Предлагаю кэш на Redis с временем жизни 15 минут и сбросом при каждой отгрузке." if n == 117 | |
| else f"Согласен, замер {n}: ответ занимает {2 + n % 3} секунды."} for n in range(first, last + 1)] | |
| class Repository: | |
| """Маршруты ответа: подстрока раскодированного адреса — ответ; первый подошедший по порядку отвечает.""" | |
| def __init__(self): | |
| files = _files() | |
| paths = sorted(set(files) | {f"src/Module{m}/Service{f}.cs" for m in range(20) for f in range(15)}) | |
| folders = sorted({p[:i] for p in paths for i in range(len(p)) if p[i] == "/" and i > 0}) | |
| tree = {"sha": "main", "tree": [{"path": f, "type": "tree", "sha": f"t-{f}"} for f in folders] | |
| + [{"path": p, "type": "blob", "sha": _sha(p), "size": len(files[p].encode("utf-8")) if p in files else 900} for p in paths]} | |
| issue = {"number": 7, "title": "Кэш ответов API остатков", "state": "open", "user": {"login": "alice"}, | |
| "created_at": "2026-03-01T08:00:00Z", "updated_at": "2026-03-05T09:30:00Z", "labels": [], | |
| "html_url": "https://github.com/acme/warehouse/issues/7", | |
| "body": "Ответы API на остатки считаются заново на каждый запрос, и под нагрузкой склад отвечает по три секунды.\n\nНужно кэширование ответов."} | |
| self._routes: list[tuple[str, int, object]] = [] | |
| for path, content in files.items(): | |
| self._routes.append((f"repos/acme/warehouse/contents/{path}", 200, { | |
| "name": path.rsplit("/", 1)[-1], "path": path, "sha": _sha(path), "encoding": "base64", | |
| "content": base64.b64encode(content.encode("utf-8")).decode("ascii")})) | |
| self._routes += [ | |
| ("repos/acme/warehouse/contents/", 404, {"message": "Not Found"}), | |
| ("repos/acme/warehouse/git/trees/main?recursive=1", 200, tree), | |
| ("repos/acme/warehouse/issues/7/comments?per_page=100&page=1", 200, _comments(1, 100)), | |
| ("repos/acme/warehouse/issues/7/comments?per_page=100&page=2", 200, _comments(101, 130)), | |
| ("repos/acme/warehouse/issues/7", 200, issue), | |
| ("repos/acme/warehouse/issues?", 200, [issue]), | |
| ("repos/acme/warehouse", 200, {"name": "warehouse", "owner": {"login": "acme"}, "default_branch": "main", "private": False, "size": 2048}), | |
| ] | |
| def answer(self, url: str) -> tuple[int, str, str]: | |
| """Код, вид содержимого и тело ответа на GET по адресу REST API.""" | |
| decoded = unquote(url) | |
| for fragment, status, body in self._routes: | |
| if fragment in decoded: | |
| return status, "application/json", json.dumps(body, ensure_ascii=False) | |
| return 404, "application/json", json.dumps({"message": "no route"}) | |