synaptex-community commited on
Commit
f9ab0a7
·
verified ·
1 Parent(s): 399470c

Описание судьи и сообщения прогонщика DeepSeek Harness

Browse files
Files changed (2) hide show
  1. eval/judge.py +4 -3
  2. runners/dsh/run.py +3 -3
eval/judge.py CHANGED
@@ -4,9 +4,10 @@
4
  ответ, рубрику, запрещённые утверждения и выдачу системы (ответ на каждое сообщение человека и текст выданных файлов).
5
  Каждый пункт рубрики он отмечает «верно / частично / неверно / нет в ответе»: по этим отметкам отчёт считает точность
6
  (верное среди сказанного по пунктам) и полноту (доля пунктов, закрытых верно). Вердикт он подкрепляет дословной цитатой
7
- из выдачи; галлюцинацию тоже цитатой. Цитаты сверяются кодом: вердикт без найденной в выдаче цитаты становится «нет в
8
- ответе», галлюцинация без найденной цитаты отбрасывается. Так судья не может ни засчитать то, чего нет, ни приписать
9
- системе то, чего она не писала.
 
10
 
11
  Галлюцинация — утверждение выдачи, которое противоречит эталону или материалам (искажение), или факт, взятый ниоткуда
12
  (выдумка). Материалов человека целиком судья не видит: их бывают сотни файлов. Поэтому каждая найденная им галлюцинация, кроме
 
4
  ответ, рубрику, запрещённые утверждения и выдачу системы (ответ на каждое сообщение человека и текст выданных файлов).
5
  Каждый пункт рубрики он отмечает «верно / частично / неверно / нет в ответе»: по этим отметкам отчёт считает точность
6
  (верное среди сказанного по пунктам) и полноту (доля пунктов, закрытых верно). Вердикт он подкрепляет дословной цитатой
7
+ из выдачи; галлюцинацию тоже цитатой. Цитаты сверяются кодом: вердикт с цитатой, которой в выдаче нет, как и «частично»
8
+ или «неверно» без цитаты, становится «нет в ответе»; галлюцинация без найденной цитаты отбрасывается. Так судья не может
9
+ ни засчитать то, чего нет, ни приписать системе то, чего она не писала. «Верно» без цитаты судья ставит только пункту о
10
+ том, чего в выдаче быть не должно.
11
 
12
  Галлюцинация — утверждение выдачи, которое противоречит эталону или материалам (искажение), или факт, взятый ниоткуда
13
  (выдумка). Материалов человека целиком судья не видит: их бывают сотни файлов. Поэтому каждая найденная им галлюцинация, кроме
runners/dsh/run.py CHANGED
@@ -437,10 +437,10 @@ def write_manifest(root: Path, args: argparse.Namespace, task_ids: list[str]) ->
437
  Возвращает причину отказа или None."""
438
  path = root / "run.json"
439
  earlier = json.loads(path.read_text(encoding="utf-8")) if path.exists() else {}
440
- for key, value in (("model", args.model), ("image", args.image)):
441
  if earlier.get(key) not in (None, value):
442
- return (f"прогон в {root} начат с {key} {earlier[key]}, а сейчас {value}: для другой модели или образа начните "
443
- f"новый прогон (--name)")
444
  tasks = list(dict.fromkeys([*earlier.get("tasks", []), *task_ids]))
445
  path.write_text(json.dumps({"system": SYSTEM, "model": args.model, "image": args.image, "context": args.context,
446
  "max_tokens": args.max_tokens,
 
437
  Возвращает причину отказа или None."""
438
  path = root / "run.json"
439
  earlier = json.loads(path.read_text(encoding="utf-8")) if path.exists() else {}
440
+ for key, value, title in (("model", args.model, "моделью"), ("image", args.image, "образом агента")):
441
  if earlier.get(key) not in (None, value):
442
+ return (f"прогон в {root} начат с {title} {earlier[key]}, а сейчас задан {value}: для другой модели или образа "
443
+ f"агента начните новый прогон (--name)")
444
  tasks = list(dict.fromkeys([*earlier.get("tasks", []), *task_ids]))
445
  path.write_text(json.dumps({"system": SYSTEM, "model": args.model, "image": args.image, "context": args.context,
446
  "max_tokens": args.max_tokens,