Описание судьи и сообщения прогонщика DeepSeek Harness
Browse files- eval/judge.py +4 -3
- runners/dsh/run.py +3 -3
eval/judge.py
CHANGED
|
@@ -4,9 +4,10 @@
|
|
| 4 |
ответ, рубрику, запрещённые утверждения и выдачу системы (ответ на каждое сообщение человека и текст выданных файлов).
|
| 5 |
Каждый пункт рубрики он отмечает «верно / частично / неверно / нет в ответе»: по этим отметкам отчёт считает точность
|
| 6 |
(верное среди сказанного по пунктам) и полноту (доля пунктов, закрытых верно). Вердикт он подкрепляет дословной цитатой
|
| 7 |
-
из выдачи; галлюцинацию тоже цитатой. Цитаты сверяются кодом: вердикт
|
| 8 |
-
ответе»
|
| 9 |
-
системе то, чего она не писала.
|
|
|
|
| 10 |
|
| 11 |
Галлюцинация — утверждение выдачи, которое противоречит эталону или материалам (искажение), или факт, взятый ниоткуда
|
| 12 |
(выдумка). Материалов человека целиком судья не видит: их бывают сотни файлов. Поэтому каждая найденная им галлюцинация, кроме
|
|
|
|
| 4 |
ответ, рубрику, запрещённые утверждения и выдачу системы (ответ на каждое сообщение человека и текст выданных файлов).
|
| 5 |
Каждый пункт рубрики он отмечает «верно / частично / неверно / нет в ответе»: по этим отметкам отчёт считает точность
|
| 6 |
(верное среди сказанного по пунктам) и полноту (доля пунктов, закрытых верно). Вердикт он подкрепляет дословной цитатой
|
| 7 |
+
из выдачи; галлюцинацию тоже цитатой. Цитаты сверяются кодом: вердикт с цитатой, которой в выдаче нет, как и «частично»
|
| 8 |
+
или «неверно» без цитаты, становится «нет в ответе»; галлюцинация без найденной цитаты отбрасывается. Так судья не может
|
| 9 |
+
ни засчитать то, чего нет, ни приписать системе то, чего она не писала. «Верно» без цитаты судья ставит только пункту о
|
| 10 |
+
том, чего в выдаче быть не должно.
|
| 11 |
|
| 12 |
Галлюцинация — утверждение выдачи, которое противоречит эталону или материалам (искажение), или факт, взятый ниоткуда
|
| 13 |
(выдумка). Материалов человека целиком судья не видит: их бывают сотни файлов. Поэтому каждая найденная им галлюцинация, кроме
|
runners/dsh/run.py
CHANGED
|
@@ -437,10 +437,10 @@ def write_manifest(root: Path, args: argparse.Namespace, task_ids: list[str]) ->
|
|
| 437 |
Возвращает причину отказа или None."""
|
| 438 |
path = root / "run.json"
|
| 439 |
earlier = json.loads(path.read_text(encoding="utf-8")) if path.exists() else {}
|
| 440 |
-
for key, value in (("model", args.model), ("image", args.image)):
|
| 441 |
if earlier.get(key) not in (None, value):
|
| 442 |
-
return (f"прогон в {root} начат с {
|
| 443 |
-
f"новый прогон (--name)")
|
| 444 |
tasks = list(dict.fromkeys([*earlier.get("tasks", []), *task_ids]))
|
| 445 |
path.write_text(json.dumps({"system": SYSTEM, "model": args.model, "image": args.image, "context": args.context,
|
| 446 |
"max_tokens": args.max_tokens,
|
|
|
|
| 437 |
Возвращает причину отказа или None."""
|
| 438 |
path = root / "run.json"
|
| 439 |
earlier = json.loads(path.read_text(encoding="utf-8")) if path.exists() else {}
|
| 440 |
+
for key, value, title in (("model", args.model, "моделью"), ("image", args.image, "образом агента")):
|
| 441 |
if earlier.get(key) not in (None, value):
|
| 442 |
+
return (f"прогон в {root} начат с {title} {earlier[key]}, а сейчас задан {value}: для другой модели или образа "
|
| 443 |
+
f"агента начните новый прогон (--name)")
|
| 444 |
tasks = list(dict.fromkeys([*earlier.get("tasks", []), *task_ids]))
|
| 445 |
path.write_text(json.dumps({"system": SYSTEM, "model": args.model, "image": args.image, "context": args.context,
|
| 446 |
"max_tokens": args.max_tokens,
|