"""Корректная дошардовка: строит манифест ТОЛЬКО из несделанных эпизодов. Наивное добавление шардов `N/4` к идущему прогону `0/1` дублирует работу: шарды пишут в отдельные файлы, докат читает свой файл и не видит чужого. Здесь вместо этого текущий прогон останавливается, остаток пересчитывается по уже накопленному дампу и делится на части. """ import json import os import sys os.chdir("/root/SLAVA_dev") DUMPDIR = "rollouts/dumps/sp_stats_axes" MAN = "rollouts/manifests/bridge_allaxes.jsonl" NPARTS = int(sys.argv[1]) if len(sys.argv) > 1 else 3 # ВАЖНО: читать ВСЕ файлы каталога, а не только dump.jsonl. Повторная # дошардовка создаёт rest*.jsonl, и если их не учесть, остаток посчитается # по устаревшему состоянию и работа продублируется (ошибка 30.08.2026, дважды). import glob done = set() for f in glob.glob(os.path.join(DUMPDIR, "*.jsonl")): for line in open(f, encoding="utf-8"): if not line.strip(): continue try: r = json.loads(line) except Exception: continue done.add((r["task_uid"], r.get("instruction_axis"))) rows = [json.loads(l) for l in open(MAN, encoding="utf-8") if l.strip()] rest = [r for r in rows if (r["task_uid"], r.get("instruction_axis")) not in done] print("сделано %d, осталось %d, частей %d" % (len(done), len(rest), NPARTS)) for i in range(NPARTS): part = rest[i::NPARTS] p = "rollouts/manifests/sp_rest_%d.jsonl" % i with open(p, "w", encoding="utf-8") as fh: for r in part: fh.write(json.dumps(r, ensure_ascii=False) + "\n") print(" %s: %d эпизодов" % (p, len(part)))