slava-rollouts / code /resplit_sp.py
AlexKarachun's picture
Upload code/resplit_sp.py with huggingface_hub
7731962 verified
Raw History Blame Contribute Delete
2.08 kB
"""Корректная дошардовка: строит манифест ТОЛЬКО из несделанных эпизодов.
Наивное добавление шардов `N/4` к идущему прогону `0/1` дублирует работу:
шарды пишут в отдельные файлы, докат читает свой файл и не видит чужого.
Здесь вместо этого текущий прогон останавливается, остаток пересчитывается по
уже накопленному дампу и делится на части.
"""
import json
import os
import sys
os.chdir("/root/SLAVA_dev")
DUMPDIR = "rollouts/dumps/sp_stats_axes"
MAN = "rollouts/manifests/bridge_allaxes.jsonl"
NPARTS = int(sys.argv[1]) if len(sys.argv) > 1 else 3
# ВАЖНО: читать ВСЕ файлы каталога, а не только dump.jsonl. Повторная
# дошардовка создаёт rest*.jsonl, и если их не учесть, остаток посчитается
# по устаревшему состоянию и работа продублируется (ошибка 30.08.2026, дважды).
import glob
done = set()
for f in glob.glob(os.path.join(DUMPDIR, "*.jsonl")):
for line in open(f, encoding="utf-8"):
if not line.strip():
continue
try:
r = json.loads(line)
except Exception:
continue
done.add((r["task_uid"], r.get("instruction_axis")))
rows = [json.loads(l) for l in open(MAN, encoding="utf-8") if l.strip()]
rest = [r for r in rows if (r["task_uid"], r.get("instruction_axis")) not in done]
print("сделано %d, осталось %d, частей %d" % (len(done), len(rest), NPARTS))
for i in range(NPARTS):
part = rest[i::NPARTS]
p = "rollouts/manifests/sp_rest_%d.jsonl" % i
with open(p, "w", encoding="utf-8") as fh:
for r in part:
fh.write(json.dumps(r, ensure_ascii=False) + "\n")
print(" %s: %d эпизодов" % (p, len(part)))