Download code/resplit_sp.py from slava-research/slava-rollouts: direct link, hf CLI and curl.
- Browser
- Download file 2.08 kB
-
https://huggingface.co/datasets/slava-research/slava-rollouts/resolve/main/code/resplit_sp.py
- Command line
-
hf download hf://datasets/slava-research/slava-rollouts/code/resplit_sp.py
-
curl -L -o resplit_sp.py https://huggingface.co/datasets/slava-research/slava-rollouts/resolve/main/code/resplit_sp.py
2.08 kB
| """Корректная дошардовка: строит манифест ТОЛЬКО из несделанных эпизодов. | |
| Наивное добавление шардов `N/4` к идущему прогону `0/1` дублирует работу: | |
| шарды пишут в отдельные файлы, докат читает свой файл и не видит чужого. | |
| Здесь вместо этого текущий прогон останавливается, остаток пересчитывается по | |
| уже накопленному дампу и делится на части. | |
| """ | |
| import json | |
| import os | |
| import sys | |
| os.chdir("/root/SLAVA_dev") | |
| DUMPDIR = "rollouts/dumps/sp_stats_axes" | |
| MAN = "rollouts/manifests/bridge_allaxes.jsonl" | |
| NPARTS = int(sys.argv[1]) if len(sys.argv) > 1 else 3 | |
| # ВАЖНО: читать ВСЕ файлы каталога, а не только dump.jsonl. Повторная | |
| # дошардовка создаёт rest*.jsonl, и если их не учесть, остаток посчитается | |
| # по устаревшему состоянию и работа продублируется (ошибка 30.08.2026, дважды). | |
| import glob | |
| done = set() | |
| for f in glob.glob(os.path.join(DUMPDIR, "*.jsonl")): | |
| for line in open(f, encoding="utf-8"): | |
| if not line.strip(): | |
| continue | |
| try: | |
| r = json.loads(line) | |
| except Exception: | |
| continue | |
| done.add((r["task_uid"], r.get("instruction_axis"))) | |
| rows = [json.loads(l) for l in open(MAN, encoding="utf-8") if l.strip()] | |
| rest = [r for r in rows if (r["task_uid"], r.get("instruction_axis")) not in done] | |
| print("сделано %d, осталось %d, частей %d" % (len(done), len(rest), NPARTS)) | |
| for i in range(NPARTS): | |
| part = rest[i::NPARTS] | |
| p = "rollouts/manifests/sp_rest_%d.jsonl" % i | |
| with open(p, "w", encoding="utf-8") as fh: | |
| for r in part: | |
| fh.write(json.dumps(r, ensure_ascii=False) + "\n") | |
| print(" %s: %d эпизодов" % (p, len(part))) | |