"""Убрать дубли эпизодов, оставив последний по каждому (task_uid, ось). Появились из-за гонки: последовательный скрипт и параллельный писали в один файл. Последний — потому что он записан позже и точно доигран. """ import json, sys, collections path = sys.argv[1] rows = [json.loads(l) for l in open(path) if l.strip()] keep = {} for r in rows: keep[(r["task_uid"], r.get("instruction_axis"))] = r if len(keep) == len(rows): print(f"{path}: дублей нет ({len(rows)})") else: with open(path, "w") as f: for r in keep.values(): f.write(json.dumps(r, ensure_ascii=False) + "\n") print(f"{path}: было {len(rows)}, стало {len(keep)}, убрано {len(rows)-len(keep)}")