File size: 882 Bytes
ee102e4 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 | """Убрать дубли эпизодов, оставив последний по каждому (task_uid, ось).
Появились из-за гонки: последовательный скрипт и параллельный писали в один
файл. Последний — потому что он записан позже и точно доигран.
"""
import json, sys, collections
path = sys.argv[1]
rows = [json.loads(l) for l in open(path) if l.strip()]
keep = {}
for r in rows:
keep[(r["task_uid"], r.get("instruction_axis"))] = r
if len(keep) == len(rows):
print(f"{path}: дублей нет ({len(rows)})")
else:
with open(path, "w") as f:
for r in keep.values():
f.write(json.dumps(r, ensure_ascii=False) + "\n")
print(f"{path}: было {len(rows)}, стало {len(keep)}, убрано {len(rows)-len(keep)}")
|