| """Убрать дубли эпизодов, оставив последний по каждому (task_uid, ось). | |
| Появились из-за гонки: последовательный скрипт и параллельный писали в один | |
| файл. Последний — потому что он записан позже и точно доигран. | |
| """ | |
| import json, sys, collections | |
| path = sys.argv[1] | |
| rows = [json.loads(l) for l in open(path) if l.strip()] | |
| keep = {} | |
| for r in rows: | |
| keep[(r["task_uid"], r.get("instruction_axis"))] = r | |
| if len(keep) == len(rows): | |
| print(f"{path}: дублей нет ({len(rows)})") | |
| else: | |
| with open(path, "w") as f: | |
| for r in keep.values(): | |
| f.write(json.dumps(r, ensure_ascii=False) + "\n") | |
| print(f"{path}: было {len(rows)}, стало {len(keep)}, убрано {len(rows)-len(keep)}") | |