Datasets:

Modalities:
Text
ArXiv:
File size: 2,996 Bytes
f9dff7a
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
#!/usr/bin/env python3
# -*- coding: utf-8 -*-

import argparse
import pathlib
import re
import shutil

def remove_explanation_fields(text: str) -> str:
    """
    删除 JSON 文本中键为 "explanation" 的键值对(值为字符串),
    不使用 json 解析,使用正则在词法层面安全处理转义字符。
    同时正确处理前后逗号,保持 JSON 仍然有效。
    """

    # JSON 字符串匹配:支持任意数量的转义字符(如 \" \\ \n ...)
    # 说明:JSON 字符串不允许出现未转义的换行,因此不需 DOTALL。
    json_string = r'"(?:\\.|[^"\\])*"'

    # 情况 A:explanation 在中间/开头,后面跟逗号
    #   ... "explanation": "......", ...
    pattern_after = re.compile(
        rf'\s*"explanation"\s*:\s*{json_string}\s*,'
    )

    # 情况 B:explanation 在中间/末尾,前面有逗号
    #   ..., "explanation": "......"
    pattern_before = re.compile(
        rf',\s*"explanation"\s*:\s*{json_string}'
    )

    # 先删“后跟逗号”的情况,再删“前有逗号”的情况
    new_text = pattern_after.sub('', text)
    new_text = pattern_before.sub('', new_text)

    # 情况 C:对象里只有一个键值对(既没有前逗号也没有后逗号)
    # 比如:{ "explanation": "..." }
    # 这会在 A/B 后仍残留:{  }(已是合法 JSON),无需额外处理。
    # 若出现花括号内部多余空白也不影响合法性。

    return new_text

def process_file(p: pathlib.Path, dry_run: bool = False) -> bool:
    original = p.read_text(encoding='utf-8')
    repaired = remove_explanation_fields(original)
    if repaired != original:
        if not dry_run:
            # 备份
            backup = p.with_suffix(p.suffix + '.bak')
            shutil.copyfile(p, backup)
            # 覆盖
            p.write_text(repaired, encoding='utf-8')
        return True
    return False

def main():
    ap = argparse.ArgumentParser(
        description="在不使用 json 解析的前提下,删除所有 JSON 文件中的 \"explanation\": \"...\" 字段(安全处理转义字符与逗号)。"
    )
    ap.add_argument("folder", type=str, help="包含 .json 文件的文件夹路径")
    ap.add_argument("--dry-run", action="store_true", help="仅显示将要修改的文件,不写回")
    args = ap.parse_args()

    root = pathlib.Path(args.folder)
    if not root.is_dir():
        raise SystemExit(f"路径不存在或不是文件夹:{root}")

    changed = 0
    total = 0
    for p in sorted(root.glob("*.json")):
        total += 1
        if process_file(p, dry_run=args.dry_run):
            changed += 1
            print(f"[UPDATED] {p}")
        else:
            print(f"[SKIP   ] {p}(无 explanation 字段或无需修改)")

    print(f"\n完成:扫描 {total} 个 .json 文件,修改 {changed} 个。")
    if not args.dry_run:
        print("已为修改过的文件生成 .bak 备份。")

if __name__ == "__main__":
    main()