File size: 5,938 Bytes
2a1ec59 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 | import re
import json
import sys
from tqdm import tqdm
def parse_codebook_to_jsonl(input_text_file, output_jsonl_file):
"""
将一个特定格式的 codebook 文本文件解析并转换为 JSONL 文件。
此版本经过修正,能够将所有非结构化字段(如 Description, Please note,
SAS Logic 等)的内容统一合并到 'description' 键下,以满足特定需求。
Args:
input_text_file (str): 输入的 codebook 文本文件路径。
output_jsonl_file (str): 输出的 JSONL 文件路径。
"""
try:
with open(input_text_file, 'r', encoding='utf-8') as f:
content = f.read()
except FileNotFoundError:
print(f"❌ 错误:输入文件 '{input_text_file}' 未找到。请确保文件存在且路径正确。")
sys.exit(1)
except Exception as e:
print(f"❌ 读取文件时发生错误: {e}")
sys.exit(1)
# 1. 分割记录
# 使用正则表达式按双虚线分隔符来分割整个文件内容。
blocks = re.split(r'\n-+\n-+\s*\n', content)
# 初始化统计计数器和失败记录列表
success_count = 0
failure_count = 0
failed_records = []
# 定义标准、结构化的字段键名
STANDARD_KEYS = {'file', 'name', 'position', 'length', 'label'}
print(f"🚀 开始解析文件 '{input_text_file}'...")
with open(output_jsonl_file, 'w', encoding='utf-8') as outfile:
# 定义用于匹配 "Key: Value" 格式的正则表达式
key_pattern = re.compile(r'^([\w\s/()-]+?):\s*(.*)$')
for block in tqdm(blocks, desc="解析变量记录", unit="条"):
block = block.strip()
# 跳过文件头、结尾或空的文本块
if not block or not block.startswith("File:"):
continue
try:
# --- 步骤 1: 初步解析为临时字典 ---
temp_record = {}
current_key = None
value_buffer = []
lines = block.split('\n')
for line in lines:
match = key_pattern.match(line)
if match:
if current_key:
temp_record[current_key] = '\n'.join(
value_buffer).strip()
key = match.group(1).strip().lower().replace(' ', '_')
value = match.group(2).strip()
current_key = key
value_buffer = [value] if value else []
elif current_key:
value_buffer.append(line)
if current_key:
temp_record[current_key] = '\n'.join(value_buffer).strip()
if not temp_record:
continue
# --- 步骤 2: 后处理,将非标准字段合并到 description ---
final_record = {}
description_parts = []
# 遍历临时记录的键,为了保持原始顺序,可以对键进行排序(可选,但推荐)
# 这里我们假设原始顺序不重要,或者temp_record(Python 3.7+)保持插入顺序
for key, value in temp_record.items():
if key in STANDARD_KEYS:
# 如果是标准键,直接复制
final_record[key] = value
else:
# 如果是非标准键,将其值存入 description 列表
# 为了保持内容干净,我们只合并值,不添加原始键名
description_parts.append(value)
# 合并所有描述性内容
if description_parts:
final_record['description'] = '\n\n'.join(
description_parts).strip()
# 转换数值类型
for field in ['position', 'length']:
if field in final_record:
try:
final_record[field] = int(final_record[field])
except (ValueError, TypeError):
# 保留原始值并在需要时添加错误标记
pass
# 写入文件
json.dump(final_record, outfile, ensure_ascii=False)
outfile.write('\n')
success_count += 1
except Exception as e:
failure_count += 1
failed_records.append({
"error": str(e),
"block_content": block
})
# 3. 打印最终的统计报告
print("\n" + "=" * 50)
print("🎉 解析完成!")
print("=" * 50)
print(f"📊 统计报告:")
print(f" - 总共处理记录块: {len(blocks)}")
print(f" - ✅ 成功解析并写入: {success_count} 条")
print(f" - ❌ 解析失败: {failure_count} 条")
print("=" * 50)
if failure_count > 0:
print("\n🔍 以下是解析失败的记录详情:\n")
for i, failure in enumerate(failed_records, 1):
print(f"--- 失败记录 {i} ---")
print(f"错误原因: {failure['error']}")
print("原始文本块:")
print("-" * 20)
print(failure['block_content'])
print("-" * 20 + "\n")
print(f"✨ 结果已保存至 '{output_jsonl_file}'。")
# --- 如何使用 ---
# 1. 将此脚本保存为 .py 文件(例如 parser.py)。
# 2. 确保你的数据文件 'Codebook_HSLS_17_PETS.txt' 与脚本在同一目录。
# 3. 运行脚本: python parser.py
if __name__ == "__main__":
# 定义输入和输出文件名
input_file = 'Codebook_HSLS_17_PETS.txt'
output_file = 'codebook.jsonl'
# 调用主函数
parse_codebook_to_jsonl(input_file, output_file)
|