File size: 5,219 Bytes
2a1ec59 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 | import json
import re
import os
def parse_codebook(codebook_file):
"""
解析 codebook.jsonl 文件。
Args:
codebook_file (str): codebook.jsonl 文件的路径。
Returns:
dict: 一个字典,键是变量名(name),值是对应的元数据。
"""
codebook_data = {}
with open(codebook_file, 'r', encoding='utf-8') as f:
for line in f:
try:
data = json.loads(line)
# 确保 'name' 键存在
if 'name' in data:
codebook_data[data['name']] = data
except json.JSONDecodeError:
print(f"警告: 无法解析行: {line}")
return codebook_data
def parse_variable_labels(layout_file,
start_marker="/* Variable Value Labels */"):
"""
解析包含变量值标签的文本文件。
Args:
layout_file (str): RecordFileLayout... .txt 文件的路径。
start_marker (str): 开始解析的标记。
Returns:
dict: 一个字典,键是变量名,值是响应选项的列表。
"""
value_labels = {}
current_variable = None
parsing_started = False
with open(layout_file, 'r', encoding='utf-8', errors='ignore') as f:
for line in f:
# 只有在找到起始标记后才开始解析
if not parsing_started:
if start_marker in line:
parsing_started = True
continue
# 去除行首行尾的空白字符
line = line.strip()
# 如果行为空,则跳过
if not line:
continue
# 如果行不是以数字或'-'开头,则假定它是一个新的变量名
if not (line[0].isdigit() or line.startswith('-')):
current_variable = line
if current_variable not in value_labels:
value_labels[current_variable] = []
# 否则,解析值和标签
elif current_variable:
# 使用正则表达式匹配 "code = 'text'" 格式
match = re.match(r'^(-?\d+\.?\d*)\s*=\s*"(.*)"', line)
if match:
code_str, text = match.groups()
# 将code转换为整数或浮点数
try:
code = int(code_str)
except ValueError:
code = float(code_str)
value_labels[current_variable].append({
"code": code,
"text": text
})
return value_labels
def main():
"""
主函数,执行整个数据处理流程。
"""
# --- 文件路径配置 ---
# 请确保这些文件与脚本在同一目录下,或者提供完整路径
codebook_filename = "codebook.jsonl"
layout_filename = "RecordFileLayout_HSLS_17_PETS_SR_STUDENT.txt"
output_filename = "record_file.jsonl"
# 检查所需文件是否存在
if not os.path.exists(codebook_filename):
print(f"错误: 文件 '{codebook_filename}' 未找到。请确保文件存在于当前目录。")
return
if not os.path.exists(layout_filename):
print(f"错误: 文件 '{layout_filename}' 未找到。请确保文件存在于当前目录。")
return
# 步骤 1: 解析 codebook
print(f"正在解析 '{codebook_filename}'...")
codebook = parse_codebook(codebook_filename)
print(f"成功解析 {len(codebook)} 个变量的元数据。")
# 步骤 2: 解析变量标签
print(f"正在解析 '{layout_filename}'...")
value_labels = parse_variable_labels(layout_filename)
print(f"成功解析 {len(value_labels)} 个变量的响应选项。")
# 步骤 3: 合并数据并生成输出
print("正在合并数据并生成输出文件...")
final_output = []
index_counter = 1
for var_name, var_info in codebook.items():
# question_text 使用 'label' 字段
question_text = var_info.get('label', 'N/A')
# response_options 来自解析的 value_labels
# 如果找不到,则留空列表
response_options = value_labels.get(var_name, [])
# 按照您期望的格式创建条目
# 注意: 'section' 和 'type' 字段在源文件中不可用,因此在此省略。
# 如果需要,可以手动添加或修改此处的逻辑。
# 'question_id' 使用变量名 `name`
output_item = {
"index": index_counter,
"question_id": var_name,
"question_text": question_text,
"description": var_info.get('description', ''),
"response_options": response_options
}
final_output.append(output_item)
index_counter += 1
# 步骤 4: 将结果写入输出文件
with open(output_filename, 'w', encoding='utf-8') as f:
for item in final_output:
f.write(json.dumps(item, ensure_ascii=False) + '\n')
print(f"\n处理完成!结果已保存到 '{output_filename}'。")
print(f"共生成 {len(final_output)} 条记录。")
if __name__ == "__main__":
main()
|