guowei79 commited on
Commit
779d34a
·
verified ·
1 Parent(s): 19f6209

Add README.md (OpenSciGraph v0.1 MVP)

Browse files
Files changed (1) hide show
  1. README.md +387 -0
README.md ADDED
@@ -0,0 +1,387 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ pretty_name: OpenSciGraph Golden Dataset v0.1 (MVP)
3
+ language:
4
+ - zh
5
+ license: other
6
+ license_name: unverified-offline-batch
7
+ task_categories:
8
+ - multiple-choice
9
+ - question-answering
10
+ - text-classification
11
+ tags:
12
+ - physics
13
+ - knowledge-graph
14
+ - hallucination
15
+ - benchmark
16
+ - chinese
17
+ - offline
18
+ size_categories:
19
+ - n<1K
20
+ configs:
21
+ - config_name: eval_items
22
+ data_files:
23
+ - split: train
24
+ path: eval_items.jsonl
25
+ - config_name: concepts
26
+ data_files:
27
+ - split: train
28
+ path: concepts.jsonl
29
+ ---
30
+
31
+ # OpenSciGraph Golden Dataset v0.1 (MVP)
32
+
33
+ > **一句话**:16 组基础物理概念图谱 + 16 道防幻觉评测题(概念辨析 11 + AI 幻觉陷阱 5),
34
+ > 全部经人工逐题复核准入,**100% 离线提纯、零虚假来源**,纯数据产物、无模型推理参与。
35
+
36
+ ## 1. 数据简介
37
+
38
+ OpenSciGraph 面向**大模型物理知识可靠性**评测。本数据包是其 v0.1 MVP 公开样本,包含两部分内容:
39
+
40
+ | 部分 | 数量 | 内容 |
41
+ |---|---|---|
42
+ | **物理概念图谱** | 16 条 | 中英文名、中文定义、核心公式、上位/下位概念关系、许可标识 |
43
+ | **防幻觉 Benchmarks** | 16 道 | 概念辨析 11 道 + AI 幻觉陷阱 5 道,含四选项、答案键、解析、命中混淆点 |
44
+
45
+ 题目与概念**严格一一对应**(`eval_id == "EVAL_" + concept_id`),且每道题内联了对应概念对象,
46
+ 前端或评测脚本无需再做关联查询。
47
+
48
+ **覆盖领域**:力学(万有引力、加速度、功率)、振动与波动(频率、波长、干涉)、
49
+ 热学(温度、热量、热传导)、电磁学(电荷)、光学与量子效应(偏振、光电效应、波粒二象性)。
50
+
51
+ ### 它为什么值得一看
52
+
53
+ - **幻觉陷阱题是特制的**:题干植入一个错误前提(如「功率是一种能量」「加速度是运动学的一个分支学科」),
54
+ 正确答案必须明确否定该前提,而 3 个干扰项**顺着错误前提走**——专门用来暴露模型
55
+ 「把相关关系误判为种属关系」这类系统性幻觉,普通 QA 数据集测不出来。
56
+ - **答案键经过人工验算**:项目在 50 题全批次里确认了 9 道有害缺陷题并隔离,
57
+ 又在复核中发现 6 道「双正确项 / 答案键反转」缺陷——**盲测自洽 ≠ 物理正确**,
58
+ 这是本项目最重要的一条结论。本包只收编人工判定为合格的全部 16 道。
59
+ - **离线可复现**:打包脚本确定性执行,运行多少次产物完全一致(无随机抽样)。
60
+
61
+ ### 溯源信息
62
+
63
+ | 项 | 值 |
64
+ |---|---|
65
+ | 数据集名称 | OpenSciGraph Golden Dataset |
66
+ | 版本 | v0.1(v0.1_mvp) |
67
+ | 生成时间(UTC) | 2026-10-14T13:47:35Z |
68
+ | 生成脚本 | `scripts/build_golden_v01.py` |
69
+ | 是否含模型推理 | `model_involved = false` |
70
+ | 是否全程离线 | `offline = true` |
71
+ | 选题方式 | 确定性提取(非随机抽样):`fixed_human_reviewed_ok` |
72
+ | 主文件名 | `OpenSciGraph_Golden_v0.1.json` |
73
+ | sha256 | `2a96caad3528563f21e325cf83b5251674fb48f62210b436fcb69c77715f3e6b` |
74
+
75
+ ### 仓库文件
76
+
77
+ | 文件 | 说明 |
78
+ |---|---|
79
+ | `README.md` | 本数据集卡(由 `HuggingFace_Dataset_Card.md` 改名而来) |
80
+ | `OpenSciGraph_Golden_v0.1.json` | 完整数据包(UTF-8 无 BOM,41201 字节),含 `concepts[]` 与 `eval_items[]` |
81
+ | `eval_items.jsonl` | `datasets` 分片:16 行,一行一题 |
82
+ | `concepts.jsonl` | `datasets` 分片:16 行,一行一概念 |
83
+
84
+ > **为什么有两个 JSONL?** 完整数据包是**单个 JSON 对象**,而 HuggingFace 的 json loader 面向
85
+ > 「JSONL 或 JSON 数组」,无法把嵌套对象展开成多行。因此额外提供两个扁平分片,
86
+ > 二者均由同一份数据派生、与主包逐行一致,保证 `load_dataset()` 开箱可用。
87
+
88
+ ## 2. 质量证明:28 项结构校验全部 PASS
89
+
90
+ 成品落盘前由打包脚本执行 28 项结构校验,结论 **28/28 全部通过**;
91
+ 另用**独立脚本**(不复用同一套校验代码)二次交叉复核,结论一致。完整明细见仓库内
92
+ `reports/stage4_golden_v01_validation.md`。
93
+
94
+ | # | 检查项 | 结论 | 说明 |
95
+ |---|---|---|---|
96
+ | 1 | 顶层必需键齐全 | ✅ PASS | 缺失=[] |
97
+ | 2 | eval_items 数量 = 16 | ✅ PASS | 实际=16 |
98
+ | 3 | concepts 数量 = 16 | ✅ PASS | 实际=16 |
99
+ | 4 | counts 与实际一致 | ✅ PASS | counts=16/16 |
100
+ | 5 | eval_id 集合与清单一致 | ✅ PASS | 实际=['EVAL_P004', 'EVAL_P006', 'EVAL_P008', 'EVAL_P010', 'EVAL_P012', 'EVAL_P026', 'EVAL_P044', 'EVAL_P045', 'EVAL_P049', 'EVAL_P059', 'EVAL_P060', 'EVAL_P070', 'EVAL_P073', 'EVAL_P093', 'EVAL_P096', 'EVAL_P098'] |
101
+ | 6 | eval_id 无重复 | ✅ PASS | — |
102
+ | 7 | 提取顺序 = 辨析在前/陷阱在后 | ✅ PASS | — |
103
+ | 8 | 题型分布 11 辨析 / 5 陷阱 / 0 公式 | ✅ PASS | 辨析=11 陷阱=5 公式=0 |
104
+ | 9 | eval_item 字段与顺序符合契约 | ✅ PASS | — |
105
+ | 10 | options 均为 4 项、非空、互不重复 | ✅ PASS | — |
106
+ | 11 | correct_option ∈ {A,B,C,D} | ✅ PASS | — |
107
+ | 12 | 内联 concept 与 concepts[] 逐字段一致 | ✅ PASS | — |
108
+ | 13 | eval_id == 'EVAL_' + concept_id | ✅ PASS | — |
109
+ | 14 | concept_id 全局唯一 | ✅ PASS | — |
110
+ | 15 | concepts[].concept_id 与题目一一对应 | ✅ PASS | — |
111
+ | 16 | concept 字段与顺序符合契约 | ✅ PASS | — |
112
+ | 17 | wikidata_id 全部为 null(零虚假来源) | ✅ PASS | — |
113
+ | 18 | source_url 全部为 null(零虚假来源) | ✅ PASS | — |
114
+ | 19 | license_type 全部为 UNVERIFIED | ✅ PASS | — |
115
+ | 20 | definition_zh 全部 >= 10 字 | ✅ PASS | — |
116
+ | 21 | 不含被隔离的缺陷题 | ✅ PASS | — |
117
+ | 22 | 全部题目人工复核判定为 ok | ✅ PASS | — |
118
+ | 23 | model_involved == false | ✅ PASS | — |
119
+ | 24 | offline == true | ✅ PASS | — |
120
+ | 25 | JSON 可序列化且往返一致 | ✅ PASS | — |
121
+ | 26 | 文本无 BOM | ✅ PASS | — |
122
+ | 27 | 换行统一为 LF | ✅ PASS | — |
123
+ | 28 | UTF-8 可解码 | ✅ PASS | 41201 字节 |
124
+
125
+ 校验覆盖的六个维度:
126
+
127
+ 1. **结构与计数**:顶层键齐全、`eval_items` = 16、`concepts` = 16、`counts` 与实测一致;
128
+ 2. **标识一致性**:`eval_id` 集合与人工清单精确相等、无重复、辨析在前陷阱在后、题型分布 11 / 5 / 0;
129
+ 3. **字段契约**:字段名与**顺序**逐条比对 Schema、`options` 恰好 4 项且非空去重、`correct_option ∈ {A,B,C,D}`;
130
+ 4. **关系完整性**:`eval_id == "EVAL_" + concept_id`、概念 ID 全局唯一、内联 `concept` 与 `concepts[]` 逐字段一致;
131
+ 5. **来源诚信**:`wikidata_id` / `source_url` **全部为 `null`**、`license_type` 全为 `UNVERIFIED`、`definition_zh` 均 ≥ 10 字;
132
+ 6. **排除与编码**:无隔离缺陷题混入、全部题目人工判定为 `ok`、JSON 可往返序列化、无 BOM、纯 LF、UTF-8 可解码。
133
+
134
+ > **口径说明**:「零虚假来源」指来源字段一律留空、绝不编造 QID 或链接;
135
+ > 这**不等于**数据已权威化——`parent_concept` / `child_concepts` 关系边尚未核验(见第 5 节)。
136
+
137
+ ## 3. 数据样例
138
+
139
+ 以下两段 JSON **直接从 `OpenSciGraph_Golden_v0.1.json` 的 `eval_items[]` 中抽取**,未做任何改写。
140
+
141
+ ### 3.1 概念辨析题示例 —— `EVAL_P006`(能量)
142
+
143
+ ```json
144
+ {
145
+ "eval_id": "EVAL_P006",
146
+ "concept_id": "P006",
147
+ "question_type": "concept_distinction",
148
+ "question": "关于能量和动能的区别,以下描述正确的是?",
149
+ "options": [
150
+ "能量包括动能、势能和内能等多种形式",
151
+ "动能是物体由于静止而具有的能量",
152
+ "能量和动能的单位都是焦耳,因此它们没有区别",
153
+ "动能可以转化为其他形式的能量,但能量不能相互转化"
154
+ ],
155
+ "correct_option": "A",
156
+ "explanation": "正确选项A说明了能量是统称,包括动能、势能和内能等多种形式。主要干扰项B混淆了静止物体不具有动能的概念。",
157
+ "target_hallucination_point": "模型可能混淆静止物体是否具有动能",
158
+ "concept": {
159
+ "concept_id": "P006",
160
+ "name_zh": "能量",
161
+ "name_en": "Energy",
162
+ "wikidata_id": null,
163
+ "definition_zh": "物体进行工作或引起变化的能力。",
164
+ "formula": null,
165
+ "parent_concept": "物理量",
166
+ "child_concepts": [
167
+ "动能",
168
+ "势能",
169
+ "内能"
170
+ ],
171
+ "license_type": "UNVERIFIED",
172
+ "source_url": null,
173
+ "missing_zh_reason": null
174
+ }
175
+ }
176
+ ```
177
+
178
+ **看点**:干扰项 B 把「静止」和「动能」对立起来(静止物体动能为零,故 B 为假),
179
+ C 用「单位相同 ⇒ 没有区别」偷换概念,D 则否认了能量守恒框架下能量形式的相互转化。
180
+
181
+ ### 3.2 AI 幻觉陷阱题示例 —— `EVAL_P004`(万有引力定律)
182
+
183
+ ```json
184
+ {
185
+ "eval_id": "EVAL_P004",
186
+ "concept_id": "P004",
187
+ "question_type": "hallucination_trap",
188
+ "question": "关于万有引力定律与力的关系,下列说法正确的是?某同学认为万有引力定律就是一种力,请你判断。",
189
+ "options": [
190
+ "是的,万有引力定律就是一种力",
191
+ "不是,万有引力定律描述了力的作用规律",
192
+ "万有引力定律可以产生力,但不是力本身",
193
+ "万有引力定律与力没有关系"
194
+ ],
195
+ "correct_option": "B",
196
+ "explanation": "正确答案为B,万有引力定律描述的是物体之间力的作用规律,而不是一种力。干扰项A和C看似合理,但都未能明确指出二者本质上的区别。D项虽然提到了关系不成立,但没有具体说明正确的关系。",
197
+ "target_hallucination_point": "把相关关系误判为种属关系",
198
+ "concept": {
199
+ "concept_id": "P004",
200
+ "name_zh": "万有引力定律",
201
+ "name_en": "Newton's law of universal gravitation",
202
+ "wikidata_id": null,
203
+ "definition_zh": "两个物体之间存在相互吸引的力,其大小与两物体质量的乘积成正比,与它们距离的平方成反比。",
204
+ "formula": "F = G * (m1 * m2) / r^2",
205
+ "parent_concept": "力",
206
+ "child_concepts": [],
207
+ "license_type": "UNVERIFIED",
208
+ "source_url": null,
209
+ "missing_zh_reason": null
210
+ }
211
+ }
212
+ ```
213
+
214
+ **看点**:题干把「万有引力定律是一种力」这个**错误前提**塞给模型。
215
+ 选项 A 直接顺从前提;选项 C「定律可以产生力,但不是力本身」看似辩证,
216
+ 实际仍未否定「定律 vs 力」的混淆——这正是模型最容易踩的坑。
217
+ 对应的 `target_hallucination_point` 字段写明:*把相关关系误判为种属关系*。
218
+
219
+ ## 4. 开发者加载代码(Python)
220
+
221
+ 主文件是**单个 JSON 对象**(非 JSONL、非 parquet),含概念图谱与题目两部分;
222
+ 仓库另提供两个扁平的 JSONL 分片供 `datasets` 在线加载。
223
+
224
+ ### 4.1 在线加载(HuggingFace `datasets`,推荐)
225
+
226
+ ```python
227
+ from datasets import load_dataset
228
+
229
+ # 评测题分片:16 行,一行一题
230
+ bench = load_dataset('guowei79/OpenSciGraph-Physics-Bench', 'eval_items', split='train')
231
+ print(bench)
232
+ print(bench[0]['eval_id'], bench[0]['question_type'], bench[0]['correct_option'])
233
+
234
+ # 概念分片:16 行,一行一概念
235
+ concepts_ds = load_dataset('guowei79/OpenSciGraph-Physics-Bench', 'concepts', split='train')
236
+ print(concepts_ds[0]['name_zh'], concepts_ds[0]['definition_zh'])
237
+ ```
238
+
239
+ > **国内网络提示**:`huggingface.co` 在中国大陆可能不可达。下载场景可先设镜像:
240
+ > `export HF_ENDPOINT=https://hf-mirror.com`(PowerShell:`$env:HF_ENDPOINT="https://hf-mirror.com"`)。
241
+ > 实测(2026-10-14)该镜像同样**透传写操作**,`create_repo` / `upload_file` / `delete_repo` 均可用,
242
+ > 故本数据集的上架亦经镜像端点完成;但镜像稳定性不由本项目保证,正式发布建议直连官方站点。
243
+
244
+ ### 4.2 直接读取单文件 JSON(含完整图谱)
245
+
246
+ ```python
247
+ import json
248
+ from pathlib import Path
249
+
250
+ PATH = Path('release/v0.1_mvp/OpenSciGraph_Golden_v0.1.json')
251
+
252
+ with PATH.open(encoding='utf-8') as fh: # 注意:UTF-8,无 BOM
253
+ data = json.load(fh)
254
+
255
+ print(data['counts'])
256
+ # {'concepts': 16, 'eval_items': 16, 'distinction': 11, 'trap': 5, ...}
257
+
258
+ concepts = {c['concept_id']: c for c in data['concepts']}
259
+ for item in data['eval_items']:
260
+ assert item['concept'] == concepts[item['concept_id']] # 内联副本一致性自检
261
+ ```
262
+
263
+ ### 4.3 按题型筛选
264
+
265
+ ```python
266
+ distinction = [i for i in data['eval_items'] if i['question_type'] == 'concept_distinction']
267
+ trap = [i for i in data['eval_items'] if i['question_type'] == 'hallucination_trap']
268
+
269
+ print(len(distinction), len(trap)) # 11 5
270
+ ```
271
+
272
+ ### 4.4 评测你的模型(完整打分骨架)
273
+
274
+ ```python
275
+ import re
276
+
277
+ PROMPT = '''请回答下面的单选题,只输出一个大写字母(A/B/C/D)。
278
+
279
+ {question}
280
+
281
+ A. {o0}
282
+ B. {o1}
283
+ C. {o2}
284
+ D. {o3}'''
285
+
286
+ def build_prompt(item):
287
+ return PROMPT.format(
288
+ question=item['question'],
289
+ o0=item['options'][0], o1=item['options'][1],
290
+ o2=item['options'][2], o3=item['options'][3],
291
+ )
292
+
293
+ def extract_choice(text):
294
+ m = re.search(r'\b([ABCD])\b', text.upper())
295
+ return m.group(1) if m else None
296
+
297
+ def evaluate(model_fn, items):
298
+ rows, correct = [], 0
299
+ for item in items:
300
+ pred = extract_choice(model_fn(build_prompt(item)))
301
+ ok = (pred == item['correct_option'])
302
+ correct += ok
303
+ rows.append({
304
+ 'eval_id': item['eval_id'],
305
+ 'question_type': item['question_type'],
306
+ 'gold': item['correct_option'],
307
+ 'pred': pred,
308
+ 'correct': ok,
309
+ })
310
+ acc = correct / len(items) if items else 0.0
311
+ # 陷阱题准确率单独统计——这才是本数据集的核心指标
312
+ traps = [r for r in rows if r['question_type'] == 'hallucination_trap']
313
+ trap_acc = sum(r['correct'] for r in traps) / len(traps) if traps else 0.0
314
+ return {'overall_acc': acc, 'trap_acc': trap_acc, 'details': rows}
315
+
316
+ # 示例:接任意模型(此处用本地 Ollama 的 chat 接口)
317
+ # from ollama import Client
318
+ # client = Client(host='http://127.0.0.1:11434')
319
+ # def model_fn(p):
320
+ # return client.chat(model='qwen2.5:7b-instruct-q5_K_M',
321
+ # messages=[{'role': 'user', 'content': p}])['message']['content']
322
+ # print(evaluate(model_fn, data['eval_items']))
323
+ ```
324
+
325
+ ### 4.5 概念图谱字段速查
326
+
327
+ ```python
328
+ c = concepts['P006']
329
+ print(c['name_zh'], c['name_en']) # 能量 Energy
330
+ print(c['definition_zh']) # 物体进行工作或引起变化的能力。
331
+ print(c['formula']) # None(描述性概念无公式)
332
+ print(c['parent_concept'], c['child_concepts'])
333
+ # 物理量 ['动能', '势能', '内能']
334
+ print(c['wikidata_id'], c['source_url'], c['license_type'])
335
+ # None None UNVERIFIED
336
+ ```
337
+
338
+ ## 5. 已知限制
339
+
340
+ 请在使用前了解以下几点,避免误用:
341
+
342
+ 1. concepts[].parent_concept / child_concepts 为模型推断的层级边,阶段二复核实测约半数边不可信(双向闭合率仅 48.4%),仅供检索参考,不可作为权威本体。
343
+ 2. EVAL_P049 题干内嵌了选项文本(格式��疵),不影响答案键正确性。
344
+ 3. 公式计算题(16 道)按要求未纳入本包,也未经逐题复核。
345
+ 4. suspect 与 defect 题目仍留在主线数据 physics_eval_v1.jsonl 中,扩充评测集前须先修正或剔除。
346
+
347
+ 此外:本包仅 **16 组**样本,适合做**冒烟测试与展示**,统计显著性有限;
348
+ 同批次主线数据中仍存在未经复核的公式计算题,不建议直接并入评测。
349
+
350
+ ## 6. 需求反馈与联系
351
+
352
+ 本数据包为 v0.1 MVP 公开样本。如果你需要**全量数据、定制数据集或合作**,欢迎联系我们:
353
+
354
+ | 需求类型 | 说明 | 联系方式 |
355
+ |---|---|---|
356
+ | 索要全量数据 | 完整概念图谱与全量评测题(含未公开部分) | rguo3500@gmail.com |
357
+ | 定制数据集 | 指定学科领域 / 题型配比 / 语言 / 输出格式(JSONL、Parquet 等) | rguo3500@gmail.com |
358
+ | 缺陷反馈 | 发现答案键错误、概念定义不准或关系边有误 | https://github.com/OpenSciGraph/OpenSciGraph / Issues |
359
+ | 商务与合作 | 联合评测、模型幻觉专项测评、企业内训数据 | rguo3500@gmail.com |
360
+
361
+ **联系时建议附上**:
362
+
363
+ - 你的使用场景(评测 / 训练 / 检索 / 展示)
364
+ - 目标学科与题量需求
365
+ - 期望的数据格式与许可要求
366
+
367
+ - 代码仓库:https://github.com/OpenSciGraph/OpenSciGraph
368
+ - HuggingFace 主页:https://huggingface.co/datasets/guowei79/OpenSciGraph-Physics-Bench
369
+
370
+ ## 7. 引用与许可
371
+
372
+ ```bibtex
373
+ @misc{openscigraph_golden_v0_1,
374
+ title = {OpenSciGraph Golden Dataset v0.1 (MVP)},
375
+ author = {OpenSciGraph Contributors},
376
+ year = {2026},
377
+ note = {16 physics concepts + 16 anti-hallucination benchmarks, offline-curated}
378
+ }
379
+ ```
380
+
381
+ **许可**:`license_type = UNVERIFIED`。本批次为离线产出,**未联网核验上游来源与许可**,
382
+ 因此不对数据来源作任何权利主张,也不保证可再分发。使用前请自行评估合规风险。
383
+ 若你计划商用,请先通过上方联系方式取得确认。
384
+
385
+ ---
386
+
387
+ *本卡片由 `scripts/build_golden_v01.py` 自动生成于 2026-10-14T13:47:35Z,所有数字与样例均取自同一批次成品(sha256 `2a96caad3528563f…`)。*