Hugging Face's logo

Datasets:
guowei79
/
OpenSciGraph-Physics-Bench

Tasks:
Multiple Choice
Question Answering
Text Classification
Modalities:
Text
Formats:
json
Languages:
Chinese
Size:
< 1K
Tags:
physics
knowledge-graph
hallucination
benchmark
chinese
offline
Libraries:
Datasets
pandas
Polars
License:
Dataset card Data Studio Files
xet
 Community
1
OpenSciGraph-Physics-Bench / README.md
guowei79's picture
guowei79
Add README.md (OpenSciGraph v0.1 MVP)
ef499e2 verified
preview code
|
Raw History Blame Contribute Delete
17.2 kB
metadata 
pretty_name: OpenSciGraph Golden Dataset v0.1 (MVP)
language:
  - zh
license: other
license_name: unverified-offline-batch
task_categories:
  - multiple-choice
  - question-answering
  - text-classification
tags:
  - physics
  - knowledge-graph
  - hallucination
  - benchmark
  - chinese
  - offline
size_categories:
  - n<1K
configs:
  - config_name: eval_items
    data_files:
      - split: train
        path: eval_items.jsonl
  - config_name: concepts
    data_files:
      - split: train
        path: concepts.jsonl

OpenSciGraph Golden Dataset v0.1 (MVP)

一句话：16 组基础物理概念图谱 + 16 道防幻觉评测题（概念辨析 11 + AI 幻觉陷阱 5）， 全部经人工逐题复核准入，100% 离线提纯、零虚假来源，纯数据产物、无模型推理参与。

1. 数据简介

OpenSciGraph 面向大模型物理知识可靠性评测。本数据包是其 v0.1 MVP 公开样本，包含两部分内容：

部分 数量 内容
物理概念图谱 16 条 中英文名、中文定义、核心公式、上位/下位概念关系、许可标识
防幻觉 Benchmarks 16 道 概念辨析 11 道 + AI 幻觉陷阱 5 道，含四选项、答案键、解析、命中混淆点

题目与概念严格一一对应（eval_id == "EVAL_" + concept_id），且每道题内联了对应概念对象， 前端或评测脚本无需再做关联查询。

覆盖领域：力学（万有引力、加速度、功率）、振动与波动（频率、波长、干涉）、 热学（温度、热量、热传导）、电磁学（电荷）、光学与量子效应（偏振、光电效应、波粒二象性）。

它为什么值得一看

  • 幻觉陷阱题是特制的：题干植入一个错误前提（如「功率是一种能量」「加速度是运动学的一个分支学科」）， 正确答案必须明确否定该前提，而 3 个干扰项顺着错误前提走——专门用来暴露模型 「把相关关系误判为种属关系」这类系统性幻觉，普通 QA 数据集测不出来。
  • 答案键经过人工验算：项目在 50 题全批次里确认了 9 道有害缺陷题并隔离， 又在复核中发现 6 道「双正确项 / 答案键反转」缺陷——盲测自洽 ≠ 物理正确， 这是本项目最重要的一条结论。本包只收编人工判定为合格的全部 16 道。
  • 离线可复现：打包脚本确定性执行，运行多少次产物完全一致（无随机抽样）。

溯源信息

项 值
数据集名称 OpenSciGraph Golden Dataset
版本 v0.1（v0.1_mvp）
生成时间（UTC） 2026-10-14T14:00:28Z
生成脚本 scripts/build_golden_v01.py
是否含模型推理 model_involved = false
是否全程离线 offline = true
选题方式 确定性提取（非随机抽样）：fixed_human_reviewed_ok
主文件名 OpenSciGraph_Golden_v0.1.json
sha256 0cac0180402d470e24e4a4a48edb023ad74712c2ec95379128a45090955b704c

仓库文件

文件 说明
README.md 本数据集卡（由 HuggingFace_Dataset_Card.md 改名而来）
OpenSciGraph_Golden_v0.1.json 完整数据包（UTF-8 无 BOM，41201 字节），含 concepts[] 与 eval_items[]
eval_items.jsonl datasets 分片：16 行，一行一题
concepts.jsonl datasets 分片：16 行，一行一概念

为什么有两个 JSONL？ 完整数据包是单个 JSON 对象，而 HuggingFace 的 json loader 面向 「JSONL 或 JSON 数组」，无法把嵌套对象展开成多行。因此额外提供两个扁平分片， 二者均由同一份数据派生、与主包逐行一致，保证 load_dataset() 开箱可用。

2. 质量证明：28 项结构校验全部 PASS

成品落盘前由打包脚本执行 28 项结构校验，结论 28/28 全部通过； 另用独立脚本（不复用同一套校验代码）二次交叉复核，结论一致。完整明细见仓库内 reports/stage4_golden_v01_validation.md。

# 检查项 结论 说明
1 顶层必需键齐全 ✅ PASS 缺失=[]
2 eval_items 数量 = 16 ✅ PASS 实际=16
3 concepts 数量 = 16 ✅ PASS 实际=16
4 counts 与实际一致 ✅ PASS counts=16/16
5 eval_id 集合与清单一致 ✅ PASS 实际=['EVAL_P004', 'EVAL_P006', 'EVAL_P008', 'EVAL_P010', 'EVAL_P012', 'EVAL_P026', 'EVAL_P044', 'EVAL_P045', 'EVAL_P049', 'EVAL_P059', 'EVAL_P060', 'EVAL_P070', 'EVAL_P073', 'EVAL_P093', 'EVAL_P096', 'EVAL_P098']
6 eval_id 无重复 ✅ PASS —
7 提取顺序 = 辨析在前/陷阱在后 ✅ PASS —
8 题型分布 11 辨析 / 5 陷阱 / 0 公式 ✅ PASS 辨析=11 陷阱=5 公式=0
9 eval_item 字段与顺序符合契约 ✅ PASS —
10 options 均为 4 项、非空、互不重复 ✅ PASS —
11 correct_option ∈ {A,B,C,D} ✅ PASS —
12 内联 concept 与 concepts[] 逐字段一致 ✅ PASS —
13 eval_id == 'EVAL_' + concept_id ✅ PASS —
14 concept_id 全局唯一 ✅ PASS —
15 concepts[].concept_id 与题目一一对应 ✅ PASS —
16 concept 字段与顺序符合契约 ✅ PASS —
17 wikidata_id 全部为 null（零虚假来源） ✅ PASS —
18 source_url 全部为 null（零虚假来源） ✅ PASS —
19 license_type 全部为 UNVERIFIED ✅ PASS —
20 definition_zh 全部 >= 10 字 ✅ PASS —
21 不含被隔离的缺陷题 ✅ PASS —
22 全部题目人工复核判定为 ok ✅ PASS —
23 model_involved == false ✅ PASS —
24 offline == true ✅ PASS —
25 JSON 可序列化且往返一致 ✅ PASS —
26 文本无 BOM ✅ PASS —
27 换行统一为 LF ✅ PASS —
28 UTF-8 可解码 ✅ PASS 41201 字节

校验覆盖的六个维度：

  1. 结构与计数：顶层键齐全、eval_items = 16、concepts = 16、counts 与实测一致；
  2. 标识一致性：eval_id 集合与人工清单精确相等、无重复、辨析在前陷阱在后、题型分布 11 / 5 / 0；
  3. 字段契约：字段名与顺序逐条比对 Schema、options 恰好 4 项且非空去重、correct_option ∈ {A,B,C,D}；
  4. 关系完整性：eval_id == "EVAL_" + concept_id、概念 ID 全局唯一、内联 concept 与 concepts[] 逐字段一致；
  5. 来源诚信：wikidata_id / source_url **全部为 null**、license_type 全为 UNVERIFIED、definition_zh 均 ≥ 10 字；
  6. 排除与编码：无隔离缺陷题混入、全部题目人工判定为 ok、JSON 可往返序列化、无 BOM、纯 LF、UTF-8 可解码。

口径说明：「零虚假来源」指来源字段一律留空、绝不编造 QID 或链接； 这不等于数据已权威化——parent_concept / child_concepts 关系边尚未核验（见第 5 节）。

3. 数据样例

以下两段 JSON 直接从 OpenSciGraph_Golden_v0.1.json 的 eval_items[] 中抽取，未做任何改写。

3.1 概念辨析题示例 —— EVAL_P006（能量） 

{
  "eval_id": "EVAL_P006",
  "concept_id": "P006",
  "question_type": "concept_distinction",
  "question": "关于能量和动能的区别，以下描述正确的是？",
  "options": [
    "能量包括动能、势能和内能等多种形式",
    "动能是物体由于静止而具有的能量",
    "能量和动能的单位都是焦耳，因此它们没有区别",
    "动能可以转化为其他形式的能量，但能量不能相互转化"
  ],
  "correct_option": "A",
  "explanation": "正确选项A说明了能量是统称，包括动能、势能和内能等多种形式。主要干扰项B混淆了静止物体不具有动能的概念。",
  "target_hallucination_point": "模型可能混淆静止物体是否具有动能",
  "concept": {
    "concept_id": "P006",
    "name_zh": "能量",
    "name_en": "Energy",
    "wikidata_id": null,
    "definition_zh": "物体进行工作或引起变化的能力。",
    "formula": null,
    "parent_concept": "物理量",
    "child_concepts": [
      "动能",
      "势能",
      "内能"
    ],
    "license_type": "UNVERIFIED",
    "source_url": null,
    "missing_zh_reason": null
  }
}

看点：干扰项 B 把「静止」和「动能」对立起来（静止物体动能为零，故 B 为假）， C 用「单位相同 ⇒ 没有区别」偷换概念，D 则否认了能量守恒框架下能量形式的相互转化。

3.2 AI 幻觉陷阱题示例 —— EVAL_P004（万有引力定律） 

{
  "eval_id": "EVAL_P004",
  "concept_id": "P004",
  "question_type": "hallucination_trap",
  "question": "关于万有引力定律与力的关系，下列说法正确的是？某同学认为万有引力定律就是一种力，请你判断。",
  "options": [
    "是的，万有引力定律就是一种力",
    "不是，万有引力定律描述了力的作用规律",
    "万有引力定律可以产生力，但不是力本身",
    "万有引力定律与力没有关系"
  ],
  "correct_option": "B",
  "explanation": "正确答案为B，万有引力定律描述的是物体之间力的作用规律，而不是一种力。干扰项A和C看似合理，但都未能明确指出二者本质上的区别。D项虽然提到了关系不成立，但没有具体说明正确的关系。",
  "target_hallucination_point": "把相关关系误判为种属关系",
  "concept": {
    "concept_id": "P004",
    "name_zh": "万有引力定律",
    "name_en": "Newton's law of universal gravitation",
    "wikidata_id": null,
    "definition_zh": "两个物体之间存在相互吸引的力，其大小与两物体质量的乘积成正比，与它们距离的平方成反比。",
    "formula": "F = G * (m1 * m2) / r^2",
    "parent_concept": "力",
    "child_concepts": [],
    "license_type": "UNVERIFIED",
    "source_url": null,
    "missing_zh_reason": null
  }
}

看点：题干把「万有引力定律是一种力」这个错误前提塞给模型。 选项 A 直接顺从前提；选项 C「定律可以产生力，但不是力本身」看似辩证， 实际仍未否定「定律 vs 力」的混淆——这正是模型最容易踩的坑。 对应的 target_hallucination_point 字段写明：把相关关系误判为种属关系。

4. 开发者加载代码（Python）

主文件是单个 JSON 对象（非 JSONL、非 parquet），含概念图谱与题目两部分； 仓库另提供两个扁平的 JSONL 分片供 datasets 在线加载。

4.1 在线加载（HuggingFace datasets，推荐） 

from datasets import load_dataset

# 评测题分片：16 行，一行一题
bench = load_dataset('guowei79/OpenSciGraph-Physics-Bench', 'eval_items', split='train')
print(bench)
print(bench[0]['eval_id'], bench[0]['question_type'], bench[0]['correct_option'])

# 概念分片：16 行，一行一概念
concepts_ds = load_dataset('guowei79/OpenSciGraph-Physics-Bench', 'concepts', split='train')
print(concepts_ds[0]['name_zh'], concepts_ds[0]['definition_zh'])

国内网络提示：huggingface.co 在中国大陆可能不可达。下载场景可先设镜像： export HF_ENDPOINT=https://hf-mirror.com（PowerShell：$env:HF_ENDPOINT="https://hf-mirror.com"）。 实测（2026-10-14）该镜像同样透传写操作，create_repo / upload_file / delete_repo 均可用， 故本数据集的上架亦经镜像端点完成；但镜像稳定性不由本项目保证，正式发布建议直连官方站点。

4.2 直接读取单文件 JSON（含完整图谱） 

import json
from pathlib import Path

PATH = Path('release/v0.1_mvp/OpenSciGraph_Golden_v0.1.json')

with PATH.open(encoding='utf-8') as fh:        # 注意：UTF-8，无 BOM
    data = json.load(fh)

print(data['counts'])
# {'concepts': 16, 'eval_items': 16, 'distinction': 11, 'trap': 5, ...}

concepts = {c['concept_id']: c for c in data['concepts']}
for item in data['eval_items']:
    assert item['concept'] == concepts[item['concept_id']]   # 内联副本一致性自检

4.3 按题型筛选 

distinction = [i for i in data['eval_items'] if i['question_type'] == 'concept_distinction']
trap        = [i for i in data['eval_items'] if i['question_type'] == 'hallucination_trap']

print(len(distinction), len(trap))   # 11 5

4.4 评测你的模型（完整打分骨架） 

import re

PROMPT = '''请回答下面的单选题，只输出一个大写字母（A/B/C/D）。

{question}

A. {o0}
B. {o1}
C. {o2}
D. {o3}'''

def build_prompt(item):
    return PROMPT.format(
        question=item['question'],
        o0=item['options'][0], o1=item['options'][1],
        o2=item['options'][2], o3=item['options'][3],
    )

def extract_choice(text):
    m = re.search(r'\b([ABCD])\b', text.upper())
    return m.group(1) if m else None

def evaluate(model_fn, items):
    rows, correct = [], 0
    for item in items:
        pred = extract_choice(model_fn(build_prompt(item)))
        ok = (pred == item['correct_option'])
        correct += ok
        rows.append({
            'eval_id': item['eval_id'],
            'question_type': item['question_type'],
            'gold': item['correct_option'],
            'pred': pred,
            'correct': ok,
        })
    acc = correct / len(items) if items else 0.0
    # 陷阱题准确率单独统计——这才是本数据集的核心指标
    traps = [r for r in rows if r['question_type'] == 'hallucination_trap']
    trap_acc = sum(r['correct'] for r in traps) / len(traps) if traps else 0.0
    return {'overall_acc': acc, 'trap_acc': trap_acc, 'details': rows}

# 示例：接任意模型（此处用本地 Ollama 的 chat 接口）
# from ollama import Client
# client = Client(host='http://127.0.0.1:11434')
# def model_fn(p):
#     return client.chat(model='qwen2.5:7b-instruct-q5_K_M',
#                        messages=[{'role': 'user', 'content': p}])['message']['content']
# print(evaluate(model_fn, data['eval_items']))

4.5 概念图谱字段速查 

c = concepts['P006']
print(c['name_zh'], c['name_en'])      # 能量 Energy
print(c['definition_zh'])              # 物体进行工作或引起变化的能力。
print(c['formula'])                    # None（描述性概念无公式）
print(c['parent_concept'], c['child_concepts'])
# 物理量 ['动能', '势能', '内能']
print(c['wikidata_id'], c['source_url'], c['license_type'])
# None None UNVERIFIED

5. 已知限制

请在使用前了解以下几点，避免误用：

  1. concepts[].parent_concept / child_concepts 为模型推断的层级边，阶段二复核实测约半数边不可信（双向闭合率仅 48.4%），仅供检索参考，不可作为权威本体。
  2. EVAL_P049 题干内嵌了选项文本（格式瑕疵），不影响答案键正确性。
  3. 公式计算题（16 道）按要求未纳入本包，也未经逐题复核。
  4. suspect 与 defect 题目仍留在主线数据 physics_eval_v1.jsonl 中，扩充评测集前须先修正或剔除。

此外：本包仅 16 组样本，适合做冒烟测试与展示，统计显著性有限； 同批次主线数据中仍存在未经复核的公式计算题，不建议直接并入评测。

6. 需求反馈与联系

本数据包为 v0.1 MVP 公开样本。如果你需要全量数据、定制数据集或合作，欢迎联系我们：

需求类型 说明 联系方式
索要全量数据 完整概念图谱与全量评测题（含未公开部分） rguo3500@gmail.com
定制数据集 指定学科领域 / 题型配比 / 语言 / 输出格式（JSONL、Parquet 等） rguo3500@gmail.com
缺陷反馈 发现答案键错误、概念定义不准或关系边有误 https://github.com/rguo3500/OpenSciGraph / Issues
商务与合作 联合评测、模型幻觉专项测评、企业内训数据 rguo3500@gmail.com

联系时建议附上：

7. 引用与许可 

@misc{openscigraph_golden_v0_1,
  title        = {OpenSciGraph Golden Dataset v0.1 (MVP)},
  author       = {OpenSciGraph Contributors},
  year         = {2026},
  note         = {16 physics concepts + 16 anti-hallucination benchmarks, offline-curated}
}

许可：license_type = UNVERIFIED。本批次为离线产出，未联网核验上游来源与许可， 因此不对数据来源作任何权利主张，也不保证可再分发。使用前请自行评估合规风险。 若你计划商用，请先通过上方联系方式取得确认。

本卡片由 scripts/build_golden_v01.py 自动生成于 2026-10-14T14:00:28Z，所有数字与样例均取自同一批次成品（sha256 0cac0180402d470e…）。