Upload 2 files

ICLR dataset/protocol/README (3).md

@@ -0,0 +1,68 @@
+# ICLR27 — Knowledge Fragility & Representational Instability
+
+研究主线：**canonical benchmark 判定"模型已知"的知识，在等价检索条件下并不稳定**——
+- **Finding 1（行为层）**：换等价问法就大面积答错 → *same answer ≠ same knowledge*。
+- **Finding 2（机理层）**：即使都答对，内部 SAE 表征也只部分对齐 → *same answer ≠ same internal representation*，且不随模型规模缓解。
+
+环境：`source /scratch/rds-fei-rsfm-rw/cshi0459/mllm_dangerous/mllm_dangerous/plus_env/bin/activate`；`export HF_HOME=/scratch/rds-fei-rsfm-rw/cshi0459/hf_cache`；2×H200，GPU 步骤设 `CUDA_VISIBLE_DEVICES`。
+7 个模型在 `Model/`：Gemma-2-2B-it, Gemma-2-9B-it, Llama-3.1-8B, Mistral-7B-v0.3, Qwen2.5-7B/14B/32B（Qwen 三个用于 scaling）。
+
+---
+
+## 全链路（按依赖顺序）
+
+### 0. 原始数据集 → 统一三元组  → `dataset/`
+- 4 个来源：`counterfact/`(azhx/counterfact ROME)、`lama/`(官方LAMA probe)、`trex/`(relbert/t_rex)、`wikidata5m/`(Alphonse7/Wikidata5M-KG)。
+- 统一成 `{subject,relation,object}`：`dataset/triples/*.jsonl`（脚本 `dataset/to_triples.py`）。细节见 `dataset/triples/README.md`。
+
+### 1. Consensus 过滤 → Global-Known Set  → `dataset/filter/`
+- 每条知识构 canonical cloze prompt → 5 模型(2B/9B/Qwen7B/Mistral/Llama)各跑 cloze **首-token argmax** 判对 → **取交集**。
+- 脚本：`build_prompts.py → filter_run.py(×5, run_all.sh) → combine.py`。
+- **正式集**：`dataset/filter/global_known_clean.jsonl` —— **7729 条**（只保留 counterfact+lama_trex；conceptnet/googlere 因 first-token argmax 过松被弃，见下"口径"）。
+
+### 2. 五类扰动评测集  → `eval_dataset/`
+- `base.jsonl`(7729 知识本体：kid/subject/relation/object/aliases/subject_aliases/template) + 5 个 query 文件：
+  `queryA_canonical`(表层改写) `queryB_paraphrase`(格式变化) `queryC_reverse`(反向) `queryD_context`(干扰) `queryE_multilingual`(zh/fr/es/de/ru)。
+- 生成：`code/05_build_eval_dataset.py` + `code/rel_templates.py`（手写关系模板库，可复现无LLM）。字段/覆盖/限制见 `eval_dataset/README.md`。
+
+### 3. Finding 1 — 行为脆弱性  → `eval_dataset/results/`
+- 扁平 prompt 表(`eval_build_prompts.py`) → 各模型贪婪生成+别名宽松匹配判对(`eval_run.py`) → 汇总(`eval_report.py`)。
+- 评测口径映射：**Canonical=base cloze 基线**、Paraphrase=A、Reverse=C、Context=D、Multilingual=E、(Format=B 额外)。
+- **结果(clean sources, 7模型均值)**：Canonical 0.97 → Paraphrase 0.76 / Format 0.67 / Context 0.57 / Reverse 0.54 / Multilingual 0.41。条件化(只看已知)仍失败 23–59%。
+- 图：`eval_dataset/results/figures/fig_fragility_heatmap.{png,pdf}`（7×6 热图，红→灰→蓝，Times 字体）。完整结论 `eval_dataset/results/FINDINGS.md`。
+
+### 4. Finding 2 — 表征不稳定性 (SAE / nKSS)  → `code/sae/` + `sae/`
+- **每层一个独立 TopK-SAE** 重构 resid_post：d_sae=8×d_model, K_train=64, K_eval=50, 50M tokens **C4**(不碰评估query, token流带断线重连)。MSE无L1, decoder列单位化, per-layer RMS归一化。
+- 流程(每模型)：`train_saes.py`(显存用 layer_chunk 分块；经验 14B chunk12/bs16、32B chunk8/bs16，chunk给大会在Adam step OOM) → `eval_extract.py`(全层hook取 answer前一位token的Top-50 features, SAE以bf16载入) → `compute_kss.py` → `fig_kss_curve.py`。驱动 `run_kss.sh`。
+- **nKSS 定义**(每层每扰动)：对 canonical 与扰动C 都答对的事实，取各层 SAE Top-50 稀疏向量算 **cosine**；S_same(同事实)/S_rel(同关系不同事实,对照)/S_rand(随机)；**nKSS=(S_same−S_rand)/(1−S_rand)**(1=内部完全一致,0=与随机无异)。
+- **结果(7模型完成)**：(1)peak 一致落在 **late layers(78–94%深度)**,非全层均匀;(2)**peak nKSS 仅 0.09–0.68 远低于1.0**;(3)reverse/multilingual 内部最不稳(对应行为掉点最狠);Gemma系最稳,Llama最不稳(reverse 0.09)。Qwen 7B→14B→32B paraphrase 0.48→0.43→0.43,**不随规模提升**。
+- 图：`sae/fig_kss_summary.{png,pdf}`（(a)归一化深度曲线 (b)peak nKSS热图）；单模型曲线 `sae/<model>/fig_kss_curve_<model>.png`。完整 `sae/FINDINGS.md`。
+- 存储：`sae/<model>/sae_layer_NN.pt`(SAE权重) / `features.npz`(Top-50特征) / `kss_<model>.json`。
+
+---
+
+## 关键口径与坑（务必记住）
+- **clean sources = counterfact + lama_trex**。conceptnet/googlere(date_of_birth) 被弃：first-token argmax 对年份(“19xx”首token谁都对)和常识多答案太松,误纳模型其实不会的知识(canonical 仅 0.04/0.20)——本身是次级发现。
+- **Multilingual 行为分被低估**：模型常用查询语言作答,gold英文匹配不上(真实保持率更高)。
+- **Reverse 只看 well_posed**(capital类,object唯一确定subject);ill_posed一对多已排除(退化~0)。
+- **C4 streaming 不稳**：长跑会 httpx 断线,train_saes 已加自动重连;HF 下载也���中断需重试。
+- SAE 训练无中途 checkpoint,崩了要整模型重训;半成品 sae_layer 文件不完整需清掉。
+
+---
+
+## 下一步：让 nKSS 量化更精准（设计已定，未实现）
+改 `compute_kss.py`，要点：
+1. **headline 用关系对照归一化** nKSS_rel=(S_same−S_rel)/(S_ceil−S_rel)，扣掉关系/格式通用特征。
+2. **加"天花板" S_ceil**(同事实两改写变体的相似度)做分母 → **跨模型同尺度可比**(否则不同SAE的cosine绝对值不可比)。
+3. **val/test split(按kid)**：val选peak band(±2层),test报告,给 **bootstrap CI**,不用全数据post-hoc max。
+4. **per-fact配对量 + Wilcoxon + 效应量**,看分布(是否双峰)。
+5. **辅助robustness**：Jaccard(Top-K id集合重叠) + K_eval敏感性 + **raw-residual对照**(不过SAE算同样nKSS,堵"SAE artifact"质疑)。
+> 一句话:在val选的peak band上,关系对照+天花板归一化的per-fact配对稳定性,test报均值+CI+检验;辅以Jaccard/raw-residual/K敏感性。可直接在已存 features.npz 上重算,不必重训SAE。
+
+## 候选后续方向
+- **机理↔行为因果链**(最强):逐事实关联 nKSS 与行为是否答对——内部稳的知识是否扰动下更不容易崩。
+- 论文主图(Finding1热图 + Finding2曲线组合)。
+- 提升SAE质量(更多token/调K)看nKSS绝对值。
+
+## Memory 索引(自动加载)
+`[[iclr27-triples]] [[iclr27-filtering]] [[iclr27-evl]] [[iclr27-fragility]] [[iclr27-sae-kss]] [[scratch-env]]`

ICLR dataset/protocol/README (4).md

@@ -0,0 +1,216 @@
+# `dataset3/` —— Fact Knowledge Stability Benchmark
+
+按 [`../dataset/fact_knowledge_stability_dataset_reconstruction.md`](../dataset/fact_knowledge_stability_dataset_reconstruction.md)
+从 `../dataset/` 的数据重建。**不改动 `../dataset/` 和 `../dataset2/`。**
+
+与 `dataset2` 的根本区别在方法论，不在数字：
+
+> **基准集是固定的 2,592 条，对所有模型相同。** `K_m` 只是每个模型的正确性**标签**，
+> 绝不用来从基准集里删事实（spec §2.1）。模型答错、一直答错、拒答、
+> 在不同条件下答不同答案——事实都留在集合里。
+
+---
+
+## 目录
+
+```
+dataset3/
+├── configs/                     # 全部参数外置，脚本里不硬编码（spec §4.4, §18）
+│   ├── models.yaml              #   5 个过滤模型 + 评测模型 + 生成配置
+│   ├── relations.yaml           #   21 个基准关系 + 排除清单 + 两个开关
+│   ├── source_templates.yaml    #   原始来源、cloze 模板、别名资源
+│   └── eval_conditions.yaml     #   8 个条件的角色/目标槽/期望计数
+├── src/
+│   ├── common.py                    公共：配置/规范化/校验和/计数核对
+│   ├── build_candidate_known.py (I)   → candidate_known_8107.jsonl
+│   ├── enrich_facts.py         (II)   → enriched_facts_6180.jsonl
+│   ├── select_benchmark.py     (III)  → benchmark_facts_2592.jsonl
+│   ├── build_eval_bank.py      (IV)   → evaluation_queries_44418.jsonl
+│   ├── validate_facts.py              → validation_report.json  ← 硬门禁
+│   ├── build_stats.py                 → dataset_statistics.json
+│   ├── qualification_run.py    (V)    → qualification/<model>.jsonl   [GPU]
+│   ├── qualification_score.py  (V)    → known_labels.json
+│   ├── eval_run.py             (VI)   → evaluation/<model>.jsonl       [GPU]
+│   ├── eval_score.py           (VI)   → stability_report.json
+│   ├── filter_run.py                  阶段 I 首 token 过滤（重跑用）  [GPU]
+│   ├── scoring_full.py                五标签判分器
+│   ├── qual_templates.py              非基准关系的兜底问句
+│   └── test_scoring.py                31 条单元测试
+├── outputs/
+└── run_pipeline.sh              # build / gpu / score / report / all
+```
+
+---
+
+## 六个阶段
+
+### I. 候选召回 → 8,107（spec §4）
+
+```
+1,783,541 cloze prompt
+   → 5 模型首 token argmax 取交集 → 10,601
+   → 丢弃 T-REx / Wikidata5M 子集，补 PopQA 378 → 8,107
+```
+
+**GPU 未重跑。** 那 1,783,541 × 5 次前向的逐条判定向量已存于
+`dataset/filter/correct_<model>.npy`。[build_candidate_known.py](src/build_candidate_known.py)
+重新读取 prompt 表、**重新求交集**、重新施加来源丢弃规则，并把每个输入文件的
+校验和写进 `stage1_report.json`——数字是**验证出来的**，不是照抄。
+另外与 `dataset/filter/global_known_clean.jsonl` 做集合相等性核对。
+要从零重跑推理用 `src/filter_run.py`。
+
+### II. 事实增强 → 6,180（spec §5）
+
+- **实体感知分组**：优先用实体 ID，无 ID 才退回规范化文本；**跨来源合并**
+  （1,036 组同时出现在 CounterFact 和 LAMA-TREx）。8,107 行 → 6,185 组
+- **函数型冲突丢弃 5 条**：同名不同人（两个 "Michael Vincent" 生于 1964/1976）问题本身无解。
+  判据严格——**缺实体 ID 不算"同一实体"的证据**，所有成员必须都有 ID 且一致才保留
+- **别名扩展**：对别名资源做**单次过滤扫描**（spec §5.3），不全量载入
+- **挂 canonical 问句**，与评测扰动模板严格分离（spec §16）
+
+### III. 基准选择 → 2,592 / 21 关系（spec §6）
+
+```
+6,180 → core 来源（CounterFact + LAMA-TREx + PopQA）→ 3,705
+      → 函数型（单值）关系 → 2,592
+```
+
+### IV. 查询库 → 44,416（spec §8–§12）
+
+| 条件 | 查询 | 事实 | 角色 |
+|---|---:|---:|---|
+| anchor | 2,592 | 2,592 | main |
+| multilingual | 12,010 | 2,402 | main |
+| paraphrase | 10,053 | 2,592 | main |
+| format | 7,776 | 2,592 | main |
+| context | **6,829** | 2,591 | main |
+| reverse | 634 | 253 | **结构分析，单独报** |
+| recognition | 3,412 | 2,585 | 诊断 |
+| reverse_illposed | 1,110 | 1,110 | 诊断 |
+| **合计** | **44,416** | | main forward **39,260** |
+
+每条查询自带 `use_for_main_forward` / `use_for_reverse_analysis` /
+`use_for_recognition_analysis` 三个布尔量，**由 `eval_conditions.yaml` 派生**，
+下游聚合不需要硬编码哪个条件进哪个平均。校验器会检查每行的布尔量与注册表一致。
+
+### V. Anchor 资格认证 → `K_m` 标签（spec §7）⬜ 待跑
+
+纯补全 prompt（base 与 instruct 用**完全相同**的字符串，无 chat template）、
+贪婪解码 24 token、无候选无 few-shot。判分在 CPU，**五标签**：
+
+`correct` / `incorrect` / `ambiguous` / `abstain` / `unparseable`
+
+输出 `known_labels.json`：`{fact_id: {model: label}}`，覆盖全部 2,592 × 全部模型。
+
+### VI. 扰动评测 → 稳定性 ⬜ 待跑
+
+[eval_run.py](src/eval_run.py) 跑全部 44,416 条查询，
+**解码配置与 anchor 完全一致**（同一份 `configs/models.yaml:generation`）——
+否则 `max_new_tokens` 或 chat template 的差异会被误读成稳定性效应。
+anchor 也一起重跑，让所有条件走同一条代码路径。
+
+[eval_score.py](src/eval_score.py) 在 CPU 判分并出报表，三条规则写死在代码里而不是留给读者：
+
+1. **按查询自带的布尔量分组** —— `recognition` 和 `reverse_illposed` 永不进主平均，
+   `reverse` 因为换了目标槽而单独报（spec §2.3）
+2. **两个分母并排报**：`fixed`（固定 2,592，spec §2.1）与
+   `anchored`（限定在该模型的 `K_m` 内，即条件化保持率）
+3. **每个数字按 `answer_in_subject_surface` 再拆一次**（`·real` / `·copy`），
+   因为 28.9% 的事实靠复制就能答对、天然接近满分（见 F1）
+
+主指标 macro = paraphrase / format / context / multilingual 四者均值：
+anchor 是基线不计入，reverse 换了槽不计入，两个诊断条件不计入。
+
+---
+
+## 运行
+
+```bash
+cd /scratch/rds-fei-rsfm-rw/cshi0459/ICLR27/dataset3
+bash run_pipeline.sh build     # 阶段 I-IV + 校验 + 统计，CPU 约 1 分钟（已跑完）
+bash run_pipeline.sh gpu       # 阶段 V+VI 生成，每个模型只加载一次权重
+bash run_pipeline.sh score     # 阶段 V 判分 → K_m 标签
+bash run_pipeline.sh report    # 阶段 VI 判分 → stability_report.json
+```
+
+`gpu` 把 anchor 和扰动两趟生成合在一起跑，权重只载入一次。
+两个生成阶段都幂等：anchor 已存在会跳过，`eval_run.py --resume` 会跳过已完成的查询。
+
+**顺序要求**：`score` 必须在 `report` 之前跑，否则没有 `known_labels.json`，
+`anchored` 那一列会缺失（脚本会警告并只报 `fixed`）。
+
+---
+
+## 当前状态
+
+| 阶段 | 状态 |
+|---|---|
+| I 候选召回 | ✅ 8,107，全部计数命中 |
+| II 事实增强 | ✅ 6,180，6,185 组 / 5 冲突 / 1,771 合并 / 1,036 跨来源，全中 |
+| III 基准选择 | ✅ 2,592 / 21 关系，全中 |
+| IV 查询库 | ✅ 44,416（见差异 D1） |
+| 校验 | ✅ **0 hard errors** |
+| 单元测试 | ✅ **31/31** |
+| V 资格认证 | ⬜ 待跑（判分逻辑已用合成数据演练通过） |
+| VI 扰动评测 | ⬜ 待跑（运行器 + 报表已用合成数据演练通过） |
+
+---
+
+## 与 spec 的差异（完整版见 [outputs/reconstruction_differences.md](outputs/reconstruction_differences.md)）
+
+除一处外全部精确复现。
+
+**D1 — context 6,831 → 6,829，总计 44,418 → 44,416。**
+旧数据里有 2 条 context 查询的干扰实体字面包含 gold：
+`"...confuse States Reorganisation Act with **Indian** Act..."` 而 gold 是 `India`。
+违反 spec §9.4 与 §13.9。按 spec §10「发现既有缺陷可改数」处理：
+在建库时加**规则化守卫**（主语提及剔除后 gold 仍出现即丢弃），不是硬编码例外。
+
+**C1 — spec §6.2 与要求的规模自相矛盾。**
+§6.2 点名 `developer of` / `manufacturer of` 不适合，但这两个关系共 **846 条**，
+去掉只剩 1,746 条 / 19 关系，达不到 §15 验收要求的 2,592 / 21。
+处理：保留并打 `spec_6_2_flag`，`relations.yaml` 提供 `drop_spec_6_2_flagged` 开关
+可一键产出 1,746 条的合规变体。
+
+**F1 — 28.9% 的基准事实可以靠复制字符串答对。**
+2,592 条里有 **750 条** object 字面包含在 subject 名字里：
+
+```
+Airbus A318  → manufacturer  Airbus      (该关系 87.8% 命中)
+Adobe Acrobat → developer    Adobe        (49.1%)
+Amazon Music  → owned by     Amazon       (58.4%)
+```
+
+其中 586 条来自 manufacturer 和 developer——**独立印证了 C1**。
+这类事实"稳定"的原因与知识无关，会抬高所有保持率、削弱要研究的效应。
+按 spec §16 不删，打 `answer_in_subject_surface` 标记，事实和查询两级都带。
+`qualification_score.py` 已经**默认分开报**这两个子集的准确率。
+
+**F2 — 8,107 里有 808 条完全重复的三元组**（唯一四元组只有 7,299）。分组阶段自然吸收，仅记录。
+
+**N1 — Stage I 未重跑 GPU**（见上）。
+**N2 — `capital_of` 方向未归一化**：spec §2.2 要求单一方向，但归一化会改变规模，故保留
+`direction: inverse` + `inverse_of: capital` 显式标注，开关在 `relations.yaml`。
+
+---
+
+## 两个必须记住的口径
+
+1. **分母永远是 2,592。** `K_m` 是标签不是筛子。加模型、换模型都不改任何已算出的数。
+2. **reverse 不进 main forward 平均。** 它换了目标槽（object → subject），
+   spec §2.3 要求单独报。`recognition` 和 `reverse_illposed` 同理，且校验器有硬检查。
+
+---
+
+## 报告用描述（spec §17）
+
+> We first use five-model first-token consensus to retrieve high-probability
+> factual candidates from large-scale knowledge resources. We then merge
+> duplicate facts, expand entity aliases, construct independent canonical
+> questions, remove ambiguous and multi-valued relations, and obtain a fixed
+> benchmark of 2,592 facts across 21 relations. Model-specific open-ended anchor
+> generation provides correctness labels but does not alter the benchmark
+> denominator. Based on the fixed fact set, we construct 44,416 queries covering
+> anchor, paraphrastic, format, contextual, cross-lingual, reverse, and
+> recognition conditions, while isolating ill-posed reverse queries as a
+> separate diagnostic set.