gifoe commited on
Commit
832bccf
·
verified ·
1 Parent(s): 5921075

Add reviewed in-progress research report

Browse files
FINAL_RESEARCH_REPORT_reviewed_20261112.md ADDED
@@ -0,0 +1,66 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # Ouro-1.4B 循环状态研究报告(进行中)
2
+
3
+ **状态:本报告是发布准备稿,不是最终结论。** 自然轨迹、Round 2/3 和 L18 双向干预已完成各自的覆盖与复核;QKV 后续干预仍在运行,其结果和最终科学复核尚未纳入。原始大张量和其他大文件仍在准备发布,不能据本报告推断它们已经上传。报告中的历史文档保留其当时状态;本文件以较新的证据为准。
4
+
5
+ ## 目标与范围
6
+
7
+ 在冻结的 Ouro-1.4B 上,解释 Joint-Option 决策随真实循环步 K1–K4 改变的计算,重点分析 K1→K2;通过全队列轨迹、可复现的因果替换和反证逐步缩小解释范围,而不是把准确率优化或某个预设机制当作目标。样本为 ARC-Challenge train 1,119、validation 299、test 1,172;train 包含固定 25 个示例,因此涉及 train 推断时另列非示例 1,094 题。Test 存在历史接触,不应当作从未看过的独立盲测。用户暂停了外部数据实验,本轮未执行外部数据模型测试。
8
+
9
+ ## 自然循环 K1–K4
10
+
11
+ 完整队列的正确题数和相邻转移如下;平分时采用首索引 argmax,救回/损失分别为错误变正确/正确变错误。
12
+
13
+ | 数据 | N | K1 / K2 / K3 / K4 正确 | K1→K2 救回/损失 | K2→K3 救回/损失 | K3→K4 救回/损失 |
14
+ |---|---:|---|---|---|---|
15
+ | train,全部 | 1,119 | 609 / 919 / 985 / 990 | 357 / 47 | 82 / 16 | 16 / 11 |
16
+ | train,非示例 | 1,094 | 589 / 894 / 960 / 965 | 352 / 47 | 见逐题记录 | 见逐题记录 |
17
+ | validation | 299 | 150 / 244 / 257 / 262 | 103 / 9 | 18 / 5 | 8 / 3 |
18
+ | test | 1,172 | 626 / 953 / 1,000 / 1,020 | 378 / 51 | 81 / 34 | 33 / 13 |
19
+
20
+ 主要净增发生在 K1→K2,但每次转移也有损失;描述性关联不能自行证明机制。Test 四步首索引平分数分别为 37/28/22/18。逐题轨迹、平分、资源中止及恢复记录见 [自然轨迹](FULL_COHORT_TRAJECTORIES.md)、[Round 1 索引](results/ROUND_1_OBSERVATION_INDEX.json);完整运行证据见发布资产中的 `orchestration_runs/run-20261107T053919Z-6d01138e/` 和 `orchestration_runs/resume-test-20261111/`。原始启动在 test 遇到资源冲突而停止,原因未记录;759 个旧分片经哈希审计、413 题在锁下恢复,未覆盖旧分片。完成覆盖和同 GPU 重放并不等于历史运行完全复现。
21
+
22
+ 历史报告 test K1/K4 为 634/1,021,本次为 626/1,020;分别 28/9 题预测不同,合计 36 个不同题号。36 题原始请求文本哈希一致,但历史完整 token ID 不可得,故无法确定差异原因,也不能把两次结果当作逐位等价。[历史比较](FULL_COHORT_TRAJECTORIES.md)保留具体转移和证据边界。
23
+
24
+ ## Round 2:位置状态与数值对照
25
+
26
+ 在第二轮物理第 12 层(索引 11)输出切点,使用同题同输入的自然 K1/K2 状态,分别替换非读出位置 C 和读出前位置 R,随后运行后缀,比较混合状态下的候选分数、预测和 gap。固定错误候选及所有错误候选的结论需分开;位置替换不证明该位置的信息最初产生于哪里。[解释预注册](research_plans/ROUND_2_INTERPRETATION_PREREG.md)规定了互补、冗余与混合不相容等竞争解释。
27
+
28
+ 固定错误候选、全部错误候选的均值及实际 argmax 是不同量:平均 gold–wrong gap 上升时,最强竞争候选仍可能改变并使预测变错。必须同时报告逐候选分数与预测转移,不能用均值代替预测,也不能把干预效果换算成“解释自然提升的百分比”。Test 的自然端点无最高分平分子集为 1,107 题;全 1,172 题结果与该预先定义子集均保留,不能按干预后的平分情况筛出有利结果。
29
+
30
+ Test 的 378 个自然 K1→K2 救回样本,在预设的两维救回网格 `00/01/10/11` 中分别为 35/147/16/180;第一位表示 C 回退后是否正确,第二位表示 R 回退后是否正确(1 为正确)。全部题结果与网格见 [更正后的 test summary](research_plans/round2_test_prospective_20261111/test_summary_corrected.json) 和同目录 `evaluate.py`。早期 `test_summary.json` 误保留 validation/blinded 状态字段,原件保留以供审计;更正文件 SHA-256 为 `41ff73fea5be01dab5714af8ae5fd4c9aad6f069046c7ffe15d643561301b872`。这些异质结果不支持把全部题压成一个统一的必要路径。[独立 BF16 范数审计](research_plans/RESULTS_TEST_NORM_AUDIT_20261111.md)覆盖 1,172 题和 2,233,719 个输入位置:两种目标范数控制在 R 的平均绝对误差分别为 0.0005334 和 0.0004417;它们是有限精度诊断,不能据此宣称方向角完全保持或对预测无影响。原导出器 NameError、独立恢复过程及对应证据见 [发现记录](research_plans/DISCOVERY_LOG_TEST_NORM_AUDIT_20261111.md)。完整 Round 2 干预与独立覆盖分别在发布资产的 `orchestration_runs/round2-full-20261111/analysis.json`、`coverage_{train,validation,test}.json`。
31
+
32
+ ## Round 3:P/Q/R 八角位置替换
33
+
34
+ 切点同样是第二轮物���第 12 层(索引 11)输出,替换来自同题的自然 K1/K2 状态后运行后缀。P 是完整示例前缀,Q 是当前问题除实际读出前位置外的输入位置,R 是实际读出前位置;它们表示被替换的位置,不是信息来源。八角组合及旧角复核要求见 [执行条款](research_plans/ROUND_3_EXECUTION_TERMS.md) 和 [解释边界](research_plans/ROUND_3_INTERPRETATION_BOUNDARIES_ADDENDUM.md)。例如 test 从 111→121(仅将 Q 从 K1 状态换成 K2 状态)救回 341、损失 51;111→211(仅换 P)救回 28、损失 38。相同操作在其他背景下有不同结果,故单条边不证明某个语义来源,也不能排除前缀早已影响 Q/R。Test 和 validation 的全部角与边见 [test summary](research_plans/round3_prospective_val_test_20261111/test_summary.json)、[validation summary](research_plans/round3_prospective_val_test_20261111/validation_summary.json),逐题及审计文件位于发布资产的 `orchestration_runs/pqr-round3-20261111/`。Round 3 的设计受 train/validation 观察影响,不能描述为完全独立于探索的预注册。
35
+
36
+ 尤其是,切点上的 Q 状态可能已包含前缀信息,P 替换效应小不能排除较早的 few-shot 影响。Round 3 test 保留自然端点无平分的 1,107 题子集,并另报告八角均无最高分平分的 974 题子集;后者是依全部干预结果定义的敏感性分析,不是替代全样本的主结论。固定错误候选、所有错误候选以及实际预测的结果均保留在 summary 与逐题证据中。
37
+
38
+ ## 自然几何、分支与 L18 双向干预
39
+
40
+ [结果图与可复现数据](figures/README.md) 展示 24 层自然轨迹上 K2−K1 候选竞争的离线 FP64 归一化读出,以及 attention/MLP 分支的离线读出变化;它们不是中间层原始概率,也不是因果干预。图将几何源的 0–23 索引转换为 1–24 层序,train 曲线使用非示例 1,094 题。自然分支观察定位了进一步干预的候选部位,但没有单凭曲线证明因果。
41
+
42
+ L18 真实干预在 `input_layernorm_2` 之后、残差相加之前,将同题同输入的 R 位置 attention 增量从 K2 移到 K1(T12)或反向移到 K2(T21);评分采用 native 候选路径,独立 CUDA 重放及全队列覆盖见 [证据索引](figures/SOURCE_INDEX.md)。正确数与配对转移如下:
43
+
44
+ | 数据 | T12:B1→T12 正确数 | 救回/损失 | T21:B2→T21 正确数 | 救回/损失 |
45
+ |---|---|---|---|---|
46
+ | train 非示例 | 589→850 | 288/27 | 894→869 | 19/44 |
47
+ | validation | 150→225 | 79/4 | 244→227 | 3/20 |
48
+ | test | 626→882 | 290/34 | 953→913 | 30/70 |
49
+
50
+ 双向结果说明这一局部增量在该替换条件下会改变大量候选决策,但 T12 并未把所有题恢复到自然 K2,T21 也未完全回到 K1,且两方向均有反例。它不是“整个 K1→K2 改善已被唯一机制解释”的证据。表格是配对题数而非独立样本,保留了救回和损失;源 summary、分母和再绘图脚本均随图提供。
51
+
52
+ 例如 test 的 `Mercury_407327` 自然 K1 正确、K2 错误,T12 将其引错而 T21 救回,说明效应并非逐题一致。K2 的 attention 增量本身依赖 K2 上游状态;用 K1 增量替换并非零消融,不能据此声称可省略 K2 或证明自然路径的必要性。Test 范数匹配 T12 的净增为 254,未匹配完整 T12 为 256,但两者有 27 题预测不同;总体净数相近不等于逐题干预等价。Fraction 精确计算为零而生产分数差非零的 L2/G1 分别有 32/9 题,因此对精确零和 BF16 生产结果须分开表述。
53
+
54
+ ## 限制、失败路线与下一步
55
+
56
+ - 本轮使用同一模型与任务;test 有历史接触,外部数据因用户暂停而未做模型测试。无法据此外推到其他模型或任务。
57
+ - 自然读出是离线 lens;位置状态替换会产生人工混合状态,不能直接推出信息来源或自然路径的充分性。BF16 舍入和分数平分均需按各审计文件解释。
58
+ - 原始 test 范数导出曾发生 NameError,之后以独立程序完整恢复;初始全队列采集亦曾资源中止后恢复。两者均保留原记录与审计,不应改写为一次无故障运行。
59
+ - 局部 L18 结果仍留有未解释差异;QKV 因子化干预及其技术/科学复核正在进行,当前不能预先报告其效应或完成状态。
60
+ - 用户已要求上传全量 Round 1 原始自然激活(约 254 GB)及其他实验结果;服务器副本仍保留,大文件上传与逐文件远端校验正在进行,尚未完成。
61
+
62
+ ## 模型身份与复现
63
+
64
+ 模型 revision 为 `574fa66cb8bf5abdc979642d01cf2b79b16bfab1`。用户原任务中的模型 SHA 字符串为 63 位,缺少首位 `5`;实际 checkpoint 文件校验和及固定 revision 元数据均为 `58872a72616c736595b8b7662079c5b12c5a162ec16eae94f21c348dfa9885af`。证据与环境、数据 revision、BF16/SDPA/native full-vocabulary 评分及演示样本定义见 [复现记录](REPRODUCTION.md)、[数据清单](data_manifest.json) 和 [原源码包审计](SOURCE_PACKAGE_AUDIT.md)。模型权重本身不随本发布包提供。
65
+
66
+ 使用固定模型与数据后,先核对以上模型、数据和脚本哈希,再依相应实验脚本与锁定环境重跑;不要将原始轨迹层的离线 lens 当作生产评分。`figures/README.md` 提供不依赖模型重新生成图的步骤。大文件的资产地址、逐卷哈希和还原命令将在实际上传、下载校验通过后补入;当前仓库中的路径索引不是已发布的凭据。