Corning's picture
Publish selected code-adapter trajectories and harness evidence
4d3c068 verified
|
Raw History Blame Contribute Delete
12.2 kB

Code LoRA:证据整理与研究交接

本材料整理一组可追溯的开发实验、轨迹诊断与可复用 harness 改进。数据入口:Hugging Face evidence bundle。实现入口:GitHub code-adapter-evidence。

目前能够支持的结论

  1. 终止与交付机制值得保留。 bounded_delivery 相比 stable_delivery,code 组的正确数保持 21/30,completion tokens 从 170,510 降到 101,620(减少 40.4%),请求从 232 降到 177,执行尝试从 157 降到 106。29 题口径从 20/29 到 21/29;交付从 30/30 到 29/30,因此不能把成本改善同时表述为全面交付改善。
  2. 当前没有建立稳定的 LoRA 净准确率收益。 推荐作为后续起点的 bounded_delivery 为 sham 22/29、code 21/29。共享草稿达到双方 21/29,但 code 的交付降到 26/30,且存在草稿准备成本。
  3. 存在可利用的局部能力。 部分轨迹能正确修正物理模型、量纲或目标量;另一些已经得到正确数值,却在后续复核中改错或没有提交。失败原因并非单一的“不会计算”或单一的“只缺停止规则”。
  4. 更强的流程约束也可能损伤表现。 严格报告格式、新上下文复核、问题优先与共享草稿均未在这个开发面板上产生稳定净收益。不能从各配置挑选正确答案再拼成一个方法成绩。

这些是重复使用同一批开发题的诊断结果,不是独立测试集确认,也不构成“无遗忘”的证明。

对照设计与结果

核心对照保持题目、冻结计划或通用指引、首个模型请求、采样参数和资源预算一致,仅替换 code adapter 权重:sham 使用相同形状/配置的精确零增量 adapter,code 使用训练得到的 adapter。两个条件都经过 lora-code 路由。Qwen3-32B backbone 的 snapshot、adapter 配置和权重摘要见 model_provenance.json 与 audit_support/*/*/adapters.json。code adapter 的 rank 是 32;服务的最大允许 rank 是 64。

主评测保留原始 30 题。diff_032 缺少数值阻尼系数,另报预先声明排除它的 29 题口径。没有因其他题目歧义或结果不理想而追加排除。评分使用实际终止提交和原有 SciBench 数值判定;不从历史草稿找答案,也不把思考过程中的正确数值补成最终提交。

配置 sham /30 code /30 sham /29 code /29 code 交付 /30 code completion tokens code 请求 code 执行尝试
stable_delivery 24 21 24 20 30 170,510 232 157
strict_evidence 7 3 7 3 3 84,867 97 60
bounded_delivery 22 21 22 21 29 101,620 177 106
question_first 23 19 22 19 27 127,594 156 83
fresh_review 22 19 22 19 27 94,304 156 75
shared_drafts 22 21 21 21 26 97,105 172 106

这六组均通过各自冻结运行的 workflow audit。results.csv 包含两臂完整计数,audits/ 和 audit_support/ 保存审计结论、A/A 检查、启动检查、源文件摘要和权重摘要。原始 source SHA256 与规范化发布文件的 checksum 属于不同层次,不应混用。

legacy_workflow_diagnostic 另外保留 60 条 paired 轨迹:sham 22/30,code 13/30,code 实际交付 17/30。但整体 workflow 未完成,后续 native 阶段出现基础设施中断,另有 sandbox 归属问题的不确定性。这组只能用于局部行为诊断,不能作为有效完整基线,也不能将它与后续成绩之差直接归因于某项修复。

有益的工程改进

  • 预留最终提交预算。 普通计算与最终交付分开计费,预留 1,024 completion tokens;最终调用保留相同 code adapter,关闭工具与 thinking,仅接受明确的终止产物。没有交付就记录缺失,不调用额外强模型补答。
  • 有限执行与有条件修复。 推荐配置最多 4 次成功执行、10 次总执行、3 次连续失败;重复相同成功代码与反馈、连续仅打印已有值等情况会触发交付。执行错误、物理检查不通过时仍允许针对性修正。
  • 管理真实 sandbox 生命周期。 每题持有自己的 lease,限制跨臂占用数;超时后回收原 sandbox,并明确告知状态丢失。成功计数依据真实执行反馈,避免 SDK 表示和附加元数据造成误判。
  • 保持上下文与工具协议一致。 明确 task identity、保留必要执行反馈、限制过长工具输出,避免无效工具调用和上下文耗尽无限侵蚀最后提交预算。
  • 可审计的对照。 独立启动 canary、同权重 A/A、跨服务规划阶段检查、两臂首请求比较、路由和预算审计、源码冻结与 adapter 摘要检查。有限 A/A 样本通过不等于证明全部生成完全确定。
  • 统一部署契约。 后续对照统一使用七个 projection target modules。历史部署检查曾发现 lm_head 与七投影配置不一致,因此更早的跨设置差异不能只归因于 code 能力。

代码中的严格 evidence gate 和 fresh review 都是显式可选机制,默认推荐的 bounded launcher 不启用它们。发布代码合并了这些入口与回归测试;它是便携整理版,不是七套历史运行源码的逐字镜像。

已检查但没有形成稳定收益的方向

strict_evidence 要求符合固定 JSON、题目引用和检查报告格式。格式门槛主导了大量失败,因此 3/30 不能解释为 code 模型的内在能力上限。有效实现可供研究,但不建议作为默认输出契约。

question_first 去掉历史计划,改用原题优先的通用指引。code 从 bounded 的 21/30 降到 19/30。它修复了部分题,却丢失了其他题,说明单纯移除计划也不足以稳定改善结果。

fresh_review 在首次成功执行后进行一次新上下文复核,仍用相同 adapter、sandbox 和预算计数。执行尝试减少到 75,但正确数降到 19/30。复核可能引入新的错误假设,不能默认把“再检查一次”当成可靠性提升。

shared_drafts 为所有题采用相同草稿规则:只取 question_first sham 的第一个回复;仅在第一个回复单纯创建 sandbox 时允许取第二个回复。没有使用执行反馈、终止答案或参考评分来选草稿。code 回到 21/30,却只有 26/30 交付,其中 18 题触及四次成功执行上限。

共享草稿准备额外消耗 58 个请求、76,318 completion tokens、172,552 prompt tokens,供两臂共同使用。将 code 条件单独部署时,草稿准备加该臂的 completion tokens 合计 173,423,不能只报 97,105。历史计划的生成成本没有重新计量,不能据此作统一端到端成本排名。

shared_drafts 的指定 29 题中,双方都对 18 题、各自独对 3 题、都错 5 题;配对差值为 0,描述性 bootstrap 95% 区间约为 ±17.24 个百分点,McNemar p=1。这是小样本开发诊断,不能当成等效性结论。

建议优先阅读的轨迹

每个 variant 压缩文件包含两臂全部 30 题;通过 trajectory_index.jsonl 定位。下面的数值是轨迹证据或诊断,正式成绩始终以 result 为准。

轨迹 观察 对研究的意义
legacy / code / thermo_055 先算出约 655.57,随后反复执行,最终没有交付;该题出现 26 次 Python 执行 局部求解能力与停止/交付失败可以同时存在;所属整体运行不完整
stable / code / thermo_055 从错误的 exp(x)-1 改为二能级体系的 exp(x)+1,得到约 655.095 并提交正确答案 一刀切限定一次执行会丢失有价值的模型修正
legacy / code / fund_017 将旋转后的角度解释为 64°+180°,算出约 1.218;sham 得到约 1.998 有局部科学建模正向信号,但不能替代有效整体对照
shared_drafts / code / fund_017 第一段计算的 2*p*E*cos(64°) 正确,后续改成最终角度 180°,交付约 1.998 正确中间结果被错误“修正”;需要有根据的接受/拒绝修正标准
shared_drafts / code / matter_021 修正对数中的无量纲压力比,得到约 −11.199 真正改善了单位与公式解释,构成该配置的局部增益
shared_drafts / code / quan_032、thermo_055 分别得到方差 0、温度约 655.57 草稿可帮助部分题,但不能据这些题筛选展示或路由
fresh_review / code / atkins_042 初始计算正确,复核额外加大气压并出现错误工具参数,最后交付约 49.90 新上下文不自动带来正确语义;格式与推理失败会叠加
shared_drafts / code / stat_058 已打印 P(A)=0.63,后续验证访问未确定的符号键,重复 KeyError,最后没有数值产物 检查程序本身也要明确未知量与输入契约

atkins_065 同时要求中间常数 b 与最终压缩因子 Z,常见失败是提交 b 而非评分目标 Z。matter_015 涉及按 10³ kJ/mol 表示的输出缩放;diff_010 可能用不对应原问题的连续力数值模拟覆盖正确的冲量解析结果;class_051 存在定义阻力参数却未将阻力加入动力学的情况。quan_013 与 stat_016 也有题意或单一参考答案的解释限制。保留这些限制,同时保留原评分,避免事后重定义评价。

其他已记录的基准证据

supplements/broader_benchmark_comparison.json 保存另外的官方 scorer 汇总;不与 SciBench 面板混合统计,也不混合 native/direct 的不同生成方式与预算。

设置 DS-1000 baseline → code SciCode 子题 baseline → code SciCode 完整主问题 baseline → code
Native agent(K3 baseline 与加入 code) 24/70 → 20/70 14/75 → 12/75 0/20 → 1/20
Direct generation 37/70 → 25/70 12/75 → 12/75 0/20 → 0/20

完整主问题有局部正向信号,但整体没有稳定净收益。SciCode 同一主问题的子题相关,不能视作完全独立样本。本发布面板的完整轨迹范围是 SciBench;上述其他基准在这里提供的是汇总证据。

训练契约线索与下一步

训练源文件审计见 supplements/training_contract.json 和 stable_trajectory_diagnosis.json:3,413 条轨迹的末个可训练 assistant 目标均是 offload_lora;共有 14,446 个可训练 assistant 目标,没有独立的可见 boxed、无工具最终答复目标;Python 调用中位数为 1,1,966 条只有一次调用。还发现 23 条旧工具语法消息。训练数据入口:WeAct/DR-AntiForget/lora_code。这些是源数据结构事实,不证明每条数据实际参与优化,也不单独证明失败的因果机制。

接手建议:

  1. 先用本发布包离线复核统计和关键轨迹,使用 bounded_delivery 作为统一工程起点;确认 base snapshot、七投影、sham 的零增量与全部权重摘要。
  2. 如果继续尝试不重训方案,应预先限定具体假设,例如仅接受解决了明确矛盾的修正、保持目标量/单位契约一致。不要凭参考答案从历史结果中择优,也不要继续依赖无限复核。
  3. 在新题上冻结比较完整策略,分别报告正确率、交付率、执行次数及全部准备/推理 token 成本。保留每题 paired 结果;另做路由与原能力保持评测。
  4. 如果完整策略仍无收益,训练改动优先考虑与推理一致的终止契约、适量真实纠错轨迹、独立且有效的检查、目标量/单位区分,以及“已有正确结果时不引入无依据改动”的例子。先验证小范围契约修复,再扩大训练。

已有证据支持继续复用工程改进,也支持把后续重点转向模型行为和训练契约;尚不足以宣称不重训方案已经成功,或理论上不可能成功。