LSW142857's picture
Publish frozen 1024-task, 122-repository OPSD PI dataset
e486bc8 verified
|
Raw History Blame Contribute Delete
4.45 kB
metadata
language:
  - en
pretty_name: OPSD PI MultiRepo Student-Fail 1024
size_categories:
  - 1K<n<10K
tags:
  - opsd
  - privileged-information
  - software-engineering
  - code
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train.jsonl

OPSD PI MultiRepo — Student-Fail

本仓库公开发布之前已生成的多仓库 PI,供 OPSD 训练下载。1024 条任务、122 个仓库,每题包含 5 个阶段 × 3 种强度,共 15 条 PI 内容。

数据身份

从历史 student 的确认 unresolved 任务中选择,1024 条全部为确认未解出;不包含 infrastructure-error 筛选结果。

  • SWE-ReBench-V2:824 条。
  • SWE-Gym:200 条。
  • 抽样 seed:42。原始选择日期:2026-09-22;新增 ReBench PI 合成批次:2026-09-24;本次公开发布日期:2026-10-15。
  • 历史筛选 student:jiaxingx/privilege-code-opsd-ckpts/qwen35-9b-expert-sft-131k-lora64-block28-2996448/checkpoint-best,agent:mini-swe-agent 2.3.0。这个标识记录历史模型身份,不保证该模型当前可公开下载。
  • 另一组:LSW142857/OPSD-PI-MultiRepo-All-Outcomes-1024。

两组是替代实验组,不是 train/test 划分。它们重叠 460 个 instance ID、466 个相同 problem statement;各组内部没有重复 ID 或问题文本。新 SFT 模型的成功/失败结果可能不同,不能把历史 student-fail 当作新模型已重新评测的结论。

文件与下载

  • data/train.jsonl:完整训练数据,顶层字段 label/messages/metadata/prompt。
  • data/manifest.json:来源、抽样信息、PI 校验警告、文件哈希、逐题 PI 来源标识。
  • data/repo_counts.json:122 个仓库的逐仓库条数。
  • SHA256SUMS:发布文件校验值。
hf download LSW142857/OPSD-PI-MultiRepo-Student-Fail-1024 --repo-type dataset --local-dir ./OPSD-PI-MultiRepo-Student-Fail-1024
cd OPSD-PI-MultiRepo-Student-Fail-1024
sha256sum -c SHA256SUMS
wc -l data/train.jsonl

为严格复现,请将 --revision <commit SHA> 加入下载命令,固定仓库版本。

JSONL 可直接逐行读取,或使用 datasets.load_dataset("json", data_files="data/train.jsonl", split="train")。OPSD 使用 prompt 作为公开任务输入,并按配置从下列路径选择 teacher PI:

metadata.privileged_info.pi_options
  EXPLORE / REPRODUCE / DIAGNOSE / EDIT / VERIFY
    WEAK / MEDIUM / STRONG
      content / evidence_ids / name

metadata 另含 instance_id、benchmark、repo、base_commit、repository_path、image_name、problem_statement。环境字段是平铺格式。此仓库不包含模型权重、容器镜像、student 轨迹、PI 合成完整轨迹或原始 gold/test patch 字段。

PI 来源和质量边界

SWE-ReBench-V2 PI 来自历史 deepseek/deepseek-flash 合成批次中已经 accepted 的输出;SWE-Gym 复用已有 schema 1.1 PI。合成目录名称中虽有 medium,本发布包含 WEAK、MEDIUM、STRONG 三档,未丢弃其他阶段或档位。

本版本 data/train.jsonl 与 2026-09-30 clip122 冻结训练文件逐字节一致。公开 manifest 已去除旧机器私有路径,因此其 SHA 与旧 manifest 不同;原 manifest SHA 保存在 original_local_training_manifest_sha256。

训练 JSONL SHA-256:80130f0317a828960a2db881fa674f1370c3e41f7e86823a40488b5071b6bc96。

保留历史合成批次的接受策略和校验警告:本组有 824 条任务记录了警告,共 13071 条警告;详情在 manifest 的 provenance[].validation_warnings。这些包括阶段纯度、与测试代码的短片段重合及证据审计警告。数据通过结构和完整性检查不等于全部 PI 语义都正确。PI 含有解题特权信息,只应按实验设计供 teacher 使用,不应直接拼入无 PI 的 student 或评测输入。

来源与使用条款

任务来自 SWE-Gym 和 SWE-ReBench-V2 及其各自上游代码仓库。每条记录保留 benchmark/repo/base_commit 用于追溯。此发布不为上游内容重新授予统一许可证;使用和再分发时应分别遵守相应原始数据、代码与生成服务条款。

只发布完成训练所需的任务和 PI 及可移植来源说明;旧机器路径不构成下载依赖。manifest 中 PI artifact hash 指向历史生成文件,相关原始生成文件没有另行打包进本仓库。