hreyulog's picture
Clarify experiment adapter requirements in dataset card
038e2b7 verified
|
Raw History Blame Contribute Delete
10.6 kB
metadata
pretty_name: >-
  Apache Issue–PR–Function–Commit Snapshot and 251-Repository Repaired Event
  Layer
language:
  - en
tags:
  - software-engineering
  - github
  - event-sequences
  - missingness
configs:
  - config_name: default
    default: true
    data_files:
      - split: train
        path: records.jsonl

Apache 251 仓库:原始关联快照与补爬合并事件层

本仓库同时保存两种不同粒度的数据,不要把原始关联行数当成唯一事件数。

版本 内容与粒度 入口
原始关联快照 131,411 行 Issue–PR–function–commit 关联记录,34,993,417,863 字节 根目录 records.jsonl
20261025-v2 补爬合并研究层 251 仓、3,614,443 个去重事件,附身份、来源、PR 关联、序列和缺失掩码 releases/20261025-v2/

兼容性:records.jsonl 没有被覆盖或改写。 默认 load_dataset 仍加载原始关联快照;新版合并事件需要下载下述版本包、解包后读取 SQLite/JSONL。 YAML 中的 train 只是原始文件的存储 split 名,不代表本研究新冻结的训练集;本次没有重新选取确认性 cohort 或训练/测试划分。 仓库原有的手动访问审核保持不变。本次未另行授予上游代码、评论或个人数据的新许可;使用者仍需遵守上游权利、隐私及访问约束。

相比原版增加了什么?

下表比较的是相同去重口径下的本地旧事件基线(由原始快照及既有审计资料生成)与新版事件层,不是把 131,411 行原始数据直接与事件行相减。

事件类型 旧事件基线 新合并层 净新增
Commit 646,626 986,976 340,350
PR 讨论评论 pr_comment 483,888 569,673 85,785
Review review 565,442 670,485 105,043
行内评论 review_comment 726,151 863,015 136,864
Issue opened / PR opened / merged / closed 524,294 524,294 0
合计 2,946,401 3,614,443 668,042

新增评论/评审类事件共 327,692 条。新增的 340,350 条 commit 是元数据覆盖,包括 SHA、父提交、作者/提交者及 Git 时间等;它们没有相应的生产函数 diff 输入,不能算新增函数状态、代码语义证据或完整代码样本。

此外,研究层整理了:

  • 逐事件的直接数字 GitHub 账号证据;作者、committer、PR opener 分离,不通过姓名/邮箱/登录名全局强行归并身份。
  • 事件—PR 关联、显式行内回复边、正文/差异及 API receipts 的可追溯引用。
  • 全体参与者画像和严格早于当前记录时钟的序列前缀;保留一次性、单通道、bot 标记和未知身份,不限旧 11 仓或每仓六人。
  • 逐 PR、逐端点的请求范围、抓取日期、当前列表完整性,以及 partial / retry_needed / unavailable。

所有原始事件 ID 和选用的原快照评论文本版本均保留。重叠评论中检测到 1 条当前正文与原版本不同,原版本未被覆盖,当前版本另存引用。

哪些实验准备已经具备?

本次重新全量扫描了 251 个事件导出文件:3,614,443 条事件的字段、类型、时区、来源、身份缺失、元数据/代码区分及 SHA-256 均通过;同时检查全部 PR 缺失掩码和 3,387,640 条已识别作者事件的序列前缀,并对四种引用存储分支做了解析检查。 此前独立审计还核对了全部原事件保留、链接、729,197 条原正文引用及 859,188 条差异引用;本次本地四包和全部 32,503 个文件成员也均逐项通过 SHA-256 复核。 详细结果见版本目录中的 experiment_field_audit.json、validation.json 和 local_archive_verification.json。

实验/分析 当前边界
仓库/参与者分层、单次与多次参与、Code/PR-NL 覆盖 可开展快照范围内的描述性分析;账号键不等于独立自然人
不规则事件序列、记录时钟间隔、跨通道支持诊断 可开展;Git 时间不是公开推送时间,顺序不等于因果或响应
身份口径、端点缺失及观测掩码敏感性准备 可开展;不能由当前列表直接推断历史缺失机制
完整同函数 before/after 轨迹、观点/立场测量、模型性能 未验证就绪;缺完整状态或已验证测量,未运行新模型/embedding
历史 response-opportunity 随访、真实行为沉默/无响应率 未验证就绪;风险集、完整随访及终止/竞争事件表仍不齐

严格的描述性双通道门槛(至少 2 条非空 PR-NL 文本、2 个实际生产函数改动文本的 commit,排除 bot 标记)下,新版有 6,207 个仓内参与者键,217 仓至少 1 键、118 仓至少 6 键;旧基线为 1,043 键、110/37 仓。 这不是最终样本、统计功效或同 PR/同函数响应配对;“非空”不等于已经人工验证的自然语言、观点或立场。单通道与单次贡献者仍完整保留。

字段字典和查询示例见 FIELD_GUIDE.md。 这里通过的是数据结构、来源与可解析性检查,不代表旧实验脚本无需适配即可 直接使用新 schema。新实验必须明确接入新版字段、正文引用和缺失掩码;本轮 没有改动旧模型输入程序、重新训练模型或重跑旧实验。

覆盖与未解决项

  • complete:166,616 个 PR 任务,只表示其请求的当前端点列表通过检查。101 项复用既有已审计缓存,保留旧抓取日期,不是本轮新鲜 API 抓取。
  • partial:17。16 个有 commit 列表上限/compare 限制;apache/flink#3621 有未解析的行内回复父节点。
  • retry_needed:1。apache/drill#574 的 timeline 端点多次 HTTP 502。
  • unavailable:3。apache/calcite#578、apache/calcite#556、apache/artemis#4489 的元数据 HTTP 404。

以上状态没有清空、抬升或冒充补齐;已按研究者要求结束进一步重试。 P0 请求五类端点;P1 通常只请求 commits/inline。未请求的 reviews/discussion/timeline 仍为 unknown。 保守掩码中 commits/inline 各有 105 项 unknown,reviews/discussion/timeline 各有 140,576 项 unknown。以逐 PR 记录为准,不把 unknown 转成 0。

当前 API 列表完整 ≠ 历史完整 ≠ 完整函数状态 ≠ 已验证沉默。 这是 Issue 关联快照加指定 PR 补爬层,不是仓库/社区活动普查;没有完整 Jira Issue 讨论线程。新评论的当前正文不保证等于创建时正文。 response_observed、behavioral_silence_label 和沉默率保持 null;最后观测时间也不是已确认退出时间。 Timeline/PR 元数据保存在响应缓存中,但没有被全部重建为完整的生命周期/随访终止表。

下载、校验与恢复新版

四包合计 7.237 GiB,解包后约 40.447 GiB,共 32,503 个文件;另外需要原始 records.jsonl(32.59 GiB)。 这是一份保留不可变引用的研究层发布,不是仅一个能独立解析全部正文的 JSONL。所有依赖在本仓原文件和下述版本包中;不要只下载 merged.tar.gz 就删除原始数据与缓存。

文件 用途
archives/merged.tar.gz 合并事件库、251 个事件 JSONL、参与者/仓库表、序列、PR 掩码、链接、校验与未解决项
archives/repair.tar.gz 补爬队列、共享压缩 API 响应库、规范化导出、receipts 和重试记录
archives/baseline.tar.gz 原事件去重库和旧画像导出;供 original_event_ref 解析和版本复核
archives/dependencies_and_tools.tar.gz 被引用的外部元数据/差异文件、源码小样本及处理脚本/测试
manifest.json 每个包及每个文件的大小、SHA-256 和包归属
restore_release.py / reference_resolver.py 安全解包验证和绝对来源路径到新工作目录的只读映射

推荐固定到一个发布完成后的 commit,而不是在实验中长期跟随 main:

from huggingface_hub import HfApi, snapshot_download

repo = "hreyulog/apache-issue-function-commit"
revision = HfApi().dataset_info(repo).sha  # 记入自己的实验 manifest;以后复用该值
snapshot_download(
    repo_id=repo, repo_type="dataset", revision=revision,
    allow_patterns=["README.md", "releases/20261025-v2/*"],
    local_dir="downloaded_all251",
)

先校验压缩包及每个成员(不解包、不额外复制 40 GiB):

python downloaded_all251/releases/20261025-v2/restore_release.py --manifest downloaded_all251/releases/20261025-v2/manifest.json --archive-dir downloaded_all251/releases/20261025-v2/archives --verify-only

恢复时改为 --destination RESTORED_WORKSPACE,目标必须尚不存在。先完成四包解包,再下载原始 raw 到这个新工作目录中(四包本身不含 raw):

from huggingface_hub import hf_hub_download
hf_hub_download(
    repo_id="hreyulog/apache-issue-function-commit", repo_type="dataset",
    filename="records.jsonl",
    revision="a0f8602209de81ed165ee36f303618afe8749889",
    local_dir="RESTORED_WORKSPACE/data/apache-issue-function-commit",
)

原始文件需另外核对哈希。 原文件 SHA-256 为 d7dd8205ade38d2e8dbeeb874516c7a6c56bfda0f48bbf3f23928a42047e361e。 本次核对了该文件远端 SHA-256/大小与先前完整本地校验一致,并核对源文件统计信息未变;没有声称本次重新下载了完整 35 GB 原文件。

包内旧绝对路径只作为来源证据保留;用 References(NEW_EMPTY_WORKSPACE) 解析到新路径,不要为便携性覆盖旧数据库。 正文和 diff 的读取示例、缺失值规则见字段字典。按 source_row 批量读原始 JSONL 时应一次扫描,避免为每个事件重复扫描 35 GB 文件。

复现与安全说明

原始数据、旧实验、论文均未重写;本轮没有启动 embedding、新模型或新抓取。 版本包不包含本地访问凭据、SQLite WAL/SHM、模型下载缓存或无关实验输出。 研究者本地可以在完整远端校验后另行选择移除可恢复的导出副本,但删除原始正文/代码依赖会阻断本地分析,不能仅凭“上传过”整目录删除。

English summary: This gated repository preserves the original issue-linked snapshot and adds a validated reference-based event union for 251 repositories. It supports bounded activity/availability profiling, not complete function-state, validated opinion, causal influence or historical behavioral-silence claims.