Download ReInterHand/shared-v1.1/doc/MIGRATION.md from ParityLab/Hand-Datasets-Raw: direct link, hf CLI and curl.
- Browser
- Download file 6.21 kB
-
https://huggingface.co/datasets/ParityLab/Hand-Datasets-Raw/resolve/main/ReInterHand/shared-v1.1/doc/MIGRATION.md
- Command line
-
hf download hf://datasets/ParityLab/Hand-Datasets-Raw/ReInterHand/shared-v1.1/doc/MIGRATION.md
-
curl -L -o MIGRATION.md https://huggingface.co/datasets/ParityLab/Hand-Datasets-Raw/resolve/main/ReInterHand/shared-v1.1/doc/MIGRATION.md
数据集 v1.0 → v1.1 升级规范
日期:2026-10-09。目标格式:hand-warehouse/1.1。字段与字典布局见 CONTRACT.md。
1. 升级单位与最终布局
以一个完整数据集为单位逐步升级。每个数据集在既有目录内完成数值文件重组、工具适配与验证,完成后将目录由 shared-v1.0 更名为 shared-v1.1。最终使用:
<dataset>/
raw/ # 保持原样
shared-v1.1/
data/
doc/
script/
这是对“发布目录永久保持 shared-v1.0”安排的修订:不长期保留两套发布树,也不复制一整套媒体再制作新版本。尚未升级的数据集继续使用自己的 shared-v1.0;不同数据集处于不同版本是正常的。
完成后视图元数据统一为 schema_version=hand-warehouse/1.1、release_id=shared-v1.1。目录名与元数据版本均须正确,不能只更名而不改变内容。发布记录保留旧版本的固定提交以便追溯。
2. 变更范围
- 合并相机、MANO、关键点、物体、实体对接触等数值张量及各自 valid;具体分组遵循合同。
- 保持媒体及其独立有效性文件不变,包括 RGB、深度、mask 和相应 valid。JSONL、资产按合同保留;不重新编码媒体,不改 raw。
- 不改变张量 dtype、shape、数值、NaN 位串、valid、帧映射、T、单位、坐标系、左右手、划分及监督策略。
- 更新匹配的 schema、读取/转换/校验脚本、metainfo 引用、发布清单和正式文档。不得仅替换版本字符串冒充工具适配。
- 删除已经完整合并且验收通过的旧数值文件与对应独立 valid;不得按
*_valid.pt通配删除,媒体/JSONL 有效性不在清理范围。
3. 启动与登记
启动前核对项目并行上限、实际进程、锁和空间。取得数据集迁移锁并暂停该目录的转换、发布和读取任务;多文件原地更新不是整体原子操作,不得让消费者读取半迁移视图。
在发布树外的 tmp/ 为每个数据集登记:源 schema/release、源 HF 固定提交、源文件清单及摘要、目标版本、工具摘要、变更/删除的精确路径清单、checkpoint、阶段、错误和验收结果。原始数据长期保留。
准备可恢复的基线:保存即将被替换的小型元数据和脚本,以及旧数值文件的临时备份或已核验可恢复的远端固定版本。不复制未变化的大型媒体。空间预算包含临时新文件和回滚所需文件;空间不足时停止新增工作,不删 raw 腾空间。
4. 原地升级
- 先选代表性完整序列及全部相机,在
tmp/验证新写入器、读取器和引用;覆盖实际存在的组件与有效性组合。遵循项目人工验收要求后再全量。 - 全量按完整视图处理。读取旧数值及 valid,写临时字典,重新读取并逐字段精确比较;不得用近似误差判断纯重打包的一致性。
- 验证通过后在同一文件系统原子替换单个文件,再更新该视图 metainfo。只有新字段与引用完整可读、且回滚依据可用,才能移除该视图被替代的旧文件。
- 每个视图保存完成 checkpoint;续跑必须核对输入和工具版本、产物摘要及当前引用,不能只依据文件存在而跳过。整个数据集完成前保持维护状态。
- 完成全部视图后校验完整路径集合、无重复/缺失、所有键引用、全部数值一致性和未变文件摘要,并更新正式文档及脚本。生成直接读取新格式的随机完整序列报告,按项目流程人工确认。
失败时停止该数据集迁移,保留 checkpoint 和回滚材料,不伪装完成,不自动删除整棵目录或从 raw 重做转换。
5. 本地最终更名
全量验收通过后,在维护状态下统一设置最终 release_id=shared-v1.1,更新当前使用的配置、入口、清单和链接,然后将原目录重命名为 shared-v1.1。
重命名前核对源/目标绝对路径均位于该数据集根目录;目标目录必须不存在,不合并、不覆盖已有同名目录。同一文件系统内执行目录重命名,避免复制全部媒体。更名后再次解析相对引用并检查脚本默认路径,最后解除本地维护状态。
历史报告中说明当时版本的文字与固定摘要作为历史证据保留,不批量篡改;当前入口须明确报告所属版本,并链接本次迁移验收结果。
6. HF 发布与路径更换
本地目录重命名不等于 HF 路径已经更换。远端须在得到发布授权后,基于旧的固定提交执行受控更新;发布前再次核对源 HEAD 和相关文件内容,冲突时停止调查。
优先复用仓库已有内容,以平台实际支持且经过验证的服务端复制/提交操作,将未变化媒体映射到 shared-v1.1;仅新的字典、元数据、文档和脚本需要提供新内容。不承诺路径更换必然零网络传输或零耗时;先验证实际行为,不盲目重新上传全套媒体。
理想情况下,在一个提交中添加目标路径并删除旧路径,使默认分支完整切换。若文件数或 API 限制不允许,使用经过验证的临时分支准备与核验,完成后受控切换;若只能分批更新默认分支,必须明确维护状态,旧版本保留到目标完整核验通过,不提前删除唯一完整的旧树。短暂的核验用路径并存不代表长期发布两套版本。
最终必须在同一固定提交上验证:目标 shared-v1.1 的文件集合、大小与内容摘要全部匹配清单,所有引用有效;旧 shared-v1.0 路径已移除;raw 未变化。服务端更换路径仍须执行这些核验,不能用“文件名已改”替代。
完成后更新数据集登记与下载示例,记录最终提交,清理本次临时文件并通知一次,再安排下一个数据集。旧提交历史保留历史版本;本流程减少当前发布树的重复文件,不承诺清除 HF 历史存储。
本文仅规定后续实施流程,编写本文不等于已经启动迁移、修改数据或获得新的发布授权。