Add Chinese Level3 README and language navigation

level3/README.md

@@ -1,5 +1,7 @@
 # RoboSteer Level3 preprocessing assets
 
+English | [中文说明](README.zh-CN.md)
+
 This folder releases three Level3 assets as portable tables and a reconstruction tool. It is independent of the sibling `level1/` assets. The original server paths and video symlinks are not distributed.
 
 ## Assets

level3/README.zh-CN.md

@@ -0,0 +1,117 @@
+# RoboSteer Level3 预处理数据资产
+
+[English](README.md) | 中文
+
+本目录发布三个 Level3 数据资产的可移植数据表及重建工具。它作为仓库中的独立 `level3/` 目录，与其他级别的资产分开组织。原服务器绝对路径和软链接文件不会直接发布。
+
+## 发布内容
+
+| 目录 | 内容 | 重建后的文件布局 |
+|---|---|---|
+| `text_audio_instructions/` | 7,764 个任务的 17,575 条 UTF-8 动作指令，保留原始文本／音频模态及顺序 | `<task_id>/<item_id>__text.txt` 或 `__audio.txt` |
+| `video_symlinks/` | 8,475 条视频引用，包含相对公共数据根的路径、文件大小及 SHA-256 | `<item_id>.mp4` |
+| `interleaved_input_list_for_GEM/` | 26,050 项有序输入：17,575 条文本及 8,475 条视频引用 | `<task_id>/order_NNN.txt` 或 `.mp4` |
+
+本次不包含原始音频转写、音频文件、图片或视频实体。音频来源的 TXT 是整理后的动作指令，不是 Whisper 原始转写。原 GEM 输入构建跳过了 7,764 个图片项，重建时保留原始顺序编号及其间隔。
+
+本版本的 GEM 文本与按任务归组的指令已逐字节比较，17,575 条全部一致，因此只保存一份文本内容。`release_manifest.json` 记录比较结果。重建工具也支持将来使用 `text_overrides.parquet` 保存 GEM 特有的文本差异。
+
+## 下载数据
+
+运行环境：Python 3.9 或更高版本。
+
+```bash
+pip install huggingface_hub pyarrow
+hf download PhoebeCC/RoboSteer-Preprocessing \
+  --repo-type dataset --include 'level3/*' --local-dir ./RoboSteer-Preprocessing
+```
+
+需要固定发布版本时，添加 `--revision <commit-id>`，其中 `<commit-id>` 为要使用的仓库提交编号。
+
+## 准备外部公共视频数据
+
+用户需要事先准备匹配版本的 RoboSteer 公共数据，其目录结构为：
+
+```text
+<public-root>/
+└── Data_Processed/Level3/Video_Slices/
+    └── <原始视频片段文件名>.mp4
+```
+
+每条视频记录通过 `source_relpath`、`source_size` 和 `source_sha256` 确定所需文件。仅目录和文件名相同还不够，视频内容也必须与记录一致。此发布包不负责下载原始媒体或重新切分视频。
+
+## 重建三个数据资产目录
+
+```bash
+python RoboSteer-Preprocessing/level3/scripts/materialize_level3.py \
+  --public-root /data/public \
+  --output-root ./restored_level3 \
+  --video-mode symlink
+```
+
+将 `/data/public` 替换为本机实际的公共数据根目录。重建结果如下：
+
+```text
+restored_level3/
+├── text_audio_instructions/
+├── video_symlinks/
+└── interleaved_input_list_for_GEM/
+```
+
+三个资产直接放在 `--output-root` 下。若要对应整理后的项目结构，可以指定 `--output-root /path/to/cxt/level3/inputs`。首次使用建议输出到新的目录。
+
+工具会先检查发布文件的校验值以及全部源视频，再写入结果。文本按原始 UTF-8 字节恢复，包括已有换行。已有且内容一致的文件可复用，内容冲突的文件不会被覆盖。
+
+- 源视频缺失或大小／SHA-256 不匹配：输出 JSON 错误报告，退出码为 2。
+- 已有输出冲突，或验证模式下预期输出缺失：输出 JSON 错误报告，退出码为 3。
+- 不支持软链接时，可改用 `--video-mode copy`。这会在两套视频布局中复制实体文件，占用更多磁盘空间。
+- 默认链接指向用户提供的本地公共数据根；之后移动该根目录，需要重建链接。
+
+本工具不会修改公共数据中的源视频。
+
+## 验证重建结果
+
+```bash
+python RoboSteer-Preprocessing/level3/scripts/materialize_level3.py \
+  --public-root /data/public \
+  --output-root ./restored_level3 \
+  --verify-only
+```
+
+验证覆盖所有预期文件及链接，但不删除或拒绝输出目录中的无关额外文件。它不运行 GEM，也不验证视频解码效果或动作指令的语义质量。
+
+## 直接读取数据表
+
+不需要恢复 TXT 目录时，可以直接使用 Parquet：
+
+```python
+import pyarrow.parquet as pq
+
+instructions = pq.read_table(
+    "RoboSteer-Preprocessing/level3/text_audio_instructions/data.parquet"
+).to_pylist()
+```
+
+| 数据表 | 字段 |
+|---|---|
+| 指令 `text_audio_instructions/data.parquet` | `item_id`、`task_id`、`order`、`source_modality`、`file_name`、`text`、`sha256` |
+| 视频 `video_symlinks/data.parquet` | `item_id`、`task_id`、`order`、`file_name`、`source_relpath`、`source_size`、`source_sha256` |
+| GEM 输入 `interleaved_input_list_for_GEM/items.parquet` | `task_id`、`item_id`、`order`、`file_name`、`kind`、`sha256`、`source_relpath`（文本项为空） |
+
+`task_id` 表示所属任务，`item_id` 标识输入项，`order` 表示原始顺序。GEM 文本通过 `item_id` 关联指令表；如果存在覆盖表，仅在重建 GEM 输入时优先使用覆盖内容。
+
+`file_name` 相对于重建后的对应资产目录。`source_relpath` 相对于 `--public-root`，不相对于 Hugging Face 缓存目录。视频表仅包含引用，不含内嵌视频数据，浏览该表不能直接播放外部视频。
+
+## 来源与校验
+
+文本来自已有 Level3 预处理结果；视频引用来自原软链接的目标；任务顺序与输出文件名来自实际 GEM 输入目录。发布记录使用 SHA-256 描述内容一致性，不沿用旧清单的 `success/failed/pending` 作为当前质量标签。
+
+本版本已完成：
+
+- Parquet 导出回读校验。
+- 17,575 条 GEM 文本与归组指令逐字节比较。
+- 8,475 段外部源视频的 SHA-256 校验。
+- 三套原始目录中 52,100 个预期文件或链接的全量核对。
+- 重建工具的功能测试，包括顺序保留、源视频不匹配及输出冲突检测。
+
+详细结果见 `release_manifest.json`、`validation.json` 和 `SHA256SUMS`。发布包不包含模型、运行日志、账号凭据或服务器绝对路径。数据使用条件及上游媒体条款应结合仓库说明和原始数据来源确认。

level3/SHA256SUMS

@@ -1,4 +1,5 @@
-e714770f36f1e3e961d249ab8d444ec974662ad14a23afb8158f658bc958e637  README.md
+e471a7009ec4d752e3aa4c076d27a0f868bb8550a9329f12b6adc1581cbad5e3  README.md
+618afb02bdcb54640dc8d5b446187448c78b32763195bb1960e17783138a1564  README.zh-CN.md
 b2b23339bf9e2046f36c38e71442d14964cbd7ce812458b95c565547a697574c  interleaved_input_list_for_GEM/README.md
 8f4222a67e2f2cdefbdadb3f9ed18dd296835e969e1823a693ed48edea6c2eb9  interleaved_input_list_for_GEM/items.parquet
 25847789e2be0271d91f247dc161a765259d421e04734dba8b65f408f133e826  release_manifest.json