Expand handoff README and pipeline instructions
Browse files
annotation_release/ANNOTATION_README.md
CHANGED
|
@@ -2,6 +2,91 @@
|
|
| 2 |
|
| 3 |
本目录用于继续 RunningBench 的人工视频问答复核,不包含视频文件。视频应放在 `datasets/GoogleDrive_1wD2FkpkIPMCNciGNTyT-GU-mbKOIOKHz/`,并按 `P01/`、`P02/`、`P03/` 保存;程序也会识别旧的 `running_dataset/` 目录。
|
| 4 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 5 |
## 文件
|
| 6 |
|
| 7 |
- `segments_700_questions_with_category.jsonl`:698 道待复核问题。
|
|
|
|
| 2 |
|
| 3 |
本目录用于继续 RunningBench 的人工视频问答复核,不包含视频文件。视频应放在 `datasets/GoogleDrive_1wD2FkpkIPMCNciGNTyT-GU-mbKOIOKHz/`,并按 `P01/`、`P02/`、`P03/` 保存;程序也会识别旧的 `running_dataset/` 目录。
|
| 4 |
|
| 5 |
+
## 给接手者的快速说明
|
| 6 |
+
|
| 7 |
+
接手者不需要重新生成题目或重写网页,只需下载本工具包、准备原始视频、修改数据路径,然后启动服务。
|
| 8 |
+
|
| 9 |
+
### 1. 下载
|
| 10 |
+
|
| 11 |
+
```bash
|
| 12 |
+
mkdir -p ~/runningbench_annotation
|
| 13 |
+
cd ~/runningbench_annotation
|
| 14 |
+
hf download taryya/RunningBench \
|
| 15 |
+
--repo-type dataset \
|
| 16 |
+
--include "annotation_release/*" \
|
| 17 |
+
--local-dir .
|
| 18 |
+
tar -xzf annotation_release/runningbench_annotation_release.tar.gz
|
| 19 |
+
cd annotation_release
|
| 20 |
+
```
|
| 21 |
+
|
| 22 |
+
也可以直接使用已经下载的 `annotation_release/` 目录。
|
| 23 |
+
|
| 24 |
+
### 2. 准备视频
|
| 25 |
+
|
| 26 |
+
将原始视频放到自己的数据目录,例如:
|
| 27 |
+
|
| 28 |
+
```text
|
| 29 |
+
~/datasets/GoogleDrive_1wD2FkpkIPMCNciGNTyT-GU-mbKOIOKHz/P01/*.mp4
|
| 30 |
+
~/datasets/GoogleDrive_1wD2FkpkIPMCNciGNTyT-GU-mbKOIOKHz/P02/*.mp4
|
| 31 |
+
~/datasets/GoogleDrive_1wD2FkpkIPMCNciGNTyT-GU-mbKOIOKHz/P03/*.mp4
|
| 32 |
+
```
|
| 33 |
+
|
| 34 |
+
视频不在本工具包内,需要接手者自行获取。视频缺失时,网页会明确提示,不能根据文字猜答案。
|
| 35 |
+
|
| 36 |
+
### 3. 修改数据路径
|
| 37 |
+
|
| 38 |
+
打开 `build_review.py`,找到:
|
| 39 |
+
|
| 40 |
+
```python
|
| 41 |
+
b = Path('/home/yuedong_tan/datasets')
|
| 42 |
+
```
|
| 43 |
+
|
| 44 |
+
改成接手者自己的数据根目录,例如:
|
| 45 |
+
|
| 46 |
+
```python
|
| 47 |
+
b = Path('/home/other_user/datasets')
|
| 48 |
+
```
|
| 49 |
+
|
| 50 |
+
该目录下应包含:
|
| 51 |
+
|
| 52 |
+
```text
|
| 53 |
+
review.html
|
| 54 |
+
seg600_verification/segments_700_questions_with_category.jsonl
|
| 55 |
+
GoogleDrive_1wD2FkpkIPMCNciGNTyT-GU-mbKOIOKHz/
|
| 56 |
+
```
|
| 57 |
+
|
| 58 |
+
### 4. 构建和启动
|
| 59 |
+
|
| 60 |
+
```bash
|
| 61 |
+
python3 build_review.py
|
| 62 |
+
python3 serve_review.py
|
| 63 |
+
```
|
| 64 |
+
|
| 65 |
+
如果从本地电脑访问远程服务器,另开一个本地终端建立隧道:
|
| 66 |
+
|
| 67 |
+
```powershell
|
| 68 |
+
ssh -N -L 18765:127.0.0.1:18765 user@hostname
|
| 69 |
+
```
|
| 70 |
+
|
| 71 |
+
浏览器打开 `http://127.0.0.1:18765/`。
|
| 72 |
+
|
| 73 |
+
### 5. 标注和备份
|
| 74 |
+
|
| 75 |
+
网页支持逐选项 `✓ / ✗ / ?`、最终答案、`clear / ambiguous / cant_tell`、备注、自动保存、JSON 导入和 JSON 导出。建议每完成一批题目就点击“导出 JSON”,把导出的文件单独备份。
|
| 76 |
+
|
| 77 |
+
### 6. 可选切片
|
| 78 |
+
|
| 79 |
+
网页默认直接读取原视频并限制在题目时间段内播放,不切片也能标注。如需生成独立题目片段:
|
| 80 |
+
|
| 81 |
+
```bash
|
| 82 |
+
python3 cut_jsonl_videoclips.py \
|
| 83 |
+
--questions segments_700_questions_with_category.jsonl \
|
| 84 |
+
--video-root ~/datasets/GoogleDrive_1wD2FkpkIPMCNciGNTyT-GU-mbKOIOKHz \
|
| 85 |
+
--output-root ~/datasets/runningbench_clips
|
| 86 |
+
```
|
| 87 |
+
|
| 88 |
+
切片前先确认原始视频已经完整下载。
|
| 89 |
+
|
| 90 |
## 文件
|
| 91 |
|
| 92 |
- `segments_700_questions_with_category.jsonl`:698 道待复核问题。
|