yang1232009's picture
Add shot beats and the seven-dimension evaluation package
aa7162d verified
|
Raw History Blame Contribute Delete
3.12 kB
# VOL 七维评测
本目录配套交接包 v4 的 17 部、384 个镜头。每部的 `beats/<film_id>.json` 按原编译分镜排列,`initial_beat` 保留原文。镜头顺序以成片完整性清单复核。Campfire Square 对应此包的 16 镜版本。
## 运行
把一次生成的成品放在对应镜头目录,命名为 `result.mp4`。也可用 `--results-root` 指向另一个目录,保持其中 `films/<film_id>/shots/<shot_id>/result.mp4` 的结构。
如需对照旧汇总,请放入用于最终交付的镜头段。分镜记录同时保留生成时长和声明的技术前缀时长 `generation_lead_in_s`。按同一交付规则处理已确认的技术前缀或多出的尾段。评测按收到的完整成品计分。
在交接包根目录执行。需要 Python 3.11+,评测需在 PATH 中提供 FFmpeg 和 ffprobe。
```bash
python3 evaluation/run.py --check
python3 evaluation/run.py --preflight
python3 -m pip install -r evaluation/requirements.txt
# 在本机环境中设置 EASYAPI_API_KEY 后运行
python3 evaluation/run.py --out evaluation_results
```
`--check` 核对 beat、镜序、引用关系和评测参考图哈希,生成前也可运行。`--preflight` 要求所有选中镜头有可探测的结果视频。两者均在本地执行。可以用 `--film 5-mins_campfire_square` 单独跑一部,用另一个 `--out` 存储分片运行。
用 `--film 5-mins_campfire_square --first 10 --out campfire_first10` 只评该片的前 10 镜。首镜转场仍为 `null`,之后按正式镜序配对。
默认使用 EasyAPI 的 Gemini 原生接口与 `gemini-3.8-flash`。需要使用不同的 EasyAPI 网关时可设置 `EASYAPI_BASE_URL`。传输预算默认每条请求的两个视频合计 14 MiB,超预算时以完整时长和音轨生成临时传输副本,可用 `--video-budget-mib` 调整。原成品作为评分证据,结果分开放在输出目录。
## 证据与分数
- 实体、场景分别使用包内实际生成输入中的实体图、场景图。独立首帧和跨镜头继承帧留在生成包中,评测跳过这些图。
- 前一个生成结果只提供跨镜头边界转场证据。每部首镜的转场记为 `null`。有数值的转场理由需列出前视频末尾和当前视频开头的证据。
- 语义对齐、叙事连贯性、动作与调度使用当前视频和当前初始 beat。电影美学只使用当前视频。完整的七维证据规则和 0–5 分档在 `rubric.txt`。包内按新合同统一了 V4 正文里残留的片内切镜和跨镜叙事表述。
- 每镜一次评七维。无可比证据的维度为 `null`。汇总先在每部内按维度平均有效分数,再对影片等权,最后对七维等权。缺失维度的 Average 保留为 `null`。
使用原包的参考图生成,以便评分时证据与实际输入一致。逐镜输出在 `scores/`,请求错误及原始返回在 `attempts/`,整批跑完后写入 `summary.json`。相同配置可以在同一个输出目录续跑,更换生成结果请使用新输出目录。每镜最多尝试 3 次评测。这一步只评分,生成环节仍为每镜一次。