yang1232009's picture
Add shot beats and the seven-dimension evaluation package
aa7162d verified
|
Raw History Blame Contribute Delete
3.12 kB

VOL 七维评测

本目录配套交接包 v4 的 17 部、384 个镜头。每部的 beats/<film_id>.json 按原编译分镜排列,initial_beat 保留原文。镜头顺序以成片完整性清单复核。Campfire Square 对应此包的 16 镜版本。

运行

把一次生成的成品放在对应镜头目录,命名为 result.mp4。也可用 --results-root 指向另一个目录,保持其中 films/<film_id>/shots/<shot_id>/result.mp4 的结构。

如需对照旧汇总,请放入用于最终交付的镜头段。分镜记录同时保留生成时长和声明的技术前缀时长 generation_lead_in_s。按同一交付规则处理已确认的技术前缀或多出的尾段。评测按收到的完整成品计分。

在交接包根目录执行。需要 Python 3.11+,评测需在 PATH 中提供 FFmpeg 和 ffprobe。

python3 evaluation/run.py --check
python3 evaluation/run.py --preflight
python3 -m pip install -r evaluation/requirements.txt
# 在本机环境中设置 EASYAPI_API_KEY 后运行
python3 evaluation/run.py --out evaluation_results

--check 核对 beat、镜序、引用关系和评测参考图哈希,生成前也可运行。--preflight 要求所有选中镜头有可探测的结果视频。两者均在本地执行。可以用 --film 5-mins_campfire_square 单独跑一部,用另一个 --out 存储分片运行。

用 --film 5-mins_campfire_square --first 10 --out campfire_first10 只评该片的前 10 镜。首镜转场仍为 null,之后按正式镜序配对。

默认使用 EasyAPI 的 Gemini 原生接口与 gemini-3.8-flash。需要使用不同的 EasyAPI 网关时可设置 EASYAPI_BASE_URL。传输预算默认每条请求的两个视频合计 14 MiB,超预算时以完整时长和音轨生成临时传输副本,可用 --video-budget-mib 调整。原成品作为评分证据,结果分开放在输出目录。

证据与分数

  • 实体、场景分别使用包内实际生成输入中的实体图、场景图。独立首帧和跨镜头继承帧留在生成包中,评测跳过这些图。
  • 前一个生成结果只提供跨镜头边界转场证据。每部首镜的转场记为 null。有数值的转场理由需列出前视频末尾和当前视频开头的证据。
  • 语义对齐、叙事连贯性、动作与调度使用当前视频和当前初始 beat。电影美学只使用当前视频。完整的七维证据规则和 0–5 分档在 rubric.txt。包内按新合同统一了 V4 正文里残留的片内切镜和跨镜叙事表述。
  • 每镜一次评七维。无可比证据的维度为 null。汇总先在每部内按维度平均有效分数,再对影片等权,最后对七维等权。缺失维度的 Average 保留为 null。

使用原包的参考图生成,以便评分时证据与实际输入一致。逐镜输出在 scores/,请求错误及原始返回在 attempts/,整批跑完后写入 summary.json。相同配置可以在同一个输出目录续跑,更换生成结果请使用新输出目录。每镜最多尝试 3 次评测。这一步只评分,生成环节仍为每镜一次。