Dataset Viewer
Auto-converted to Parquet Duplicate
Search is not available for this dataset
image
imagewidth (px)
1.54k
1.54k
label
class label
4 classes
0T1f_inp_fwd_yaw_s5026_t3_f241
0T1f_inp_fwd_yaw_s5026_t3_f241
0T1f_inp_fwd_yaw_s5026_t3_f241
1T1f_m3tr_idle_s101_t3_f241
1T1f_m3tr_idle_s101_t3_f241
1T1f_m3tr_idle_s101_t3_f241
2T1f_m3va_combat_auto_s103_t3_f241
2T1f_m3va_combat_auto_s103_t3_f241
2T1f_m3va_combat_auto_s103_t3_f241
3T1f_m3va_yaw_slow_s103_t3_f241
3T1f_m3va_yaw_slow_s103_t3_f241
3T1f_m3va_yaw_slow_s103_t3_f241

YAML Metadata Warning:empty or missing yaml metadata in repo card

Check out the documentation for more information.

Generative Reprojection:demo 视频

Matrix-Game 4.0 上「重投影复用已生成像素、只在缺内容处跑 DiT」的原型 demo。只供观看,不是测量证据;数字和判据以项目仓库里的记录为准。

目录

目录 内容
01_official/ 官方推理(上游,不改):P0 的 realtime / quality 预设,P1 的 yaw_max 81 帧渲染
02_demo_v0/ 初版 demo(E4-i):只对洞加重叠圈去噪,洞过多时退回整帧
03_method_r/ 方法 R:多数 chunk 只重投影、不跑 DiT,按周期或空洞率整帧生成
04_h2_closed_loop/ 方法 H 闭环:每个 chunk 都重投影,只对空洞跑 DiT;记忆 × 接缝
05_h2b_diagnostics/ 方法 H 的诊断开关(Hr1–Hr3)和 oracle
06_h2c_ring_blend/ 环过渡 b3
07_h2e_combined/ b3 加三个开关的组合(目前最好的配置是 *_msparse_b3_all)
08_drift/ 观察官方画面「每个 chunk 都在重画」的漂移视频

文件名是 <take>_<配置>.mp4。take:combat_auto(自动驾驶战斗)、yaw_slow(匀速转向),场景 ancient-egypt,种子 2027,241 帧,每帧 3 个物理步,模型种子 0。

画面布局

  • 三栏视频(triptych),从左到右:
    • 02_demo_v0:基线 | 我们 | 我们并叠加生成的 token(红色是洞,黄色是重叠圈;整帧生成时全红)。
    • 03_method_r:官方 | 跳过 | 跳过并标出空洞(角上标 G 或 P chunk 和空洞率)。
    • 04–07:官方 | 我们 | 我们并给空洞像素着色。
  • 08_drift/drift_demo.mp4 分三段:
    1. idle、combat、yaw 播放,下方是「帧 t − 帧 t−4 重投影过来」的差,放大 4 倍;
    2. yaw 并排:洞内是官方帧 t,洞外是 1/2/4/8 个 chunk 以前的内容,另有零漂移对照;
    3. 每 0.5 秒在官方帧 t 和「帧 t−8 重投影过来」之间切换。

配置名

名字 含义
period2/3/4 方法 R:每 2/3/4 个 chunk 整帧生成一次
thresh002/005 方法 R:chunk 末帧空洞率超过 0.02 / 0.05 时整帧生成(最多连跳 7 个)
mA 记忆只写空洞 A 的 token
msparse 记忆写 A 加环 2(环用编码潜变量)
mfull 记忆整帧写(复用区用编码潜变量)
oracle 每个 chunk 仍整帧去噪、记忆与官方相同,只有显示走方法 H(诊断)
b0 / b2 / b3 接缝:直接拼 / 泊松偏移 / 32 像素环过渡
hr1 / hr2 / hr3 / all 放大和单向拉伸算空洞 / 动态物体外扩 4 像素算空洞 / 只留最后一个预热关键帧 / 三者都开
smoke_period4 方法 R 的冒烟运行,不进任何统计

方法 H 的视频(04–07)在 RTX 4080 SUPER 上、native 路径生成;01、02 在 H100 上生成。

Downloads last month
2