File size: 9,771 Bytes
a46c532
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
# HyperMem 建图(Graph Construction)完整代码归档

> 2026-07-28 从 `GST_EGOSERVE/VideoRAG-algorithm/hypervideo/` 拷出的**建图流程全部代码**,
> 供分析建图逻辑 / 撰写论文方法章节使用。共 25 个文件 / 956K。
> **这是只读归档副本**,修改请回原仓库,勿在此目录改动。

---

## 一、建图流水线一句话

```
视频 → [抽帧] → [Frame Caption] → [Episode 边界检测] → [Fact 提取] → [Topic 聚合] → 超图
        ffmpeg   Qwen3.6-35B      gpt-4.1-mini        gpt-4.1-mini    gpt-4.1-mini
        (CPU)    (本地 vLLM/GPU)   ——————— API 密集,三阶段异步重叠 ———————
```

**全程不接触 GT**:建图只读视频,不读任何标注/答案/题目(question-aware 模式除外,
该模式只注入题目文本以引导 caption 关注点,仍不含答案 —— 见下文"公平性")。

---

## 二、目录结构

```
graph_construction_code/
├── extractors/     ← 三层提取器 + 超图装配(建图核心逻辑)
├── prompts/        ← 各阶段的 LLM prompt(当前生效版)
├── core/           ← 数据结构、配置、抽帧
└── entry/          ← 各 benchmark 的建图入口脚本
```

---

## 三、核心文件对照(**按论文的三层记忆结构**)

| 论文中的层 | 逻辑代码 | Prompt |
|---|---|---|
| **Perceptual Trace**(帧级 caption / 通道B) | `core/video_processing.py`(抽帧) | `prompts/frame_caption_prompt.py` (120K) |
| **Episode**(语义片段) | `extractors/episode_segmenter.py` (37K) | `prompts/episode_prompts.py` (83K) |
| **Moment / Fact**(原子事实) | `extractors/fact_extractor.py` (32K)<br>`extractors/fact_deduplicator.py` | `prompts/fact_prompts.py` (108K) |
| **Pattern / Schema**(主题) | `extractors/topic_aggregator.py` (21K) | `prompts/topic_prompts.py` (40K) |
| 超图装配(统管上述四层) | **`extractors/hypergraph_builder.py` (35K)** ← **入口读这个** | — |

### 3.1 Episode 划分 — `extractors/episode_segmenter.py`

`class VideoEpisodeSegmenter`(第48行)。流式逐窗喂 caption,LLM 判语义边界。

对应 prompt(`prompts/episode_prompts.py`),按粒度/场景分多版:

| 常量 | 行 | 用途 |
|---|---|---|
| `EPISODE_BOUNDARY_PROMPT` | 16 | 逐帧粒度(早期版) |
| `EPISODE_BOUNDARY_WINDOW_PROMPT` | 60 | 窗口粒度 |
| `EPISODE_BOUNDARY_WINDOW_BINARY_PROMPT` | 145 | 窗口粒度二分类版 |
| **`EPISODE_BOUNDARY_STREAM_PROMPT`** | **213** | **流式 30s chunk(当前主用)** |
| `EPISODE_SUMMARY_PROMPT` | 336 | episode 摘要生成 |
| `EPISODE_BOUNDARY_HOLOASSIST_PROMPT` | 490 | HoloAssist 工具操作场景专用 |

关键接口:`get_state()` / `set_state()`(第120/138行)—— 支持断点续跑,
`commit_pending_episode()`(第158行)—— 边界确认后才提交,避免误切。

### 3.2 Fact 提取 — `extractors/fact_extractor.py`

`class VideoFactExtractor`(第100行)。**默认走合并路径**
(`merge_extraction_and_roles=True`):一次 LLM 调用同时做 抽取 + role + weight。

对应 prompt(`prompts/fact_prompts.py`),**按场景选不同版本**:

| 常量 | 行 | 用于 |
|---|---|---|
| **`FACT_EXTRACTION_WITH_ROLES_PROMPT_QA`** | **250** | **QA 场景(MMLifelong / OVO / StreamingBench)** |
| `FACT_EXTRACTION_WITH_ROLES_PROMPT` | 73 | 主动服务(EgoLife) |
| `FACT_EXTRACTION_WITH_ROLES_PROMPT_HOLOASSIST` | 410 | HoloAssist |
| `FACT_EXTRACTION_WITH_ROLES_PROMPT_FIRST_PERSON` | 759 | 第一人称通用 |
| `FACT_ROLE_WEIGHT_PROMPT` | 21 | legacy 两阶段路径才用(默认不走) |
| `FACT_DEDUP_PROMPT` | 212 | topic 内 fact 去重 |

### 3.3 Topic 聚合 — `extractors/topic_aggregator.py`

`class VideoTopicAggregator`(第43行)。每个新 episode 完成后,判断"归入已有 topic / 新建 / 更新"。

对应 prompt(`prompts/topic_prompts.py`):

| 常量 | 行 | 决策 |
|---|---|---|
| `TOPIC_MATCH_PROMPT` | 17 | 新 episode 归入哪个已有 topic |
| `TOPIC_CREATE_PROMPT` | 82 | 新建 topic |
| `TOPIC_UPDATE_PROMPT` | 178 | 更新已有 topic |
| `TOPIC_CREATE_FIRST_PERSON_PROMPT` | 343 | 第一人称版新建 |
| `TOPIC_UPDATE_FIRST_PERSON_PROMPT` | 445 | 第一人称版更新 |
| `EPISODE_ROLE_WEIGHT_PROMPT` | 255 | topic 内给 episode 分配 role/weight |

**更新路径必读**(第285-300行):两条分支
```python
all_topic_episodes = self._resolve_topic_episodes(topic)
if all_topic_episodes and self._episode_resolver is not None:
    update_data = await self._resynthesize_topic(...)   # ← 实际走这条
else:
    update_data = await self._light_update_topic(...)   # ← 兼容旧行为, 实际死代码
```
`_episode_resolver` 在 `hypergraph_builder.py:120` **无条件注入**
(`set_episode_resolver(self._resolve_episode)`),故 `is not None` 恒真;
而 `_resolve_topic_episodes` 只在"某 episode ID 在超图里查不到"时返回 None(正常流程不发生)。
→ **实际总是走 `_resynthesize_topic`**:把该 topic 下**所有** episode 喂进 LLM 重新合成
title/summary/keywords,而非只用新 episode 做轻量拼接。
Token 控制靠 `topic_resynthesis_recent_full_count`:最近 N 个给完整 summary,更早的压缩 ——
month 那种 3249 episodes 的图靠这个才跑得动。

---

## 四、entry/ 各 benchmark 建图入口

| 脚本 | benchmark | 备注 |
|---|---|---|
| `streamingbench_hyper_processing.py` | StreamingBench | ⚠️ `--openai_api_key` 有**失效硬编码默认值**且会覆盖环境变量(见下"已知坑") |
| `egolife_hyper_processing.py` | EgoLife | |
| `holoassist_hyper_processing.py` | HoloAssist | 有 `--vllm_base_url` / `--vllm_model_name`(本地 Qwen caption) |
| `captaincook4d_hyper_processing.py` | CC4D | |
| `mmlifelong_processing.py` | MMLifelong (day/week/month) | 108K,最大 |
| **`bench_build_speed.py`** | **建图速度测试** | 见下节 |
| `sb_build_332_ffmpeg.py` | SB sample_332 补建 | 2026-07-28 新增,ffmpeg 抽帧绕开 moviepy 死锁 |

---

## 五、建图速度测试(论文效率图的来源)

`entry/bench_build_speed.py` + 运行脚本 `claude_logs/run_fps_sweep_now.sh`(未拷入,在原位置)。

**5 档实测数据**(硬编码在 `paper_final_results/figure_data/make_fps_speed.py:10-16`):

| fps | 秒/分钟视频 | 实时倍率 | 窗口数(300s) | caption | segmenter | builder |
|---|---|---|---|---|---|---|
| 1.000 | 78.2 | 0.77× | 60 | 398s | 277s | 124s |
| 0.500 | 69.7 | 0.86× | 30 | 203s | 232s | 139s |
| 0.200 | 52.1 | **1.15×** | 12 | 76s | 201s | 150s |
| 0.100 | 35.6 | 1.68× | 6 | 35s | 99s | 122s |
| 0.067 | **19.5** | **3.08×** | 4 | 31s | 45s | 32s |

图:`figure_data/fps_build_speed.pdf`、`figure_data/build_pipeline.pdf`(三阶段重叠拆解)
方法论文档:`paper_final_results/EFFICIENCY_FIGURES_METHODOLOGY.md`

**两个测速必须注意的点**:
1. **建图 LLM 是 gpt-4.1-mini**,不是 gpt-5-mini。`bench_build_speed.py` 加了 `--seg_model`
   专门覆盖(不传会跟着 ovobench 默认配置走 gpt-5-mini,那是错的)。
2. **必须串行、独占 API**。caption 阶段走本地 GPU 稳定,但 segmenter/builder 是 API 密集型,
   并发下计时虚高 2 倍以上。曾因并发污染得出 "fps=0.2 比 0.5 更慢" 的错误结论。

---

## 六、已知坑(改代码前必看)

1. **`streamingbench_hyper_processing.py` 的 API key 覆盖**(约第960-965行):
   `--openai_api_key` 带一个**已失效的硬编码默认值**,且执行
   `os.environ["OPENAI_API_KEY"] = args.openai_api_key` —— **会顶掉外部传入的环境变量**,
   导致全程 401。必须显式传 `--openai_api_key`。

2. **moviepy `VideoFileClip` 在损坏视频上死锁**:`core/video_processing.py` 的
   `sample_frames_by_interval()` 用 VideoFileClip 抽帧,遇到 H.264 坏块会卡在 image2pipe
   管道读上(实测 40 分钟 `read_bytes` 纹丝不动)。`entry/sb_build_332_ffmpeg.py` 提供了
   ffmpeg 逐时刻 seek 的替代实现。

3. **自写抽帧替身必须用 `t` 反推 `interval_index`**:
   ```python
   interval_index = int(round((t - interval_seconds / 2.0) / interval_seconds))
   ```
   跳过坏帧后,列表位置不再等于 interval 序号。若用循环位置推时间,**所有窗口会塌到视频开头**
   (实测:25 个窗全变 `00:00:00`,frame_captions 从 123 掉到 27,facts 从 64 掉到 20)。

4. **`hypervideo/_prompt_versions/` 是历史快照**(未拷入本目录),grep 时容易撞到。
   **当前生效的只有 `prompts/`**。

---

## 七、公平性(论文可直接引用)

- **建图不接触 GT**:只读视频文件,不读答案/服务类型标签/GT时间戳。
  HoloAssist 建图 `anno_path=None`。
- **question-aware 模式**(`--question_aware`,仅 StreamingBench RT 等用):
  向 caption prompt 注入该 sample 的**题目与选项文本**,引导 caption 记录相关视觉细节。
  prompt 中明确要求 *"Do NOT mention the questions or options in your captions"*,
  **不注入答案**,故不构成答案泄露;该开关在论文中已声明。
- **超图对所有方法/消融共享同一份**:消融只在推理端屏蔽/替换,不重建图
  (见 `paper_final_results/ABLATION_STRUCTURE_LADDER.md` 第七节)。

---

## 八、原始位置(要改代码回这里)

```
GST_EGOSERVE/VideoRAG-algorithm/hypervideo/
├── extractors/{episode_segmenter,topic_aggregator,fact_extractor,
│               fact_deduplicator,hypergraph_builder,llm_utils,timing_utils}.py
├── prompts/{episode,topic,fact}_prompts.py, frame_caption_prompt.py
├── {config,structure,types,hyper_video_graph}.py
└── {streamingbench,egolife,holoassist,captaincook4d}_hyper_processing.py,
    mmlifelong_processing.py, bench_build_speed.py, sb_build_332_ffmpeg.py
GST_EGOSERVE/VideoRAG-algorithm/videorag/video_processing.py   ← 抽帧
```