SitongGong's picture
upload paper_final_results (part 3)
a46c532 verified
|
Raw History Blame Contribute Delete
9.77 kB
# HyperMem 建图(Graph Construction)完整代码归档
> 2026-07-28 从 `GST_EGOSERVE/VideoRAG-algorithm/hypervideo/` 拷出的**建图流程全部代码**,
> 供分析建图逻辑 / 撰写论文方法章节使用。共 25 个文件 / 956K。
> **这是只读归档副本**,修改请回原仓库,勿在此目录改动。
---
## 一、建图流水线一句话
```
视频 → [抽帧] → [Frame Caption] → [Episode 边界检测] → [Fact 提取] → [Topic 聚合] → 超图
ffmpeg Qwen3.6-35B gpt-4.1-mini gpt-4.1-mini gpt-4.1-mini
(CPU) (本地 vLLM/GPU) ——————— API 密集,三阶段异步重叠 ———————
```
**全程不接触 GT**:建图只读视频,不读任何标注/答案/题目(question-aware 模式除外,
该模式只注入题目文本以引导 caption 关注点,仍不含答案 —— 见下文"公平性")。
---
## 二、目录结构
```
graph_construction_code/
├── extractors/ ← 三层提取器 + 超图装配(建图核心逻辑)
├── prompts/ ← 各阶段的 LLM prompt(当前生效版)
├── core/ ← 数据结构、配置、抽帧
└── entry/ ← 各 benchmark 的建图入口脚本
```
---
## 三、核心文件对照(**按论文的三层记忆结构**)
| 论文中的层 | 逻辑代码 | Prompt |
|---|---|---|
| **Perceptual Trace**(帧级 caption / 通道B) | `core/video_processing.py`(抽帧) | `prompts/frame_caption_prompt.py` (120K) |
| **Episode**(语义片段) | `extractors/episode_segmenter.py` (37K) | `prompts/episode_prompts.py` (83K) |
| **Moment / Fact**(原子事实) | `extractors/fact_extractor.py` (32K)<br>`extractors/fact_deduplicator.py` | `prompts/fact_prompts.py` (108K) |
| **Pattern / Schema**(主题) | `extractors/topic_aggregator.py` (21K) | `prompts/topic_prompts.py` (40K) |
| 超图装配(统管上述四层) | **`extractors/hypergraph_builder.py` (35K)** ← **入口读这个** | — |
### 3.1 Episode 划分 — `extractors/episode_segmenter.py`
`class VideoEpisodeSegmenter`(第48行)。流式逐窗喂 caption,LLM 判语义边界。
对应 prompt(`prompts/episode_prompts.py`),按粒度/场景分多版:
| 常量 | 行 | 用途 |
|---|---|---|
| `EPISODE_BOUNDARY_PROMPT` | 16 | 逐帧粒度(早期版) |
| `EPISODE_BOUNDARY_WINDOW_PROMPT` | 60 | 窗口粒度 |
| `EPISODE_BOUNDARY_WINDOW_BINARY_PROMPT` | 145 | 窗口粒度二分类版 |
| **`EPISODE_BOUNDARY_STREAM_PROMPT`** | **213** | **流式 30s chunk(当前主用)** |
| `EPISODE_SUMMARY_PROMPT` | 336 | episode 摘要生成 |
| `EPISODE_BOUNDARY_HOLOASSIST_PROMPT` | 490 | HoloAssist 工具操作场景专用 |
关键接口:`get_state()` / `set_state()`(第120/138行)—— 支持断点续跑,
`commit_pending_episode()`(第158行)—— 边界确认后才提交,避免误切。
### 3.2 Fact 提取 — `extractors/fact_extractor.py`
`class VideoFactExtractor`(第100行)。**默认走合并路径**
(`merge_extraction_and_roles=True`):一次 LLM 调用同时做 抽取 + role + weight。
对应 prompt(`prompts/fact_prompts.py`),**按场景选不同版本**:
| 常量 | 行 | 用于 |
|---|---|---|
| **`FACT_EXTRACTION_WITH_ROLES_PROMPT_QA`** | **250** | **QA 场景(MMLifelong / OVO / StreamingBench)** |
| `FACT_EXTRACTION_WITH_ROLES_PROMPT` | 73 | 主动服务(EgoLife) |
| `FACT_EXTRACTION_WITH_ROLES_PROMPT_HOLOASSIST` | 410 | HoloAssist |
| `FACT_EXTRACTION_WITH_ROLES_PROMPT_FIRST_PERSON` | 759 | 第一人称通用 |
| `FACT_ROLE_WEIGHT_PROMPT` | 21 | legacy 两阶段路径才用(默认不走) |
| `FACT_DEDUP_PROMPT` | 212 | topic 内 fact 去重 |
### 3.3 Topic 聚合 — `extractors/topic_aggregator.py`
`class VideoTopicAggregator`(第43行)。每个新 episode 完成后,判断"归入已有 topic / 新建 / 更新"。
对应 prompt(`prompts/topic_prompts.py`):
| 常量 | 行 | 决策 |
|---|---|---|
| `TOPIC_MATCH_PROMPT` | 17 | 新 episode 归入哪个已有 topic |
| `TOPIC_CREATE_PROMPT` | 82 | 新建 topic |
| `TOPIC_UPDATE_PROMPT` | 178 | 更新已有 topic |
| `TOPIC_CREATE_FIRST_PERSON_PROMPT` | 343 | 第一人称版新建 |
| `TOPIC_UPDATE_FIRST_PERSON_PROMPT` | 445 | 第一人称版更新 |
| `EPISODE_ROLE_WEIGHT_PROMPT` | 255 | topic 内给 episode 分配 role/weight |
**更新路径必读**(第285-300行):两条分支
```python
all_topic_episodes = self._resolve_topic_episodes(topic)
if all_topic_episodes and self._episode_resolver is not None:
update_data = await self._resynthesize_topic(...) # ← 实际走这条
else:
update_data = await self._light_update_topic(...) # ← 兼容旧行为, 实际死代码
```
`_episode_resolver` 在 `hypergraph_builder.py:120` **无条件注入**
(`set_episode_resolver(self._resolve_episode)`),故 `is not None` 恒真;
而 `_resolve_topic_episodes` 只在"某 episode ID 在超图里查不到"时返回 None(正常流程不发生)。
→ **实际总是走 `_resynthesize_topic`**:把该 topic 下**所有** episode 喂进 LLM 重新合成
title/summary/keywords,而非只用新 episode 做轻量拼接。
Token 控制靠 `topic_resynthesis_recent_full_count`:最近 N 个给完整 summary,更早的压缩 ——
month 那种 3249 episodes 的图靠这个才跑得动。
---
## 四、entry/ 各 benchmark 建图入口
| 脚本 | benchmark | 备注 |
|---|---|---|
| `streamingbench_hyper_processing.py` | StreamingBench | ⚠️ `--openai_api_key` 有**失效硬编码默认值**且会覆盖环境变量(见下"已知坑") |
| `egolife_hyper_processing.py` | EgoLife | |
| `holoassist_hyper_processing.py` | HoloAssist | 有 `--vllm_base_url` / `--vllm_model_name`(本地 Qwen caption) |
| `captaincook4d_hyper_processing.py` | CC4D | |
| `mmlifelong_processing.py` | MMLifelong (day/week/month) | 108K,最大 |
| **`bench_build_speed.py`** | **建图速度测试** | 见下节 |
| `sb_build_332_ffmpeg.py` | SB sample_332 补建 | 2026-07-28 新增,ffmpeg 抽帧绕开 moviepy 死锁 |
---
## 五、建图速度测试(论文效率图的来源)
`entry/bench_build_speed.py` + 运行脚本 `claude_logs/run_fps_sweep_now.sh`(未拷入,在原位置)。
**5 档实测数据**(硬编码在 `paper_final_results/figure_data/make_fps_speed.py:10-16`):
| fps | 秒/分钟视频 | 实时倍率 | 窗口数(300s) | caption | segmenter | builder |
|---|---|---|---|---|---|---|
| 1.000 | 78.2 | 0.77× | 60 | 398s | 277s | 124s |
| 0.500 | 69.7 | 0.86× | 30 | 203s | 232s | 139s |
| 0.200 | 52.1 | **1.15×** | 12 | 76s | 201s | 150s |
| 0.100 | 35.6 | 1.68× | 6 | 35s | 99s | 122s |
| 0.067 | **19.5** | **3.08×** | 4 | 31s | 45s | 32s |
图:`figure_data/fps_build_speed.pdf`、`figure_data/build_pipeline.pdf`(三阶段重叠拆解)
方法论文档:`paper_final_results/EFFICIENCY_FIGURES_METHODOLOGY.md`
**两个测速必须注意的点**:
1. **建图 LLM 是 gpt-4.1-mini**,不是 gpt-5-mini。`bench_build_speed.py` 加了 `--seg_model`
专门覆盖(不传会跟着 ovobench 默认配置走 gpt-5-mini,那是错的)。
2. **必须串行、独占 API**。caption 阶段走本地 GPU 稳定,但 segmenter/builder 是 API 密集型,
并发下计时虚高 2 倍以上。曾因并发污染得出 "fps=0.2 比 0.5 更慢" 的错误结论。
---
## 六、已知坑(改代码前必看)
1. **`streamingbench_hyper_processing.py` 的 API key 覆盖**(约第960-965行):
`--openai_api_key` 带一个**已失效的硬编码默认值**,且执行
`os.environ["OPENAI_API_KEY"] = args.openai_api_key` —— **会顶掉外部传入的环境变量**,
导致全程 401。必须显式传 `--openai_api_key`。
2. **moviepy `VideoFileClip` 在损坏视频上死锁**:`core/video_processing.py` 的
`sample_frames_by_interval()` 用 VideoFileClip 抽帧,遇到 H.264 坏块会卡在 image2pipe
管道读上(实测 40 分钟 `read_bytes` 纹丝不动)。`entry/sb_build_332_ffmpeg.py` 提供了
ffmpeg 逐时刻 seek 的替代实现。
3. **自写抽帧替身必须用 `t` 反推 `interval_index`**:
```python
interval_index = int(round((t - interval_seconds / 2.0) / interval_seconds))
```
跳过坏帧后,列表位置不再等于 interval 序号。若用循环位置推时间,**所有窗口会塌到视频开头**
(实测:25 个窗全变 `00:00:00`,frame_captions 从 123 掉到 27,facts 从 64 掉到 20)。
4. **`hypervideo/_prompt_versions/` 是历史快照**(未拷入本目录),grep 时容易撞到。
**当前生效的只有 `prompts/`**。
---
## 七、公平性(论文可直接引用)
- **建图不接触 GT**:只读视频文件,不读答案/服务类型标签/GT时间戳。
HoloAssist 建图 `anno_path=None`。
- **question-aware 模式**(`--question_aware`,仅 StreamingBench RT 等用):
向 caption prompt 注入该 sample 的**题目与选项文本**,引导 caption 记录相关视觉细节。
prompt 中明确要求 *"Do NOT mention the questions or options in your captions"*,
**不注入答案**,故不构成答案泄露;该开关在论文中已声明。
- **超图对所有方法/消融共享同一份**:消融只在推理端屏蔽/替换,不重建图
(见 `paper_final_results/ABLATION_STRUCTURE_LADDER.md` 第七节)。
---
## 八、原始位置(要改代码回这里)
```
GST_EGOSERVE/VideoRAG-algorithm/hypervideo/
├── extractors/{episode_segmenter,topic_aggregator,fact_extractor,
│ fact_deduplicator,hypergraph_builder,llm_utils,timing_utils}.py
├── prompts/{episode,topic,fact}_prompts.py, frame_caption_prompt.py
├── {config,structure,types,hyper_video_graph}.py
└── {streamingbench,egolife,holoassist,captaincook4d}_hyper_processing.py,
mmlifelong_processing.py, bench_build_speed.py, sb_build_332_ffmpeg.py
GST_EGOSERVE/VideoRAG-algorithm/videorag/video_processing.py ← 抽帧
```