# HyperMem 建图(Graph Construction)完整代码归档 > 2026-07-28 从 `GST_EGOSERVE/VideoRAG-algorithm/hypervideo/` 拷出的**建图流程全部代码**, > 供分析建图逻辑 / 撰写论文方法章节使用。共 25 个文件 / 956K。 > **这是只读归档副本**,修改请回原仓库,勿在此目录改动。 --- ## 一、建图流水线一句话 ``` 视频 → [抽帧] → [Frame Caption] → [Episode 边界检测] → [Fact 提取] → [Topic 聚合] → 超图 ffmpeg Qwen3.6-35B gpt-4.1-mini gpt-4.1-mini gpt-4.1-mini (CPU) (本地 vLLM/GPU) ——————— API 密集,三阶段异步重叠 ——————— ``` **全程不接触 GT**:建图只读视频,不读任何标注/答案/题目(question-aware 模式除外, 该模式只注入题目文本以引导 caption 关注点,仍不含答案 —— 见下文"公平性")。 --- ## 二、目录结构 ``` graph_construction_code/ ├── extractors/ ← 三层提取器 + 超图装配(建图核心逻辑) ├── prompts/ ← 各阶段的 LLM prompt(当前生效版) ├── core/ ← 数据结构、配置、抽帧 └── entry/ ← 各 benchmark 的建图入口脚本 ``` --- ## 三、核心文件对照(**按论文的三层记忆结构**) | 论文中的层 | 逻辑代码 | Prompt | |---|---|---| | **Perceptual Trace**(帧级 caption / 通道B) | `core/video_processing.py`(抽帧) | `prompts/frame_caption_prompt.py` (120K) | | **Episode**(语义片段) | `extractors/episode_segmenter.py` (37K) | `prompts/episode_prompts.py` (83K) | | **Moment / Fact**(原子事实) | `extractors/fact_extractor.py` (32K)
`extractors/fact_deduplicator.py` | `prompts/fact_prompts.py` (108K) | | **Pattern / Schema**(主题) | `extractors/topic_aggregator.py` (21K) | `prompts/topic_prompts.py` (40K) | | 超图装配(统管上述四层) | **`extractors/hypergraph_builder.py` (35K)** ← **入口读这个** | — | ### 3.1 Episode 划分 — `extractors/episode_segmenter.py` `class VideoEpisodeSegmenter`(第48行)。流式逐窗喂 caption,LLM 判语义边界。 对应 prompt(`prompts/episode_prompts.py`),按粒度/场景分多版: | 常量 | 行 | 用途 | |---|---|---| | `EPISODE_BOUNDARY_PROMPT` | 16 | 逐帧粒度(早期版) | | `EPISODE_BOUNDARY_WINDOW_PROMPT` | 60 | 窗口粒度 | | `EPISODE_BOUNDARY_WINDOW_BINARY_PROMPT` | 145 | 窗口粒度二分类版 | | **`EPISODE_BOUNDARY_STREAM_PROMPT`** | **213** | **流式 30s chunk(当前主用)** | | `EPISODE_SUMMARY_PROMPT` | 336 | episode 摘要生成 | | `EPISODE_BOUNDARY_HOLOASSIST_PROMPT` | 490 | HoloAssist 工具操作场景专用 | 关键接口:`get_state()` / `set_state()`(第120/138行)—— 支持断点续跑, `commit_pending_episode()`(第158行)—— 边界确认后才提交,避免误切。 ### 3.2 Fact 提取 — `extractors/fact_extractor.py` `class VideoFactExtractor`(第100行)。**默认走合并路径** (`merge_extraction_and_roles=True`):一次 LLM 调用同时做 抽取 + role + weight。 对应 prompt(`prompts/fact_prompts.py`),**按场景选不同版本**: | 常量 | 行 | 用于 | |---|---|---| | **`FACT_EXTRACTION_WITH_ROLES_PROMPT_QA`** | **250** | **QA 场景(MMLifelong / OVO / StreamingBench)** | | `FACT_EXTRACTION_WITH_ROLES_PROMPT` | 73 | 主动服务(EgoLife) | | `FACT_EXTRACTION_WITH_ROLES_PROMPT_HOLOASSIST` | 410 | HoloAssist | | `FACT_EXTRACTION_WITH_ROLES_PROMPT_FIRST_PERSON` | 759 | 第一人称通用 | | `FACT_ROLE_WEIGHT_PROMPT` | 21 | legacy 两阶段路径才用(默认不走) | | `FACT_DEDUP_PROMPT` | 212 | topic 内 fact 去重 | ### 3.3 Topic 聚合 — `extractors/topic_aggregator.py` `class VideoTopicAggregator`(第43行)。每个新 episode 完成后,判断"归入已有 topic / 新建 / 更新"。 对应 prompt(`prompts/topic_prompts.py`): | 常量 | 行 | 决策 | |---|---|---| | `TOPIC_MATCH_PROMPT` | 17 | 新 episode 归入哪个已有 topic | | `TOPIC_CREATE_PROMPT` | 82 | 新建 topic | | `TOPIC_UPDATE_PROMPT` | 178 | 更新已有 topic | | `TOPIC_CREATE_FIRST_PERSON_PROMPT` | 343 | 第一人称版新建 | | `TOPIC_UPDATE_FIRST_PERSON_PROMPT` | 445 | 第一人称版更新 | | `EPISODE_ROLE_WEIGHT_PROMPT` | 255 | topic 内给 episode 分配 role/weight | **更新路径必读**(第285-300行):两条分支 ```python all_topic_episodes = self._resolve_topic_episodes(topic) if all_topic_episodes and self._episode_resolver is not None: update_data = await self._resynthesize_topic(...) # ← 实际走这条 else: update_data = await self._light_update_topic(...) # ← 兼容旧行为, 实际死代码 ``` `_episode_resolver` 在 `hypergraph_builder.py:120` **无条件注入** (`set_episode_resolver(self._resolve_episode)`),故 `is not None` 恒真; 而 `_resolve_topic_episodes` 只在"某 episode ID 在超图里查不到"时返回 None(正常流程不发生)。 → **实际总是走 `_resynthesize_topic`**:把该 topic 下**所有** episode 喂进 LLM 重新合成 title/summary/keywords,而非只用新 episode 做轻量拼接。 Token 控制靠 `topic_resynthesis_recent_full_count`:最近 N 个给完整 summary,更早的压缩 —— month 那种 3249 episodes 的图靠这个才跑得动。 --- ## 四、entry/ 各 benchmark 建图入口 | 脚本 | benchmark | 备注 | |---|---|---| | `streamingbench_hyper_processing.py` | StreamingBench | ⚠️ `--openai_api_key` 有**失效硬编码默认值**且会覆盖环境变量(见下"已知坑") | | `egolife_hyper_processing.py` | EgoLife | | | `holoassist_hyper_processing.py` | HoloAssist | 有 `--vllm_base_url` / `--vllm_model_name`(本地 Qwen caption) | | `captaincook4d_hyper_processing.py` | CC4D | | | `mmlifelong_processing.py` | MMLifelong (day/week/month) | 108K,最大 | | **`bench_build_speed.py`** | **建图速度测试** | 见下节 | | `sb_build_332_ffmpeg.py` | SB sample_332 补建 | 2026-07-28 新增,ffmpeg 抽帧绕开 moviepy 死锁 | --- ## 五、建图速度测试(论文效率图的来源) `entry/bench_build_speed.py` + 运行脚本 `claude_logs/run_fps_sweep_now.sh`(未拷入,在原位置)。 **5 档实测数据**(硬编码在 `paper_final_results/figure_data/make_fps_speed.py:10-16`): | fps | 秒/分钟视频 | 实时倍率 | 窗口数(300s) | caption | segmenter | builder | |---|---|---|---|---|---|---| | 1.000 | 78.2 | 0.77× | 60 | 398s | 277s | 124s | | 0.500 | 69.7 | 0.86× | 30 | 203s | 232s | 139s | | 0.200 | 52.1 | **1.15×** | 12 | 76s | 201s | 150s | | 0.100 | 35.6 | 1.68× | 6 | 35s | 99s | 122s | | 0.067 | **19.5** | **3.08×** | 4 | 31s | 45s | 32s | 图:`figure_data/fps_build_speed.pdf`、`figure_data/build_pipeline.pdf`(三阶段重叠拆解) 方法论文档:`paper_final_results/EFFICIENCY_FIGURES_METHODOLOGY.md` **两个测速必须注意的点**: 1. **建图 LLM 是 gpt-4.1-mini**,不是 gpt-5-mini。`bench_build_speed.py` 加了 `--seg_model` 专门覆盖(不传会跟着 ovobench 默认配置走 gpt-5-mini,那是错的)。 2. **必须串行、独占 API**。caption 阶段走本地 GPU 稳定,但 segmenter/builder 是 API 密集型, 并发下计时虚高 2 倍以上。曾因并发污染得出 "fps=0.2 比 0.5 更慢" 的错误结论。 --- ## 六、已知坑(改代码前必看) 1. **`streamingbench_hyper_processing.py` 的 API key 覆盖**(约第960-965行): `--openai_api_key` 带一个**已失效的硬编码默认值**,且执行 `os.environ["OPENAI_API_KEY"] = args.openai_api_key` —— **会顶掉外部传入的环境变量**, 导致全程 401。必须显式传 `--openai_api_key`。 2. **moviepy `VideoFileClip` 在损坏视频上死锁**:`core/video_processing.py` 的 `sample_frames_by_interval()` 用 VideoFileClip 抽帧,遇到 H.264 坏块会卡在 image2pipe 管道读上(实测 40 分钟 `read_bytes` 纹丝不动)。`entry/sb_build_332_ffmpeg.py` 提供了 ffmpeg 逐时刻 seek 的替代实现。 3. **自写抽帧替身必须用 `t` 反推 `interval_index`**: ```python interval_index = int(round((t - interval_seconds / 2.0) / interval_seconds)) ``` 跳过坏帧后,列表位置不再等于 interval 序号。若用循环位置推时间,**所有窗口会塌到视频开头** (实测:25 个窗全变 `00:00:00`,frame_captions 从 123 掉到 27,facts 从 64 掉到 20)。 4. **`hypervideo/_prompt_versions/` 是历史快照**(未拷入本目录),grep 时容易撞到。 **当前生效的只有 `prompts/`**。 --- ## 七、公平性(论文可直接引用) - **建图不接触 GT**:只读视频文件,不读答案/服务类型标签/GT时间戳。 HoloAssist 建图 `anno_path=None`。 - **question-aware 模式**(`--question_aware`,仅 StreamingBench RT 等用): 向 caption prompt 注入该 sample 的**题目与选项文本**,引导 caption 记录相关视觉细节。 prompt 中明确要求 *"Do NOT mention the questions or options in your captions"*, **不注入答案**,故不构成答案泄露;该开关在论文中已声明。 - **超图对所有方法/消融共享同一份**:消融只在推理端屏蔽/替换,不重建图 (见 `paper_final_results/ABLATION_STRUCTURE_LADDER.md` 第七节)。 --- ## 八、原始位置(要改代码回这里) ``` GST_EGOSERVE/VideoRAG-algorithm/hypervideo/ ├── extractors/{episode_segmenter,topic_aggregator,fact_extractor, │ fact_deduplicator,hypergraph_builder,llm_utils,timing_utils}.py ├── prompts/{episode,topic,fact}_prompts.py, frame_caption_prompt.py ├── {config,structure,types,hyper_video_graph}.py └── {streamingbench,egolife,holoassist,captaincook4d}_hyper_processing.py, mmlifelong_processing.py, bench_build_speed.py, sb_build_332_ffmpeg.py GST_EGOSERVE/VideoRAG-algorithm/videorag/video_processing.py ← 抽帧 ```