|
Download graph_construction_code/README.md from SitongGong/paper_final_results: direct link, hf CLI and curl.
- Browser
- Download file 9.77 kB
-
https://huggingface.co/datasets/SitongGong/paper_final_results/resolve/main/graph_construction_code/README.md
- Command line
-
hf download hf://datasets/SitongGong/paper_final_results/graph_construction_code/README.md
-
curl -L -o README.md https://huggingface.co/datasets/SitongGong/paper_final_results/resolve/main/graph_construction_code/README.md
9.77 kB
| # HyperMem 建图(Graph Construction)完整代码归档 | |
| > 2026-07-28 从 `GST_EGOSERVE/VideoRAG-algorithm/hypervideo/` 拷出的**建图流程全部代码**, | |
| > 供分析建图逻辑 / 撰写论文方法章节使用。共 25 个文件 / 956K。 | |
| > **这是只读归档副本**,修改请回原仓库,勿在此目录改动。 | |
| --- | |
| ## 一、建图流水线一句话 | |
| ``` | |
| 视频 → [抽帧] → [Frame Caption] → [Episode 边界检测] → [Fact 提取] → [Topic 聚合] → 超图 | |
| ffmpeg Qwen3.6-35B gpt-4.1-mini gpt-4.1-mini gpt-4.1-mini | |
| (CPU) (本地 vLLM/GPU) ——————— API 密集,三阶段异步重叠 ——————— | |
| ``` | |
| **全程不接触 GT**:建图只读视频,不读任何标注/答案/题目(question-aware 模式除外, | |
| 该模式只注入题目文本以引导 caption 关注点,仍不含答案 —— 见下文"公平性")。 | |
| --- | |
| ## 二、目录结构 | |
| ``` | |
| graph_construction_code/ | |
| ├── extractors/ ← 三层提取器 + 超图装配(建图核心逻辑) | |
| ├── prompts/ ← 各阶段的 LLM prompt(当前生效版) | |
| ├── core/ ← 数据结构、配置、抽帧 | |
| └── entry/ ← 各 benchmark 的建图入口脚本 | |
| ``` | |
| --- | |
| ## 三、核心文件对照(**按论文的三层记忆结构**) | |
| | 论文中的层 | 逻辑代码 | Prompt | | |
| |---|---|---| | |
| | **Perceptual Trace**(帧级 caption / 通道B) | `core/video_processing.py`(抽帧) | `prompts/frame_caption_prompt.py` (120K) | | |
| | **Episode**(语义片段) | `extractors/episode_segmenter.py` (37K) | `prompts/episode_prompts.py` (83K) | | |
| | **Moment / Fact**(原子事实) | `extractors/fact_extractor.py` (32K)<br>`extractors/fact_deduplicator.py` | `prompts/fact_prompts.py` (108K) | | |
| | **Pattern / Schema**(主题) | `extractors/topic_aggregator.py` (21K) | `prompts/topic_prompts.py` (40K) | | |
| | 超图装配(统管上述四层) | **`extractors/hypergraph_builder.py` (35K)** ← **入口读这个** | — | | |
| ### 3.1 Episode 划分 — `extractors/episode_segmenter.py` | |
| `class VideoEpisodeSegmenter`(第48行)。流式逐窗喂 caption,LLM 判语义边界。 | |
| 对应 prompt(`prompts/episode_prompts.py`),按粒度/场景分多版: | |
| | 常量 | 行 | 用途 | | |
| |---|---|---| | |
| | `EPISODE_BOUNDARY_PROMPT` | 16 | 逐帧粒度(早期版) | | |
| | `EPISODE_BOUNDARY_WINDOW_PROMPT` | 60 | 窗口粒度 | | |
| | `EPISODE_BOUNDARY_WINDOW_BINARY_PROMPT` | 145 | 窗口粒度二分类版 | | |
| | **`EPISODE_BOUNDARY_STREAM_PROMPT`** | **213** | **流式 30s chunk(当前主用)** | | |
| | `EPISODE_SUMMARY_PROMPT` | 336 | episode 摘要生成 | | |
| | `EPISODE_BOUNDARY_HOLOASSIST_PROMPT` | 490 | HoloAssist 工具操作场景专用 | | |
| 关键接口:`get_state()` / `set_state()`(第120/138行)—— 支持断点续跑, | |
| `commit_pending_episode()`(第158行)—— 边界确认后才提交,避免误切。 | |
| ### 3.2 Fact 提取 — `extractors/fact_extractor.py` | |
| `class VideoFactExtractor`(第100行)。**默认走合并路径** | |
| (`merge_extraction_and_roles=True`):一次 LLM 调用同时做 抽取 + role + weight。 | |
| 对应 prompt(`prompts/fact_prompts.py`),**按场景选不同版本**: | |
| | 常量 | 行 | 用于 | | |
| |---|---|---| | |
| | **`FACT_EXTRACTION_WITH_ROLES_PROMPT_QA`** | **250** | **QA 场景(MMLifelong / OVO / StreamingBench)** | | |
| | `FACT_EXTRACTION_WITH_ROLES_PROMPT` | 73 | 主动服务(EgoLife) | | |
| | `FACT_EXTRACTION_WITH_ROLES_PROMPT_HOLOASSIST` | 410 | HoloAssist | | |
| | `FACT_EXTRACTION_WITH_ROLES_PROMPT_FIRST_PERSON` | 759 | 第一人称通用 | | |
| | `FACT_ROLE_WEIGHT_PROMPT` | 21 | legacy 两阶段路径才用(默认不走) | | |
| | `FACT_DEDUP_PROMPT` | 212 | topic 内 fact 去重 | | |
| ### 3.3 Topic 聚合 — `extractors/topic_aggregator.py` | |
| `class VideoTopicAggregator`(第43行)。每个新 episode 完成后,判断"归入已有 topic / 新建 / 更新"。 | |
| 对应 prompt(`prompts/topic_prompts.py`): | |
| | 常量 | 行 | 决策 | | |
| |---|---|---| | |
| | `TOPIC_MATCH_PROMPT` | 17 | 新 episode 归入哪个已有 topic | | |
| | `TOPIC_CREATE_PROMPT` | 82 | 新建 topic | | |
| | `TOPIC_UPDATE_PROMPT` | 178 | 更新已有 topic | | |
| | `TOPIC_CREATE_FIRST_PERSON_PROMPT` | 343 | 第一人称版新建 | | |
| | `TOPIC_UPDATE_FIRST_PERSON_PROMPT` | 445 | 第一人称版更新 | | |
| | `EPISODE_ROLE_WEIGHT_PROMPT` | 255 | topic 内给 episode 分配 role/weight | | |
| **更新路径必读**(第285-300行):两条分支 | |
| ```python | |
| all_topic_episodes = self._resolve_topic_episodes(topic) | |
| if all_topic_episodes and self._episode_resolver is not None: | |
| update_data = await self._resynthesize_topic(...) # ← 实际走这条 | |
| else: | |
| update_data = await self._light_update_topic(...) # ← 兼容旧行为, 实际死代码 | |
| ``` | |
| `_episode_resolver` 在 `hypergraph_builder.py:120` **无条件注入** | |
| (`set_episode_resolver(self._resolve_episode)`),故 `is not None` 恒真; | |
| 而 `_resolve_topic_episodes` 只在"某 episode ID 在超图里查不到"时返回 None(正常流程不发生)。 | |
| → **实际总是走 `_resynthesize_topic`**:把该 topic 下**所有** episode 喂进 LLM 重新合成 | |
| title/summary/keywords,而非只用新 episode 做轻量拼接。 | |
| Token 控制靠 `topic_resynthesis_recent_full_count`:最近 N 个给完整 summary,更早的压缩 —— | |
| month 那种 3249 episodes 的图靠这个才跑得动。 | |
| --- | |
| ## 四、entry/ 各 benchmark 建图入口 | |
| | 脚本 | benchmark | 备注 | | |
| |---|---|---| | |
| | `streamingbench_hyper_processing.py` | StreamingBench | ⚠️ `--openai_api_key` 有**失效硬编码默认值**且会覆盖环境变量(见下"已知坑") | | |
| | `egolife_hyper_processing.py` | EgoLife | | | |
| | `holoassist_hyper_processing.py` | HoloAssist | 有 `--vllm_base_url` / `--vllm_model_name`(本地 Qwen caption) | | |
| | `captaincook4d_hyper_processing.py` | CC4D | | | |
| | `mmlifelong_processing.py` | MMLifelong (day/week/month) | 108K,最大 | | |
| | **`bench_build_speed.py`** | **建图速度测试** | 见下节 | | |
| | `sb_build_332_ffmpeg.py` | SB sample_332 补建 | 2026-07-28 新增,ffmpeg 抽帧绕开 moviepy 死锁 | | |
| --- | |
| ## 五、建图速度测试(论文效率图的来源) | |
| `entry/bench_build_speed.py` + 运行脚本 `claude_logs/run_fps_sweep_now.sh`(未拷入,在原位置)。 | |
| **5 档实测数据**(硬编码在 `paper_final_results/figure_data/make_fps_speed.py:10-16`): | |
| | fps | 秒/分钟视频 | 实时倍率 | 窗口数(300s) | caption | segmenter | builder | | |
| |---|---|---|---|---|---|---| | |
| | 1.000 | 78.2 | 0.77× | 60 | 398s | 277s | 124s | | |
| | 0.500 | 69.7 | 0.86× | 30 | 203s | 232s | 139s | | |
| | 0.200 | 52.1 | **1.15×** | 12 | 76s | 201s | 150s | | |
| | 0.100 | 35.6 | 1.68× | 6 | 35s | 99s | 122s | | |
| | 0.067 | **19.5** | **3.08×** | 4 | 31s | 45s | 32s | | |
| 图:`figure_data/fps_build_speed.pdf`、`figure_data/build_pipeline.pdf`(三阶段重叠拆解) | |
| 方法论文档:`paper_final_results/EFFICIENCY_FIGURES_METHODOLOGY.md` | |
| **两个测速必须注意的点**: | |
| 1. **建图 LLM 是 gpt-4.1-mini**,不是 gpt-5-mini。`bench_build_speed.py` 加了 `--seg_model` | |
| 专门覆盖(不传会跟着 ovobench 默认配置走 gpt-5-mini,那是错的)。 | |
| 2. **必须串行、独占 API**。caption 阶段走本地 GPU 稳定,但 segmenter/builder 是 API 密集型, | |
| 并发下计时虚高 2 倍以上。曾因并发污染得出 "fps=0.2 比 0.5 更慢" 的错误结论。 | |
| --- | |
| ## 六、已知坑(改代码前必看) | |
| 1. **`streamingbench_hyper_processing.py` 的 API key 覆盖**(约第960-965行): | |
| `--openai_api_key` 带一个**已失效的硬编码默认值**,且执行 | |
| `os.environ["OPENAI_API_KEY"] = args.openai_api_key` —— **会顶掉外部传入的环境变量**, | |
| 导致全程 401。必须显式传 `--openai_api_key`。 | |
| 2. **moviepy `VideoFileClip` 在损坏视频上死锁**:`core/video_processing.py` 的 | |
| `sample_frames_by_interval()` 用 VideoFileClip 抽帧,遇到 H.264 坏块会卡在 image2pipe | |
| 管道读上(实测 40 分钟 `read_bytes` 纹丝不动)。`entry/sb_build_332_ffmpeg.py` 提供了 | |
| ffmpeg 逐时刻 seek 的替代实现。 | |
| 3. **自写抽帧替身必须用 `t` 反推 `interval_index`**: | |
| ```python | |
| interval_index = int(round((t - interval_seconds / 2.0) / interval_seconds)) | |
| ``` | |
| 跳过坏帧后,列表位置不再等于 interval 序号。若用循环位置推时间,**所有窗口会塌到视频开头** | |
| (实测:25 个窗全变 `00:00:00`,frame_captions 从 123 掉到 27,facts 从 64 掉到 20)。 | |
| 4. **`hypervideo/_prompt_versions/` 是历史快照**(未拷入本目录),grep 时容易撞到。 | |
| **当前生效的只有 `prompts/`**。 | |
| --- | |
| ## 七、公平性(论文可直接引用) | |
| - **建图不接触 GT**:只读视频文件,不读答案/服务类型标签/GT时间戳。 | |
| HoloAssist 建图 `anno_path=None`。 | |
| - **question-aware 模式**(`--question_aware`,仅 StreamingBench RT 等用): | |
| 向 caption prompt 注入该 sample 的**题目与选项文本**,引导 caption 记录相关视觉细节。 | |
| prompt 中明确要求 *"Do NOT mention the questions or options in your captions"*, | |
| **不注入答案**,故不构成答案泄露;该开关在论文中已声明。 | |
| - **超图对所有方法/消融共享同一份**:消融只在推理端屏蔽/替换,不重建图 | |
| (见 `paper_final_results/ABLATION_STRUCTURE_LADDER.md` 第七节)。 | |
| --- | |
| ## 八、原始位置(要改代码回这里) | |
| ``` | |
| GST_EGOSERVE/VideoRAG-algorithm/hypervideo/ | |
| ├── extractors/{episode_segmenter,topic_aggregator,fact_extractor, | |
| │ fact_deduplicator,hypergraph_builder,llm_utils,timing_utils}.py | |
| ├── prompts/{episode,topic,fact}_prompts.py, frame_caption_prompt.py | |
| ├── {config,structure,types,hyper_video_graph}.py | |
| └── {streamingbench,egolife,holoassist,captaincook4d}_hyper_processing.py, | |
| mmlifelong_processing.py, bench_build_speed.py, sb_build_332_ffmpeg.py | |
| GST_EGOSERVE/VideoRAG-algorithm/videorag/video_processing.py ← 抽帧 | |
| ``` | |