Download graph_construction_code/README.md from SitongGong/paper_final_results: direct link, hf CLI and curl.
- Browser
- Download file 9.77 kB
-
https://huggingface.co/datasets/SitongGong/paper_final_results/resolve/main/graph_construction_code/README.md
- Command line
-
hf download hf://datasets/SitongGong/paper_final_results/graph_construction_code/README.md
-
curl -L -o README.md https://huggingface.co/datasets/SitongGong/paper_final_results/resolve/main/graph_construction_code/README.md
HyperMem 建图(Graph Construction)完整代码归档
2026-07-28 从
GST_EGOSERVE/VideoRAG-algorithm/hypervideo/拷出的建图流程全部代码, 供分析建图逻辑 / 撰写论文方法章节使用。共 25 个文件 / 956K。 这是只读归档副本,修改请回原仓库,勿在此目录改动。
一、建图流水线一句话
视频 → [抽帧] → [Frame Caption] → [Episode 边界检测] → [Fact 提取] → [Topic 聚合] → 超图
ffmpeg Qwen3.6-35B gpt-4.1-mini gpt-4.1-mini gpt-4.1-mini
(CPU) (本地 vLLM/GPU) ——————— API 密集,三阶段异步重叠 ———————
全程不接触 GT:建图只读视频,不读任何标注/答案/题目(question-aware 模式除外, 该模式只注入题目文本以引导 caption 关注点,仍不含答案 —— 见下文"公平性")。
二、目录结构
graph_construction_code/
├── extractors/ ← 三层提取器 + 超图装配(建图核心逻辑)
├── prompts/ ← 各阶段的 LLM prompt(当前生效版)
├── core/ ← 数据结构、配置、抽帧
└── entry/ ← 各 benchmark 的建图入口脚本
三、核心文件对照(按论文的三层记忆结构)
| 论文中的层 | 逻辑代码 | Prompt |
|---|---|---|
| Perceptual Trace(帧级 caption / 通道B) | core/video_processing.py(抽帧) |
prompts/frame_caption_prompt.py (120K) |
| Episode(语义片段) | extractors/episode_segmenter.py (37K) |
prompts/episode_prompts.py (83K) |
| Moment / Fact(原子事实) | extractors/fact_extractor.py (32K)extractors/fact_deduplicator.py |
prompts/fact_prompts.py (108K) |
| Pattern / Schema(主题) | extractors/topic_aggregator.py (21K) |
prompts/topic_prompts.py (40K) |
| 超图装配(统管上述四层) | extractors/hypergraph_builder.py (35K) ← 入口读这个 |
— |
3.1 Episode 划分 — extractors/episode_segmenter.py
class VideoEpisodeSegmenter(第48行)。流式逐窗喂 caption,LLM 判语义边界。
对应 prompt(prompts/episode_prompts.py),按粒度/场景分多版:
| 常量 | 行 | 用途 |
|---|---|---|
EPISODE_BOUNDARY_PROMPT |
16 | 逐帧粒度(早期版) |
EPISODE_BOUNDARY_WINDOW_PROMPT |
60 | 窗口粒度 |
EPISODE_BOUNDARY_WINDOW_BINARY_PROMPT |
145 | 窗口粒度二分类版 |
EPISODE_BOUNDARY_STREAM_PROMPT |
213 | 流式 30s chunk(当前主用) |
EPISODE_SUMMARY_PROMPT |
336 | episode 摘要生成 |
EPISODE_BOUNDARY_HOLOASSIST_PROMPT |
490 | HoloAssist 工具操作场景专用 |
关键接口:get_state() / set_state()(第120/138行)—— 支持断点续跑,
commit_pending_episode()(第158行)—— 边界确认后才提交,避免误切。
3.2 Fact 提取 — extractors/fact_extractor.py
class VideoFactExtractor(第100行)。默认走合并路径
(merge_extraction_and_roles=True):一次 LLM 调用同时做 抽取 + role + weight。
对应 prompt(prompts/fact_prompts.py),按场景选不同版本:
| 常量 | 行 | 用于 |
|---|---|---|
FACT_EXTRACTION_WITH_ROLES_PROMPT_QA |
250 | QA 场景(MMLifelong / OVO / StreamingBench) |
FACT_EXTRACTION_WITH_ROLES_PROMPT |
73 | 主动服务(EgoLife) |
FACT_EXTRACTION_WITH_ROLES_PROMPT_HOLOASSIST |
410 | HoloAssist |
FACT_EXTRACTION_WITH_ROLES_PROMPT_FIRST_PERSON |
759 | 第一人称通用 |
FACT_ROLE_WEIGHT_PROMPT |
21 | legacy 两阶段路径才用(默认不走) |
FACT_DEDUP_PROMPT |
212 | topic 内 fact 去重 |
3.3 Topic 聚合 — extractors/topic_aggregator.py
class VideoTopicAggregator(第43行)。每个新 episode 完成后,判断"归入已有 topic / 新建 / 更新"。
对应 prompt(prompts/topic_prompts.py):
| 常量 | 行 | 决策 |
|---|---|---|
TOPIC_MATCH_PROMPT |
17 | 新 episode 归入哪个已有 topic |
TOPIC_CREATE_PROMPT |
82 | 新建 topic |
TOPIC_UPDATE_PROMPT |
178 | 更新已有 topic |
TOPIC_CREATE_FIRST_PERSON_PROMPT |
343 | 第一人称版新建 |
TOPIC_UPDATE_FIRST_PERSON_PROMPT |
445 | 第一人称版更新 |
EPISODE_ROLE_WEIGHT_PROMPT |
255 | topic 内给 episode 分配 role/weight |
更新路径必读(第285-300行):两条分支
all_topic_episodes = self._resolve_topic_episodes(topic)
if all_topic_episodes and self._episode_resolver is not None:
update_data = await self._resynthesize_topic(...) # ← 实际走这条
else:
update_data = await self._light_update_topic(...) # ← 兼容旧行为, 实际死代码
_episode_resolver 在 hypergraph_builder.py:120 无条件注入
(set_episode_resolver(self._resolve_episode)),故 is not None 恒真;
而 _resolve_topic_episodes 只在"某 episode ID 在超图里查不到"时返回 None(正常流程不发生)。
→ 实际总是走 _resynthesize_topic:把该 topic 下所有 episode 喂进 LLM 重新合成
title/summary/keywords,而非只用新 episode 做轻量拼接。
Token 控制靠 topic_resynthesis_recent_full_count:最近 N 个给完整 summary,更早的压缩 ——
month 那种 3249 episodes 的图靠这个才跑得动。
四、entry/ 各 benchmark 建图入口
| 脚本 | benchmark | 备注 |
|---|---|---|
streamingbench_hyper_processing.py |
StreamingBench | ⚠️ --openai_api_key 有失效硬编码默认值且会覆盖环境变量(见下"已知坑") |
egolife_hyper_processing.py |
EgoLife | |
holoassist_hyper_processing.py |
HoloAssist | 有 --vllm_base_url / --vllm_model_name(本地 Qwen caption) |
captaincook4d_hyper_processing.py |
CC4D | |
mmlifelong_processing.py |
MMLifelong (day/week/month) | 108K,最大 |
bench_build_speed.py |
建图速度测试 | 见下节 |
sb_build_332_ffmpeg.py |
SB sample_332 补建 | 2026-07-28 新增,ffmpeg 抽帧绕开 moviepy 死锁 |
五、建图速度测试(论文效率图的来源)
entry/bench_build_speed.py + 运行脚本 claude_logs/run_fps_sweep_now.sh(未拷入,在原位置)。
5 档实测数据(硬编码在 paper_final_results/figure_data/make_fps_speed.py:10-16):
| fps | 秒/分钟视频 | 实时倍率 | 窗口数(300s) | caption | segmenter | builder |
|---|---|---|---|---|---|---|
| 1.000 | 78.2 | 0.77× | 60 | 398s | 277s | 124s |
| 0.500 | 69.7 | 0.86× | 30 | 203s | 232s | 139s |
| 0.200 | 52.1 | 1.15× | 12 | 76s | 201s | 150s |
| 0.100 | 35.6 | 1.68× | 6 | 35s | 99s | 122s |
| 0.067 | 19.5 | 3.08× | 4 | 31s | 45s | 32s |
图:figure_data/fps_build_speed.pdf、figure_data/build_pipeline.pdf(三阶段重叠拆解)
方法论文档:paper_final_results/EFFICIENCY_FIGURES_METHODOLOGY.md
两个测速必须注意的点:
- 建图 LLM 是 gpt-4.1-mini,不是 gpt-5-mini。
bench_build_speed.py加了--seg_model专门覆盖(不传会跟着 ovobench 默认配置走 gpt-5-mini,那是错的)。 - 必须串行、独占 API。caption 阶段走本地 GPU 稳定,但 segmenter/builder 是 API 密集型, 并发下计时虚高 2 倍以上。曾因并发污染得出 "fps=0.2 比 0.5 更慢" 的错误结论。
六、已知坑(改代码前必看)
streamingbench_hyper_processing.py的 API key 覆盖(约第960-965行):--openai_api_key带一个已失效的硬编码默认值,且执行os.environ["OPENAI_API_KEY"] = args.openai_api_key—— 会顶掉外部传入的环境变量, 导致全程 401。必须显式传--openai_api_key。moviepy
VideoFileClip在损坏视频上死锁:core/video_processing.py的sample_frames_by_interval()用 VideoFileClip 抽帧,遇到 H.264 坏块会卡在 image2pipe 管道读上(实测 40 分钟read_bytes纹丝不动)。entry/sb_build_332_ffmpeg.py提供了 ffmpeg 逐时刻 seek 的替代实现。自写抽帧替身必须用
t反推interval_index:interval_index = int(round((t - interval_seconds / 2.0) / interval_seconds))跳过坏帧后,列表位置不再等于 interval 序号。若用循环位置推时间,所有窗口会塌到视频开头 (实测:25 个窗全变
00:00:00,frame_captions 从 123 掉到 27,facts 从 64 掉到 20)。hypervideo/_prompt_versions/是历史快照(未拷入本目录),grep 时容易撞到。 **当前生效的只有prompts/**。
七、公平性(论文可直接引用)
- 建图不接触 GT:只读视频文件,不读答案/服务类型标签/GT时间戳。
HoloAssist 建图
anno_path=None。 - question-aware 模式(
--question_aware,仅 StreamingBench RT 等用): 向 caption prompt 注入该 sample 的题目与选项文本,引导 caption 记录相关视觉细节。 prompt 中明确要求 "Do NOT mention the questions or options in your captions", 不注入答案,故不构成答案泄露;该开关在论文中已声明。 - 超图对所有方法/消融共享同一份:消融只在推理端屏蔽/替换,不重建图
(见
paper_final_results/ABLATION_STRUCTURE_LADDER.md第七节)。
八、原始位置(要改代码回这里)
GST_EGOSERVE/VideoRAG-algorithm/hypervideo/
├── extractors/{episode_segmenter,topic_aggregator,fact_extractor,
│ fact_deduplicator,hypergraph_builder,llm_utils,timing_utils}.py
├── prompts/{episode,topic,fact}_prompts.py, frame_caption_prompt.py
├── {config,structure,types,hyper_video_graph}.py
└── {streamingbench,egolife,holoassist,captaincook4d}_hyper_processing.py,
mmlifelong_processing.py, bench_build_speed.py, sb_build_332_ffmpeg.py
GST_EGOSERVE/VideoRAG-algorithm/videorag/video_processing.py ← 抽帧