SitongGong's picture
upload paper_final_results (part 3)
a46c532 verified
|
Raw History Blame Contribute Delete
9.77 kB

HyperMem 建图(Graph Construction)完整代码归档

2026-07-28 从 GST_EGOSERVE/VideoRAG-algorithm/hypervideo/ 拷出的建图流程全部代码, 供分析建图逻辑 / 撰写论文方法章节使用。共 25 个文件 / 956K。 这是只读归档副本,修改请回原仓库,勿在此目录改动。


一、建图流水线一句话

视频 → [抽帧] → [Frame Caption] → [Episode 边界检测] → [Fact 提取] → [Topic 聚合] → 超图
        ffmpeg   Qwen3.6-35B      gpt-4.1-mini        gpt-4.1-mini    gpt-4.1-mini
        (CPU)    (本地 vLLM/GPU)   ——————— API 密集,三阶段异步重叠 ———————

全程不接触 GT:建图只读视频,不读任何标注/答案/题目(question-aware 模式除外, 该模式只注入题目文本以引导 caption 关注点,仍不含答案 —— 见下文"公平性")。


二、目录结构

graph_construction_code/
├── extractors/     ← 三层提取器 + 超图装配(建图核心逻辑)
├── prompts/        ← 各阶段的 LLM prompt(当前生效版)
├── core/           ← 数据结构、配置、抽帧
└── entry/          ← 各 benchmark 的建图入口脚本

三、核心文件对照(按论文的三层记忆结构)

论文中的层 逻辑代码 Prompt
Perceptual Trace(帧级 caption / 通道B) core/video_processing.py(抽帧) prompts/frame_caption_prompt.py (120K)
Episode(语义片段) extractors/episode_segmenter.py (37K) prompts/episode_prompts.py (83K)
Moment / Fact(原子事实) extractors/fact_extractor.py (32K)
extractors/fact_deduplicator.py
prompts/fact_prompts.py (108K)
Pattern / Schema(主题) extractors/topic_aggregator.py (21K) prompts/topic_prompts.py (40K)
超图装配(统管上述四层) extractors/hypergraph_builder.py (35K) ← 入口读这个 —

3.1 Episode 划分 — extractors/episode_segmenter.py

class VideoEpisodeSegmenter(第48行)。流式逐窗喂 caption,LLM 判语义边界。

对应 prompt(prompts/episode_prompts.py),按粒度/场景分多版:

常量 行 用途
EPISODE_BOUNDARY_PROMPT 16 逐帧粒度(早期版)
EPISODE_BOUNDARY_WINDOW_PROMPT 60 窗口粒度
EPISODE_BOUNDARY_WINDOW_BINARY_PROMPT 145 窗口粒度二分类版
EPISODE_BOUNDARY_STREAM_PROMPT 213 流式 30s chunk(当前主用)
EPISODE_SUMMARY_PROMPT 336 episode 摘要生成
EPISODE_BOUNDARY_HOLOASSIST_PROMPT 490 HoloAssist 工具操作场景专用

关键接口:get_state() / set_state()(第120/138行)—— 支持断点续跑, commit_pending_episode()(第158行)—— 边界确认后才提交,避免误切。

3.2 Fact 提取 — extractors/fact_extractor.py

class VideoFactExtractor(第100行)。默认走合并路径 (merge_extraction_and_roles=True):一次 LLM 调用同时做 抽取 + role + weight。

对应 prompt(prompts/fact_prompts.py),按场景选不同版本:

常量 行 用于
FACT_EXTRACTION_WITH_ROLES_PROMPT_QA 250 QA 场景(MMLifelong / OVO / StreamingBench)
FACT_EXTRACTION_WITH_ROLES_PROMPT 73 主动服务(EgoLife)
FACT_EXTRACTION_WITH_ROLES_PROMPT_HOLOASSIST 410 HoloAssist
FACT_EXTRACTION_WITH_ROLES_PROMPT_FIRST_PERSON 759 第一人称通用
FACT_ROLE_WEIGHT_PROMPT 21 legacy 两阶段路径才用(默认不走)
FACT_DEDUP_PROMPT 212 topic 内 fact 去重

3.3 Topic 聚合 — extractors/topic_aggregator.py

class VideoTopicAggregator(第43行)。每个新 episode 完成后,判断"归入已有 topic / 新建 / 更新"。

对应 prompt(prompts/topic_prompts.py):

常量 行 决策
TOPIC_MATCH_PROMPT 17 新 episode 归入哪个已有 topic
TOPIC_CREATE_PROMPT 82 新建 topic
TOPIC_UPDATE_PROMPT 178 更新已有 topic
TOPIC_CREATE_FIRST_PERSON_PROMPT 343 第一人称版新建
TOPIC_UPDATE_FIRST_PERSON_PROMPT 445 第一人称版更新
EPISODE_ROLE_WEIGHT_PROMPT 255 topic 内给 episode 分配 role/weight

更新路径必读(第285-300行):两条分支

all_topic_episodes = self._resolve_topic_episodes(topic)
if all_topic_episodes and self._episode_resolver is not None:
    update_data = await self._resynthesize_topic(...)   # ← 实际走这条
else:
    update_data = await self._light_update_topic(...)   # ← 兼容旧行为, 实际死代码

_episode_resolver 在 hypergraph_builder.py:120 无条件注入 (set_episode_resolver(self._resolve_episode)),故 is not None 恒真; 而 _resolve_topic_episodes 只在"某 episode ID 在超图里查不到"时返回 None(正常流程不发生)。 → 实际总是走 _resynthesize_topic:把该 topic 下所有 episode 喂进 LLM 重新合成 title/summary/keywords,而非只用新 episode 做轻量拼接。 Token 控制靠 topic_resynthesis_recent_full_count:最近 N 个给完整 summary,更早的压缩 —— month 那种 3249 episodes 的图靠这个才跑得动。


四、entry/ 各 benchmark 建图入口

脚本 benchmark 备注
streamingbench_hyper_processing.py StreamingBench ⚠️ --openai_api_key 有失效硬编码默认值且会覆盖环境变量(见下"已知坑")
egolife_hyper_processing.py EgoLife
holoassist_hyper_processing.py HoloAssist 有 --vllm_base_url / --vllm_model_name(本地 Qwen caption)
captaincook4d_hyper_processing.py CC4D
mmlifelong_processing.py MMLifelong (day/week/month) 108K,最大
bench_build_speed.py 建图速度测试 见下节
sb_build_332_ffmpeg.py SB sample_332 补建 2026-07-28 新增,ffmpeg 抽帧绕开 moviepy 死锁

五、建图速度测试(论文效率图的来源)

entry/bench_build_speed.py + 运行脚本 claude_logs/run_fps_sweep_now.sh(未拷入,在原位置)。

5 档实测数据(硬编码在 paper_final_results/figure_data/make_fps_speed.py:10-16):

fps 秒/分钟视频 实时倍率 窗口数(300s) caption segmenter builder
1.000 78.2 0.77× 60 398s 277s 124s
0.500 69.7 0.86× 30 203s 232s 139s
0.200 52.1 1.15× 12 76s 201s 150s
0.100 35.6 1.68× 6 35s 99s 122s
0.067 19.5 3.08× 4 31s 45s 32s

图:figure_data/fps_build_speed.pdf、figure_data/build_pipeline.pdf(三阶段重叠拆解) 方法论文档:paper_final_results/EFFICIENCY_FIGURES_METHODOLOGY.md

两个测速必须注意的点:

  1. 建图 LLM 是 gpt-4.1-mini,不是 gpt-5-mini。bench_build_speed.py 加了 --seg_model 专门覆盖(不传会跟着 ovobench 默认配置走 gpt-5-mini,那是错的)。
  2. 必须串行、独占 API。caption 阶段走本地 GPU 稳定,但 segmenter/builder 是 API 密集型, 并发下计时虚高 2 倍以上。曾因并发污染得出 "fps=0.2 比 0.5 更慢" 的错误结论。

六、已知坑(改代码前必看)

  1. streamingbench_hyper_processing.py 的 API key 覆盖(约第960-965行): --openai_api_key 带一个已失效的硬编码默认值,且执行 os.environ["OPENAI_API_KEY"] = args.openai_api_key —— 会顶掉外部传入的环境变量, 导致全程 401。必须显式传 --openai_api_key。

  2. moviepy VideoFileClip 在损坏视频上死锁:core/video_processing.py 的 sample_frames_by_interval() 用 VideoFileClip 抽帧,遇到 H.264 坏块会卡在 image2pipe 管道读上(实测 40 分钟 read_bytes 纹丝不动)。entry/sb_build_332_ffmpeg.py 提供了 ffmpeg 逐时刻 seek 的替代实现。

  3. 自写抽帧替身必须用 t 反推 interval_index:

    interval_index = int(round((t - interval_seconds / 2.0) / interval_seconds))
    

    跳过坏帧后,列表位置不再等于 interval 序号。若用循环位置推时间,所有窗口会塌到视频开头 (实测:25 个窗全变 00:00:00,frame_captions 从 123 掉到 27,facts 从 64 掉到 20)。

  4. hypervideo/_prompt_versions/ 是历史快照(未拷入本目录),grep 时容易撞到。 **当前生效的只有 prompts/**。


七、公平性(论文可直接引用)

  • 建图不接触 GT:只读视频文件,不读答案/服务类型标签/GT时间戳。 HoloAssist 建图 anno_path=None。
  • question-aware 模式(--question_aware,仅 StreamingBench RT 等用): 向 caption prompt 注入该 sample 的题目与选项文本,引导 caption 记录相关视觉细节。 prompt 中明确要求 "Do NOT mention the questions or options in your captions", 不注入答案,故不构成答案泄露;该开关在论文中已声明。
  • 超图对所有方法/消融共享同一份:消融只在推理端屏蔽/替换,不重建图 (见 paper_final_results/ABLATION_STRUCTURE_LADDER.md 第七节)。

八、原始位置(要改代码回这里)

GST_EGOSERVE/VideoRAG-algorithm/hypervideo/
├── extractors/{episode_segmenter,topic_aggregator,fact_extractor,
│               fact_deduplicator,hypergraph_builder,llm_utils,timing_utils}.py
├── prompts/{episode,topic,fact}_prompts.py, frame_caption_prompt.py
├── {config,structure,types,hyper_video_graph}.py
└── {streamingbench,egolife,holoassist,captaincook4d}_hyper_processing.py,
    mmlifelong_processing.py, bench_build_speed.py, sb_build_332_ffmpeg.py
GST_EGOSERVE/VideoRAG-algorithm/videorag/video_processing.py   ← 抽帧