| # compact_v2_pooled 实验 |
|
|
| 这是一个独立于 `system_split_code/` 的构图实验，用来验证“将节点和边放在统一存储空间”这一思路。它只读取已物化的 docking PDB；不会改写旧的 compact-v1 输出、旧 staging，也不会覆盖一个已经存在的 v2 输出目录。 |
|
|
| 这里的“统一空间”是每个 shard 内的连续 tensor pool：所有 system 的静态节点、所有 pose 的动态节点和边都通过 pointer tensor 拼接保存。不同 protein-ligand system 仍然是彼此断开的图，不能把它们按三维坐标连边；训练时 `CompactGraphDataset` 会按 pointer 恢复单个 PyG 图。 |
|
|
| 相比旧的 direct-v1 流程，v2 做了三件实质性工作：蛋白和 native ligand 只解析一次、P--P 距离只算一次、topology 特征用与旧算法等价的 CSR 稀疏计算。它也直接写 pooled shard，不落每个 pose 的中间 `.pt` 图文件。 |
|
|
| 先做最小逐 pose 对照（推荐的稳定 Medusa reference system）： |
|
|
| ```bash |
| cd /work/nvme/bghp/hhao/gnncp/compact_v2_pooled |
| /u/hhao/anaconda3/envs/gcp/bin/python build_pooled_v2.py \ |
| --data-dir /work/nvme/bghp/hhao/gnncp/docking_materialized/hiqbind_5k_v1/medusagraph_full_v1 \ |
| --output-dir /work/nvme/bghp/hhao/gnncp/datasets_compact_hiqbind_v2_bench/medusagraph_parity_1afk_v2 \ |
| --method medusagraph \ |
| --system-id hiqbind_sm__1afk_PAP_A_125 \ |
| --max-poses-per-system 2 \ |
| --verify-reference \ |
| --on-error abort |
| ``` |
|
|
| 通过后，提交 25-system 的 CPU benchmark： |
|
|
| ```bash |
| sbatch run_medusa_first25_v2.sbatch |
| ``` |
|
|
| 默认申请 32 CPU / 128 GiB，并启动 16 个 source-system worker；每个 numerical backend 都限制为单线程。输出默认在 `datasets_compact_hiqbind_v2_bench/medusagraph_first25_v2`，其中 `build_report.json` 给出耗时、失败 system 和 reader smoke test，`manifest.json` 记录最终图数与 pooled shard 大小。 |
|
|
| ## 图、原子和预测结果的对应关系 |
|
|
| 新建的 v2 输出会自动写入两个附加文件（不改变 pooled tensor，也不使用 SHA）： |
|
|
| - `graph_index.jsonl`：每行恰好对应 `CompactGraphDataset(dataset_root)[dataset_index]` 的一个图。 |
| - `graph_index_manifest.json`：列定义、验证统计和训练时的 join 约定。 |
|
|
| 每行包含以下可追溯字段：`dataset_index`、本次构图局部的 |
| `source_graph_index`、`source_system_id`、原始 pose 顺序 |
| `raw_pose_ordinal`、`protein_path`、`native_ligand_path`、 |
| `predicted_ligand_path`，以及 `shard_index`、`local_pose_index`、 |
| `local_storage_system_index` 和 `storage_pose_ordinal`。其中 |
| `source_system_id + raw_pose_ordinal + predicted_ligand_path` 是跨独立 |
| 构图运行时应保留的原始样本身份；`source_graph_index` 仅在某一次 builder |
| 运行内部有效。 |
|
|
| 训练或推理的每一行预测结果必须保留 `dataset_index`。如要把多个运行的 |
| 预测合并，还应一并保存 `source_system_id`、`raw_pose_ordinal` 和 |
| `predicted_ligand_path`，然后以 `dataset_index` 与本数据集的 JSONL sidecar |
| 进行一对一 join。导出器会验证：所有 dataset index 连续且唯一、所有 |
| source graph index 唯一、所有 shard/local pose 位置唯一、所有原始 |
| protein/native/predicted PDB 三元组存在，且 manifest、pointer tensor 和 |
| 原始路径完全一致。 |
|
|
| 对于早于自动生成 sidecar 的已完成 v2 目录，可以单独补建一次；该工具会 |
| 拒绝覆盖任何已有 sidecar： |
|
|
| ```bash |
| /u/hhao/anaconda3/envs/gcp/bin/python export_graph_index.py \ |
| --dataset-root /path/to/compact_v2_output |
| |
| # 只读复核已有 sidecar 与原始 PDB / pooled pointers 是否仍一致 |
| /u/hhao/anaconda3/envs/gcp/bin/python export_graph_index.py \ |
| --dataset-root /path/to/compact_v2_output \ |
| --check-only |
| ``` |
|
|
