+
+ 全帧 RGB
+ INPUT +[B, 8, 3, 512, 896]
+ ImageNet normalization；不使用外部 detector 或 hand crop。
+
+
+
+
+
+ Accepted backbone + optional Camera / Mask Adapters
+Foundation Hand 模型结构
++ 冻结 DINOv3 的 RGB-D-K 双手视频重建模型。逐帧提取 dense patch feature， + 只让左右手语义 Query 在时间维交互，最后回归 MANO 与 camera-space 几何。 + Accepted full 1e-6 主干可保持原样，也可接入 relative-camera-motion World Adapter；历史 v2 在 RGB token 前做加法， + v3 原型在 frozen decoder 后学习 reference-frame root residual。新增 + SAM3 / 统一 MaskPatchAdapter 在 RGB patch tokens 上注入空间条件； + 接口与 loss 已实现，正式数据训练待启动。Camera 实验结果与开发状态见 + World Adapter 实验进度。 +
+
+
+
+ 输入
+ T=8 · 512×896
+
+
+ 主干
+ DINOv3 ViT-B/16
+
+
+ Decoder
+ 3× Alternating
+
+
+ 坐标
+ Camera · meter
+
+
+
+
+
+
+ 01 / End-to-end
+端到端数据流
++ 主图包含可选 Camera / Mask 分支。Mask M0 只训练 adapter，其余 parent 全冻结；标注的 TRAINABLE 为原主干训练配置。 +
+
+ 冻结参数
+ 可训练参数
+ 可选 / mask 控制
+ L=2：left / right
+ P=32×56=1,792 patches
+ D=512
+
+
+
+
+
+
+
+
+
+
+
+
+
+ 01
+ Batch 输入
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ Metric Depth + Valid
+ OPTIONAL +[B, 8, 1, 512, 896]
+ 单位为米；availability 与 pixel-valid 分开控制。
+
+
+ 相机内参 K
+ OPTIONAL +[B, 8, 3, 3]
+ 同时服务 patch ray、depth geometry 与 reprojection。
+
+
+ Camera 外参合同
+ C1 / C2 +T_world_camera [B,T,4,4] + 2× mask [B,T]
+ 统一为 camera-to-world；C0 不消费，C1/C2 由 valid 与 input-available 双重门控。
+
+
+ 语义 Query + 帧有效性
+ TRAINABLE +2×512 + frame_valid [B,8]
+ 固定两个 slot：0=left，1=right；另有 side embedding。
+
+
+ Hand Mask · SAM3 / GT / Manual
+ OPTIONAL +hand_mask [B,T,2,Hm,Wm]
+ 离线 provider → 统一 soft mask；0=left，1=right；与完整输入图像对齐。
+valid / score / input_available [B,T,2]；source 为字符串。分支结构与 loss ↓
+
+
+
+
+
+
+ 02
+ 逐帧编码
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ DINOv3 ViT-B/16
+ FROZEN +RGB → 1,792×768
+ 使用 normalized dense patch tokens，不保留 CLS / register token。
+
+
+ RGB Projection
+ TRAINABLE +Linear 768 → 512
+
+
+ Patch Ray Condition
+ TRAINABLE +[x,y,1,avail] → MLP 4→512→512
+ 由 K 在每个 patch 中心生成，作为 residual 加到 RGB token。
+
+
+ World Motion Adapter
+ OPTIONAL +v1 C2: 10D · v2 C2: 9D →512
+ 相邻外参生成每帧 condition，broadcast 加到 1,792 个 RGB patch token；v2 去掉 valid-as-feature 并 center identity。
+
+
+ Depth Geometry Encoder
+ TRAINABLE +[X,Y,Z,logZ,valid] · 5→128→512
+ 3×3 Conv + GELU + 16×16 stride-16 Conv；输出 1,792 个 token。
+
+
+ MaskPatchAdapter
+ ZERO-INIT +5 features / hand → Conv → gate → RGB + ΔM
+ 输出 [B,T,P,512] 空间条件；最后投影零初始化，缺失输入时残差为 0。
+probability / edge / area / score / availability；保持 DINO 三通道 RGB 输入。
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ 03
+ Factorized Query Decoder
+
+
+
+
+
+
+ RGB + K + ΔM* + ΔT*
+ [B,8,P,512]
+
+
+ Depth
+ [B,8,P,512]
+
+
+ L/R Query
+ [B,8,2,512]
+
+
+ Alternating Stage 1
+ S1 → T1
+
+
+ Spatial
+ L/R self-attn → RGB cross-attn → depth cross-attn × 0.5 → FFN
+
+
+ Temporal
+ 每只手沿 T 双向 self-attn → 每帧 L/R bimanual attn
+
+
+ Alternating Stage 2
+ S2 → T2
+
+
+ Spatial
+ 重新读取同帧 RGB / depth patch tokens
+
+
+ Temporal
+ 只传递 2×T 个 hand tokens，不做全视频 patch attention
+
+
+ Alternating Stage 3
+ S3 → T3
+
+
+ Spatial
+ 输出最终每帧 left / right hand query
+
+
+ Temporal
+ frame_valid mask；bidirectional；无 temporal position encoding
+
+
+
+
+
+
+
+ 04
+ 预测 Heads
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ 2D Joint Head
+ TRAINABLE +Linear 512→42 · sigmoid
+ [B,8,2,21,2]，归一化图像坐标。
+
+
+ MANO Rotation Head
+ TRAINABLE +Linear 512→96 → 16×6D
+ 1 个 wrist global rotation + 15 个 local joint rotations。
+
+
+ Wrist Translation
+ TRAINABLE +Linear 512→3 · direct XYZ
+ x/y 直接回归；z=softplus(raw)+1e-4，camera-space 米。
+
+
+ Clip-level Shape
+ TRAINABLE +time softmax pool → Linear 512→10
+ 每只手整段 clip 共用一组 MANO beta。
+
+
+ Presence Head
+ LOSS=0 +Linear 512→1
+ 接口存在，但当前正式配置没有有效监督。
+
+
+
+ 05
+ MANO 与输出
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+ 6D → Rotation Matrix
+ GEOMETRY +[B,8,2,16,3,3]
+
+
+ Left / Right MANO
+ FIXED LAYER +pose + beta + wrist XYZ
+ 官方 manopth，use_pca=False；left shapedirs convention 修正。
+
+
+ Camera-space Joints
+ OUTPUT +[B,8,2,21,3] · meter
+
+
+ Camera-space Vertices
+ OUTPUT +[B,8,2,778,3] · meter
+
+
+ 其他直接输出
+ OUTPUT +2D joints · pose · shape · wrist XYZ
+
+ OPTIONAL MASK ADAPTER
+
+
+ + Mask → spatial token residual → 原 Decoder / Heads → camera-space MANO。 + 初始化时等于 parent；adapter-only 训练后，整段无 mask 在 eval 模式下严格回退冻结 parent。 + 时序与双手 attention 可跨帧、跨手传播 mask 信息，因此不保证单帧或单手独立回退。 +
+ 2026-09-17 · 接口 / LOSS 已实现 · M0 SMOKE 通过 +
+ OPTIONAL WORLD ADAPTER
+
+ + v2 在 decoder 前给每个 RGB patch 加同一 motion condition；v3 prototype 在 frozen decoder 后， + 把 coarse root 对齐到首帧相机坐标并学习 bounded translation / global-orientation residual。两者均 zero-init； + 缺失、非法、静止或不可辨识的单帧外参严格回退。MANO、joints 与 wrist translation 仍输出在当前 camera-space。 +
+ V2 EVALUATED · V3 R1-A STOPPED AT 500 +
+
+
+
+
+ 01B / Optional spatial mask condition · 2026-09-17
+SAM3 / MaskPatchAdapter 结构与监督
+118 项测试通过；CPU smoke 3 步有几何梯度、无 mask 精确回退。正式数据训练与 benchmark 增益尚未验证。
+
+
+
+ 01 · 外部 Provider →SAM3 / SAM2 / manual / GT render
离线生成与左右手匹配；trainer 只接统一字段。
+ 离线生成与左右手匹配；trainer 只接统一字段。
02 · Mask Contract →
0–1 概率 + valid + score + input_available；cache / sidecar 同步几何增广。
+ [B,T,2,Hm,Wm]0–1 概率 + valid + score + input_available；cache / sidecar 同步几何增广。
03 · Patch Features →前景 / 边界下采样到 patch grid；拼 area、score、availability。每手 5 通道，shared Conv 3×3：5→64 + GELU。
+ 04 · Gate + Projection →每手 pooled feature → sigmoid gate × score × available；L/R concat 128 通道 → zero-init Conv 1×1：128→512。
+ 05 · Spatial Residual →
投影后再用 availability 门控；整帧缺失时连 bias 一起归零。输出
+ RGB tokens += ΔM投影后再用 availability 门控；整帧缺失时连 bias 一起归零。输出
[B,T,P,512]。06 · Decoder → MANO原 temporal / bimanual decoder → pose、shape、translation → joints / vertices；继续使用现有主监督。
+ 辅助分支：每手 pooled feature 另外输出 helpfulness logit 与 quality prediction；gate entropy 使用 gate logit。 + 质量标签只用于监督。输入 dropout 只关闭 availability，保留 mask target 和 valid；无 mask 的旧 cache 自动补零。 + 当前实现只接收概率，provider logits 需先 sigmoid。M0 冻结完整 parent；联合 decoder/head 训练属于后续阶段。
+ +
+
+
+ 主监督 · M0MANO pose / shape、camera joints / vertices、translation、2D / reprojection、双手与时序监督；继承 parent 权重。
+ 配对前向 · M1相同 RGB / Depth / K / Camera，分别使用正确、缺失、shuffled mask。对照分支停止梯度；no-mask student 的 parent distill 保留梯度。
+ 几何误差 E每帧每手计算：Abs MPJPE / 20 mm + relative MPJPE / 15 mm + MPVPE / 20 mm + projected 2D / 10 px；仅有效标注参与。
+ 弱投影监督MANO joints + K → 图像位置 → 双线性采样 hand_mask；约束投影关节落在前景内。
+ 完整轮廓监督MANO mesh → 外接可微 renderer → silhouette logits → BCE / Dice / boundary / exclusion。Loss 已实现，renderer 尚需接入。
+ 权重与阶段12 项默认均为 0。M0 保持关闭；M1 配置开启 parent distill 0.1、no-harm 0.1、shuffled margin 0.05。
+
+
+
+
+ | Loss item | 实现定义 | 依赖 / 激活阶段 |
|---|---|---|
mask_missing_parent_distill | No-mask student 对齐冻结 parent：rotation / shape / normalized 2D L1 + translation L1 / 20 mm。 | M1：0.1；需要独立 frozen parent。 |
mask_dropout_consistency | Mask-on 的 15 个局部关节旋转矩阵对齐 detached no-mask 输出。 | 默认 0；仅有效 mask 输入。 |
mask_no_harm | mean max(E_on − stopgrad(E_off) − margin, 0)。默认 margin=0。 | M1：0.1；MANO 几何 + 有效 GT。 |
mask_shuffled_margin | mean max(E_on − stopgrad(E_shuffled) + 0.05, 0)。排除相同或不可用 shuffled mask。 | M1：0.05；跨 batch 打乱，保持 L/R。 |
mask_foreground_coverage | mean(1 − M(projected joint))；score 加权。排除空 mask、无效 K 与相机后的关节。 | 默认 0；弱前景约束，需 joints + K。 |
mask_background_exclusion | 预测 silhouette 落在 mask 外的质量 / 全部预测 silhouette 质量；score 加权。 | 默认 0；需要可微 silhouette。 |
mask_silhouette_bce | Silhouette logits 与 soft mask 的逐像素 BCE；score 加权。 | 默认 0；需要可微 silhouette。 |
mask_silhouette_dice | Soft Dice loss；epsilon=1e-6，score 加权。 | 默认 0；需要可微 silhouette。 |
mask_boundary_dt | 预测软边界到 target 边界的距离；按图像对角线和预测边界质量归一化，排除空 target 边界。 | 默认 0；需要可微 silhouette。 |
mask_confidence_calibration | BCE(helpfulness logit, stopgrad(E_on < E_off))。 | 默认 0；几何 GT 与 no-mask 对照。 |
mask_quality_regression | 预测质量与显式 quality target 的 MSE；独立 quality_valid。 | 默认 0；不把 provider score 自动当 GT。 |
mask_gate_entropy | (Bernoulli gate entropy / log(2) − (1 − quality target))²。 | 默认 0；仅控制确定性，不决定开/关方向。 |
所有 mask loss 接入 BimanualLoss，按 source-specific valid 与 frame_valid 聚合；开启却缺少配对或渲染字段时明确报错。
+ SAM3 mask 属于伪标签，第一阶段只作为输入条件。完整接口与启动命令 ·
+ adapter-only 训练入口。
+
+
+
+
+ 02 / Camera motion condition
+World Adapter 数据流
++ 先保留已完成实验使用的 v2 token-bias 路径，再给出 2026-08-26 已完成 step-500 机制筛查但未晋级的 v3 reference-residual 路径。 +
+
+
+ 历史 v2 · 相邻 camera-to-world pose → 当前帧 RGB token condition
+ 已评估 · centered 9D → 512D · 134,145 params +
+
+
+ 外参输入
+
+
+
+ 相对运动 ΔT[t]
+
+
+
+ SE(3) Feature
+
+
+
+ WorldMotionAdapter
+
+
+
+ RGB Token Residual
+
+
+
+ 原 Decoder + Heads
+
+
+
+
+ v3 prototype · frozen coarse state → reference-frame refined residual
+ 已训练 500 steps / 四干预已评估 · mechanism gate failed +
+
+
+ 外参轨迹
+
+
+
+ Frozen Coarse State
+
+
+
+ Reference Alignment
+
+
+
+ Temporal Refiner
+
+
+
+ Bounded Residual
+
+
+
+ Back to Current Camera
+
+
+
+
+
+
+ Canonical pose
+
+ T_world_camera [B,T,4,4]
+ camera-to-world 齐次刚体变换；各数据源先规范化到同一方向。
+
+ Source validity
+
+ camera_extrinsics_valid [B,T]
+ 表示该帧是否确有合法、有限且正交的真实外参。
+
+ Input gate
+
+ camera_extrinsics_input_available [B,T]
+ 表示本次 forward 是否允许使用外参；与数据真实性分开控制。
+
+
+
+
+ v2 token bias
+
+ 134,145 parameters
+ 足以编码 9D pose，但 frozen decoder 很容易忽略统一 patch bias。
+
+ v3 residual refiner
+
+ 1,225,496 parameters
+ v2 的 9.13 倍；约占含 v3 整模 0.96%，负责时序状态融合与 root correction。
+
+ Depth-specific path
+
+ 21,514,499 parameters
+ v3 仅为其 5.70%；外参是低维轨迹，不需要复制 dense depth encoder。
+
+
+
+
+ v1 / v2 feature 版本
+ Formal v1 的 C1/C2 为 7D/10D（含 valid）；full-parent v2 不把 availability 当 domain token，centered C2 为 9D。v3 也使用 centered 9D motion。
+
+
+ T=1 与首帧
+ 没有上一帧时 relative motion 无定义，condition 精确为 0；单帧可正常推理，但当前不会从外参获得增益。
+
+
+ 变长与安全回退
+ T 可变，padding 由 frame_valid 屏蔽；任一相邻 pose 缺失、非法或被禁用时，该帧回退到原 RGB token。
+
+
+
+
+ Depth 与外参不重复
+ Depth + K 给当前相机内的逐帧 metric geometry；外参给相机坐标系之间的时序关系。v3 在视觉融合之后使用后者，避免与 depth cross-attention 抢同一入口。
+
+
+ Camera → World 指标恒等式
+ 同一刚体变换同时作用于 prediction 与 GT 时，逐帧欧氏误差不变；camera-space MPJPE 降多少，转换后的 world-space MPJPE 就降多少。
+
+
+ v3 的严格边界
+ Missing / Identity 在 step 500 后 raw predictions 完全一致，375 个 frozen parent tensors 逐 bit 不变；支持变长和 causal mask。
+ 但 True - Missing 为 +0.0283 mm、True - Shuffled 近零，R1-A 已停，不能写成性能提升。
+
+
+
+
+
+
+ 03 / Decoder internals
+一次 Spatial / Temporal 更新内部
+以下结构在 alternating 模式中重复三次，顺序为 S1→T1→S2→T2→S3→T3。
+
+
+
+
+
+
+
+
+
+ SpatialUpdate · 每帧独立读取图像
+ [B×T, 2, 512] +
+
+
+ Query + Side Bias
+
+
+
+ L/R Self-Attention
+
+
+
+ RGB Cross-Attention
+
+
+
+ Depth Cross-Attention
+
+
+
+ Fixed Depth Gate
+
+
+
+ Residual FFN
+
+
+
+
+ TemporalUpdate · 只混合 Hand Query
+ [B, T, 2, 512] +
+
+
+ 01
+
+
+ 按 hand 重排
+ [B,T,2,D] → [B×2,T,D]
+
+
+ 02
+
+
+ 沿时间双向 Self-Attention
+ 8 heads；frame_valid mask；无 temporal position bias
+
+
+ 03
+
+
+ 恢复逐帧排列
+ [B×2,T,D] → [B,T,2,D]
+
+
+ 04
+
+
+ 逐帧 Bimanual Attention
+ left / right 两个 query 再交换信息
+
+
+
+
+
+
+ 04 / Tensor contract
+关键张量与训练目标
+B 可变；正式配置 batch size=1。T 通常为 8，collate 与推理支持变长。
+
+
+
+
+
+
+
+
+
+
+ | 张量 | +Shape | +产生位置 | +语义 | +
|---|---|---|---|
T_world_camera |
+ [B,T,4,4] |
+ Canonical camera contract | +camera-to-world 外参；仅 C1/C2 消费 | +
camera_extrinsics_valid |
+ [B,T] |
+ Dataset / cache adapter | +真实外参与刚体合法性 mask | +
camera_extrinsics_input_available |
+ [B,T] |
+ Input condition gate | +本次 forward 是否允许消费外参 | +
world_adapter_features |
+ [B,T,10] |
+ Relative camera motion | +C2 的 rotation-6D + translation-3 + valid-1 | +
world_condition |
+ [B,T,512] |
+ WorldMotionAdapter | +沿 P 维 broadcast 后加到 RGB patch tokens | +
rgb_tokens |
+ [B,T,1792,512] |
+ DINO + projection + K rays + optional ΔM / ΔT | +逐帧 appearance、内参射线、可选 mask 空间条件与相机运动条件 | +
hand_mask |
+ [B,T,2,Hm,Wm] |
+ Offline provider → aligned cache | +全图 L/R soft probabilities；valid / score / input_available 各为 [B,T,2]，source 为字符串 | +
ΔM / mask_gate |
+ [B,T,P,512] / [B,T,2] |
+ MaskPatchAdapter | +空间 token residual / 每手置信门控；有无 mask 都保持原 MANO 输出接口 | +
depth_tokens |
+ [B,T,1792,512] |
+ DepthGeometryEncoder | +metric XYZ / logZ patch feature | +
hand_tokens |
+ [B,T,2,512] |
+ Alternating decoder | +每帧左右手的共享语义表示 | +
joint2d_norm |
+ [B,T,2,21,2] |
+ 2D joint head | +归一化图像坐标 [0,1] | +
mano_rotation_matrices |
+ [B,T,2,16,3,3] |
+ 6D rotation conversion | +MANO global + local joint rotations | +
mano_shape |
+ [B,T,2,10] |
+ time pool + shape head | +同一 clip 内按帧展开的共享 beta | +
wrist_root_translation |
+ [B,T,2,3] |
+ direct XYZ head | +camera-space wrist，单位米 | +
joints_camera |
+ [B,T,2,21,3] |
+ Left / Right MANO | +camera-space hand joints，单位米 | +
vertices_camera |
+ [B,T,2,778,3] |
+ Left / Right MANO | +camera-space mesh vertices，单位米 | +
+
+
+ 有：K 内参条件
+ patch center rays + geometry depth
+
+
+ 可选：Camera 外参条件
+ C0 bypass；C1 relative rotation；C2 relative SE(3)
+
+
+ 输出仍为 Camera-space
+ 外参用于 conditioning，不把 MANO / joints 改成 world-space
+
+
+ 可选：Hand Mask 空间条件
+ Provider 解耦；zero-init adapter；M0 冻结 parent
+
+