CoCode World Data Caption v1 — Overall Summary and Per-view Timelines Public reference prompt: naming normalized for release; generated caption texts remain unchanged. 任务 为给定 GTA V 双人、双视角视频生成逐样本事件 caption，供条件视频训练使用。 先查看实际 RGB 序列及所需辅助信息，再输出英文训练文本和独立标注记录。 不要只根据文件名、proxy 或现有文字推测 RGB 内容。此任务不修改训练数据、训练 prompt 或缓存。 输入 用户可提供一个双屏 RGB 视频，或同一 sample 的左右 RGB 路径，或 manifest 路径与 sample_id。 可选辅助输入：RGB 首帧、对应 proxy、实体映射、游戏日志、同步/重采样记录、已有跨窗口实体表。 读取实际媒体的 fps、帧数、尺寸和窗口范围。当前项目通常是 24 fps、124 帧、1664×480， 左右各 832×480；这些是项目默认值，不能替代媒体核对。长视频只标指定窗口。 缺少可读取 RGB 时报告缺失信息，不生成伪装成实测的 caption。 身份与参考规则 1. 左视角相机 owner 固定为 agent_000；右视角固定为 agent_001。 相机归属不等于画面中只有该玩家；两路都可能看到两个玩家。 2. 在本项目 proxy 中，蓝色人形始终是 agent_000，红色人形始终是 agent_001， 黄色人形表示 NPC。颜色是身份标记，不是 RGB 衣服颜色。 3. RGB/首帧决定可见外观；proxy 辅助身份、位置、朝向和相机路径； 可信日志辅助时间和游戏状态。每种来源只支持其实际包含的事实。 proxy 不证明关节动作、接触或命中；按键日志不证明动作成功。 4. 全文用 agent_000、agent_001 和稳定的 npc_001、vehicle_001 等 ID。 不用“左边的人/右边的人”替代身份。跨窗口有实体表时沿用；缺少跨窗口匹配证据时 只保证 sample 内 ID 稳定，并记录 id_scope=sample，不声称完成了全局关联。 5. 身份不能确定时保留 unknown_entity_001 等临时 ID 并记录问题，不凭服装猜玩家归属。 时间与取证 1. 以最终训练窗口的首帧为 t=0。恒定帧率视频第 f 帧为 f/fps 秒。 事件元数据使用整数半开区间 [start_frame, end_frame_exclusive)， 0 <= start_frame < end_frame_exclusive <= num_frames。 124 帧、24 fps 的窗口覆盖 [0, 5.166667) 秒；最后一帧从 5.125 秒开始。 训练文字的秒数保留两位，仅为展示；整数帧是权威时间。 变帧率媒体按实际 PTS 处理并记录映射，不套用 f/fps。 2. 核对并记录左右时间基准，但不要求两路动作或分段边界严格对应。 相同帧号、sample_id 或 segment_id 本身不证明同步。 sync_status 使用 verified / declared / unverified / mismatch： verified=有可引用的同步记录或完成了共同事件校验；declared=用户明确说明已经同步； unverified=未核实；mismatch=发现不一致。记录依据，不擅自平移视频或修改 RGB/proxy。 3. 未核实同步时使用各视角局部时间，仍可输出综述和两路独立动作时间线； 综述概括窗口内的主要活动，不声称精确同时性或未经确认的跨视角因果。 仅缺少同步证明不阻止 candidate。发现实际错配且影响身份、主要事件或窗口归属时， annotation_status=needs_review、scene_description=null，并记录具体冲突。 已完成同步验证或有用户明确同步说明时，继续标注，不重复请求确认。 4. 起始浏览建议按约 4 fps 抽帧并包含首尾帧，两路按相同时间点查看。 对快速动作、动作切换、接触、倒地、上下车、遮挡与身份交叉处加密到 8–12 fps， 必要时逐帧；为每张图明确标注 view、frame、time，必要时附原帧定位的局部 crop。 这是起始采样策略，不保证覆盖所有短事件。记录实际查看过的帧。 5. 未逐帧核查的边界标为 sampled；局部逐帧核查标为 frame_checked； 来自已对齐日志的边界标为 log_aligned。边界有歧义时记录可能范围； 不把稀疏采样推断包装成逐帧真值。不用推测补齐看不清的动作。 内容规范 1. caption 补充每个 case 的具体场景、动作、交互与状态转换。 保留短场景描述与必要外观绑定，不重复现有 system prompt 的通用生成规则。 2. 使用一份稳定实体表，动作按各视角实际可见内容分别记录。 两名玩家是平等参与者；两路可以描述不同动作、采用不同分段边界和条目数， 不要求每条事件在另一视角找到对应。确认是同一事件时可记录关联，关联不是必填项。 3. 每个事件写清 actor、action、recipient/object；结果只在有证据时填写。 区分尝试、挥击、接触、命中、受击、倒地、死亡；不从前者自动推断后者。 只写观察支持的关联，不凭前后相邻就断言因果、合作、敌意或目的。 4. 每个视角分别覆盖其中可观察到的玩家主要动作与持续状态，包括站立、跑动、停下、 转身和反应。按各自语义转换分段；约 5 秒的简单片段每路可从 2–5 个主要阶段开始， 无变化片段可以更少，复杂互动可更多，不机械地每 0.25 秒造一个新动作。 5. 相机移动和人物移动分开。只在依据充分时描述世界运动；画面位移不自动等于角色平移。 屏幕方向写 screen-left/screen-right；角色左右手写 actor-left/actor-right。 未知世界坐标时不猜东南西北、精确距离或角度。 6. 可见性按事件/实体和视角记录：visible / partial / occluded / out_of_view / unknown。 occluded 表示在画幅内被遮挡；out_of_view 表示在画幅外；无法区分时用 unknown。 可见性发生实质变化时拆分观察区间。另一路可见的事实可以支持整体综述， 但不能写成当前视角也看到了。离画或遮挡不等于消失、传送、倒地或死亡。 7. 不把不可见的隐藏状态、猜测意图、无证据的音效、对白、武器型号、细小手部动作 写进训练文本。相关日志可以保留在证据记录中。此版本面向视觉事件，不标音轨。 8. 使用简洁英文、现在时、稳定实体 ID 和具体动作词。普通 5 秒片段通常约 100–220 词； 事实少就少写，事件多可增加，不为字数补情节。不要写模型推理、置信度或评测评论。 9. Overall summary 用一至三句简要概括这约 5 秒的场景和主要事件，可顺带绑定必要外观； 不堆叠时间点，不逐条复述两路动作，不强行解释两路对应关系。 综述可以概括后续发生的事情，但不要把后续才出现的实体说成首帧已有。 持续状态应有序列证据，不能仅凭两个端点断言。 10. 已确认事件和未决问题分开。非关键细节未知可省略；未解决的关键身份、实际错配或核心事件冲突 会阻止该样本成为 candidate。candidate 表示可复核的训练候选，不代表人工审核已完成。 英文训练文本固定为以下三段，空泛规则不要追加。 每个视角内部的条目按起始帧、结束帧、实体 ID 排序；两路独立分段，不做逐项配对。 视角时间线以实际人物动作和状态为主，相机运动、遮挡与构图仅在有助于理解动作时补充。 每个时间段描述该视角中可见的实体在做什么，不把视角段限制为相机描述。 Overall summary: Left-view timeline (camera owner: agent_000): [–s] Right-view timeline (camera owner: agent_001): [–s] 输出 每个 sample 返回： A. 英文 caption 代码块：仅含上述三段，对应 scene_description；needs_review 时省略此块。 B. 独立 JSON 标注记录，包含以下字段： schema_version: "caption-v1" sample_id: 原始样本 ID annotation_status: "candidate" 或 "needs_review" clip: {fps, num_frames, width, height, time_base, sync_status, sync_basis} sources: 实际使用的 RGB、proxy、anchor、日志或 manifest 路径；没用的不要编造 entities: [{entity_id, role, appearance_en, identity_basis, id_scope}] events: [{event_id, view, time_base, start_frame, end_frame_exclusive, actor_ids, action_en, target_ids, result_en, visibility, boundary_quality, boundary_range_frames: {start, end_exclusive}, evidence}] view_observations: [{view, time_base, start_frame, end_frame_exclusive, description_en, evidence}] uncertainties: [{subject, issue, evidence, blocks_caption}] provenance: {captioner, prompt_version, inspected_frames: {left, right}, human_reviewed} scene_description: 与 A 完全相同的字符串；needs_review 时为 null 每条 events 只对应一个视角的动作分段，view 为 "left" 或 "right"； visibility 按 actor ID 记录该视角中的可见性，不必填写另一视角的可见性或对应事件。 view_observations 仅保留额外需要记录的相机或可见性证据，无额外内容时用 []。 未知 result_en 用 null；没有 target 的事件用 []。 boundary_range_frames 的 start/end_exclusive 分别为边界可能值的闭区间 [min,max]； 确认精确边界用 [f,f]，不能确定范围用 null，不填写模型自报概率。 evidence 为对象数组，写 source 和实际 frame_indices，或确切日志引用。 同步已验证或明确声明时，clip.time_base 与所有事件/观察的 time_base 均为 "clip_local"。 未核实同步时 clip.time_base="per_view_local"；事件和观察分别用 "left_local" / "right_local"。 此时英文视角标题分别追加 "; times local to left view" / "; times local to right view"， 秒数仍从各自窗口首帧起算，综述不作精确同时性断言。 captioner 填当前会话可确认的模型标识，无法确认则填 "unknown"；不猜精确模型版本。 human_reviewed 默认为 false；仅有人类完成该样本审核的记录时可改为 true。 C. 一句中文状态说明：是否存在阻止使用的同步、身份或核心事件问题。 用户要求保存结果时，将 caption 和记录写到用户指定目录，文件名为 .caption.txt 与 .annotation.json；无指定目录时在对话中返回。 needs_review 只保存 annotation.json，已有 candidate 文件不得被静默覆盖或保留成最新可用版本。 scene_description 是最终训练文本字段，JSON 证据记录不进入 模型文本条件。 生成新 caption 后不自动合并 manifest、不重建缓存、不启动训练。