Datasets:

iapple1
/

CoCode-World-Data

CoCode World Data Caption v1 — Overall Summary and Per-view Timelines
Public reference prompt: naming normalized for release; generated caption texts remain unchanged.

任务
为给定 GTA V 双人、双视角视频生成逐样本事件 caption，供条件视频训练使用。
先查看实际 RGB 序列及所需辅助信息，再输出英文训练文本和独立标注记录。
不要只根据文件名、proxy 或现有文字推测 RGB 内容。此任务不修改训练数据、训练 prompt 或缓存。

输入
用户可提供一个双屏 RGB 视频，或同一 sample 的左右 RGB 路径，或 manifest 路径与 sample_id。
可选辅助输入：RGB 首帧、对应 proxy、实体映射、游戏日志、同步/重采样记录、已有跨窗口实体表。
读取实际媒体的 fps、帧数、尺寸和窗口范围。当前项目通常是 24 fps、124 帧、1664×480，
左右各 832×480；这些是项目默认值，不能替代媒体核对。长视频只标指定窗口。
缺少可读取 RGB 时报告缺失信息，不生成伪装成实测的 caption。

身份与参考规则
1. 左视角相机 owner 固定为 agent_000；右视角固定为 agent_001。
   相机归属不等于画面中只有该玩家；两路都可能看到两个玩家。
2. 在本项目 proxy 中，蓝色人形始终是 agent_000，红色人形始终是 agent_001，
   黄色人形表示 NPC。颜色是身份标记，不是 RGB 衣服颜色。
3. RGB/首帧决定可见外观；proxy 辅助身份、位置、朝向和相机路径；
   可信日志辅助时间和游戏状态。每种来源只支持其实际包含的事实。
   proxy 不证明关节动作、接触或命中；按键日志不证明动作成功。
4. 全文用 agent_000、agent_001 和稳定的 npc_001、vehicle_001 等 ID。
   不用“左边的人/右边的人”替代身份。跨窗口有实体表时沿用；缺少跨窗口匹配证据时
   只保证 sample 内 ID 稳定，并记录 id_scope=sample，不声称完成了全局关联。
5. 身份不能确定时保留 unknown_entity_001 等临时 ID 并记录问题，不凭服装猜玩家归属。

时间与取证
1. 以最终训练窗口的首帧为 t=0。恒定帧率视频第 f 帧为 f/fps 秒。
   事件元数据使用整数半开区间 [start_frame, end_frame_exclusive)，
   0 <= start_frame < end_frame_exclusive <= num_frames。
   124 帧、24 fps 的窗口覆盖 [0, 5.166667) 秒；最后一帧从 5.125 秒开始。
   训练文字的秒数保留两位，仅为展示；整数帧是权威时间。
   变帧率媒体按实际 PTS 处理并记录映射，不套用 f/fps。
2. 核对并记录左右时间基准，但不要求两路动作或分段边界严格对应。
   相同帧号、sample_id 或 segment_id 本身不证明同步。
   sync_status 使用 verified / declared / unverified / mismatch：
   verified=有可引用的同步记录或完成了共同事件校验；declared=用户明确说明已经同步；
   unverified=未核实；mismatch=发现不一致。记录依据，不擅自平移视频或修改 RGB/proxy。
3. 未核实同步时使用各视角局部时间，仍可输出综述和两路独立动作时间线；
   综述概括窗口内的主要活动，不声称精确同时性或未经确认的跨视角因果。
   仅缺少同步证明不阻止 candidate。发现实际错配且影响身份、主要事件或窗口归属时，
   annotation_status=needs_review、scene_description=null，并记录具体冲突。
   已完成同步验证或有用户明确同步说明时，继续标注，不重复请求确认。
4. 起始浏览建议按约 4 fps 抽帧并包含首尾帧，两路按相同时间点查看。
   对快速动作、动作切换、接触、倒地、上下车、遮挡与身份交叉处加密到 8–12 fps，
   必要时逐帧；为每张图明确标注 view、frame、time，必要时附原帧定位的局部 crop。
   这是起始采样策略，不保证覆盖所有短事件。记录实际查看过的帧。
5. 未逐帧核查的边界标为 sampled；局部逐帧核查标为 frame_checked；
   来自已对齐日志的边界标为 log_aligned。边界有歧义时记录可能范围；
   不把稀疏采样推断包装成逐帧真值。不用推测补齐看不清的动作。

内容规范
1. caption 补充每个 case 的具体场景、动作、交互与状态转换。
   保留短场景描述与必要外观绑定，不重复现有 system prompt 的通用生成规则。
2. 使用一份稳定实体表，动作按各视角实际可见内容分别记录。
   两名玩家是平等参与者；两路可以描述不同动作、采用不同分段边界和条目数，
   不要求每条事件在另一视角找到对应。确认是同一事件时可记录关联，关联不是必填项。
3. 每个事件写清 actor、action、recipient/object；结果只在有证据时填写。
   区分尝试、挥击、接触、命中、受击、倒地、死亡；不从前者自动推断后者。
   只写观察支持的关联，不凭前后相邻就断言因果、合作、敌意或目的。
4. 每个视角分别覆盖其中可观察到的玩家主要动作与持续状态，包括站立、跑动、停下、
   转身和反应。按各自语义转换分段；约 5 秒的简单片段每路可从 2–5 个主要阶段开始，
   无变化片段可以更少，复杂互动可更多，不机械地每 0.25 秒造一个新动作。
5. 相机移动和人物移动分开。只在依据充分时描述世界运动；画面位移不自动等于角色平移。
   屏幕方向写 screen-left/screen-right；角色左右手写 actor-left/actor-right。
   未知世界坐标时不猜东南西北、精确距离或角度。
6. 可见性按事件/实体和视角记录：visible / partial / occluded / out_of_view / unknown。
   occluded 表示在画幅内被遮挡；out_of_view 表示在画幅外；无法区分时用 unknown。
   可见性发生实质变化时拆分观察区间。另一路可见的事实可以支持整体综述，
   但不能写成当前视角也看到了。离画或遮挡不等于消失、传送、倒地或死亡。
7. 不把不可见的隐藏状态、猜测意图、无证据的音效、对白、武器型号、细小手部动作
   写进训练文本。相关日志可以保留在证据记录中。此版本面向视觉事件，不标音轨。
8. 使用简洁英文、现在时、稳定实体 ID 和具体动作词。普通 5 秒片段通常约 100–220 词；
   事实少就少写，事件多可增加，不为字数补情节。不要写模型推理、置信度或评测评论。
9. Overall summary 用一至三句简要概括这约 5 秒的场景和主要事件，可顺带绑定必要外观；
   不堆叠时间点，不逐条复述两路动作，不强行解释两路对应关系。
   综述可以概括后续发生的事情，但不要把后续才出现的实体说成首帧已有。
   持续状态应有序列证据，不能仅凭两个端点断言。
10. 已确认事件和未决问题分开。非关键细节未知可省略；未解决的关键身份、实际错配或核心事件冲突
    会阻止该样本成为 candidate。candidate 表示可复核的训练候选，不代表人工审核已完成。

英文训练文本固定为以下三段，空泛规则不要追加。
每个视角内部的条目按起始帧、结束帧、实体 ID 排序；两路独立分段，不做逐项配对。
视角时间线以实际人物动作和状态为主，相机运动、遮挡与构图仅在有助于理解动作时补充。
每个时间段描述该视角中可见的实体在做什么，不把视角段限制为相机描述。

Overall summary:
<One to three concise sentences summarizing the setting and main activity across the clip.>

Left-view timeline (camera owner: agent_000):
[<start_s>–<end_s>s] <Visible actor ID and observable action/state; relevant interaction, result or camera context.>
<Additional segments based on changes visible in the left view.>

Right-view timeline (camera owner: agent_001):
[<start_s>–<end_s>s] <Visible actor ID and observable action/state; relevant interaction, result or camera context.>
<Additional segments based on changes visible in the right view.>

输出
每个 sample 返回：
A. 英文 caption 代码块：仅含上述三段，对应 scene_description；needs_review 时省略此块。
B. 独立 JSON 标注记录，包含以下字段：
   schema_version: "caption-v1"
   sample_id: 原始样本 ID
   annotation_status: "candidate" 或 "needs_review"
   clip: {fps, num_frames, width, height, time_base, sync_status, sync_basis}
   sources: 实际使用的 RGB、proxy、anchor、日志或 manifest 路径；没用的不要编造
   entities: [{entity_id, role, appearance_en, identity_basis, id_scope}]
   events: [{event_id, view, time_base, start_frame, end_frame_exclusive, actor_ids, action_en,
             target_ids, result_en, visibility, boundary_quality,
             boundary_range_frames: {start, end_exclusive}, evidence}]
   view_observations: [{view, time_base, start_frame, end_frame_exclusive, description_en, evidence}]
   uncertainties: [{subject, issue, evidence, blocks_caption}]
   provenance: {captioner, prompt_version, inspected_frames: {left, right}, human_reviewed}
   scene_description: 与 A 完全相同的字符串；needs_review 时为 null
   每条 events 只对应一个视角的动作分段，view 为 "left" 或 "right"；
   visibility 按 actor ID 记录该视角中的可见性，不必填写另一视角的可见性或对应事件。
   view_observations 仅保留额外需要记录的相机或可见性证据，无额外内容时用 []。
   未知 result_en 用 null；没有 target 的事件用 []。
   boundary_range_frames 的 start/end_exclusive 分别为边界可能值的闭区间 [min,max]；
   确认精确边界用 [f,f]，不能确定范围用 null，不填写模型自报概率。
   evidence 为对象数组，写 source 和实际 frame_indices，或确切日志引用。
   同步已验证或明确声明时，clip.time_base 与所有事件/观察的 time_base 均为 "clip_local"。
   未核实同步时 clip.time_base="per_view_local"；事件和观察分别用 "left_local" / "right_local"。
   此时英文视角标题分别追加 "; times local to left view" / "; times local to right view"，
   秒数仍从各自窗口首帧起算，综述不作精确同时性断言。
   captioner 填当前会话可确认的模型标识，无法确认则填 "unknown"；不猜精确模型版本。
   human_reviewed 默认为 false；仅有人类完成该样本审核的记录时可改为 true。
C. 一句中文状态说明：是否存在阻止使用的同步、身份或核心事件问题。

用户要求保存结果时，将 caption 和记录写到用户指定目录，文件名为
<sample_id>.caption.txt 与 <sample_id>.annotation.json；无指定目录时在对话中返回。
needs_review 只保存 annotation.json，已有 candidate 文件不得被静默覆盖或保留成最新可用版本。
scene_description 是最终训练文本字段，JSON 证据记录不进入 模型文本条件。
生成新 caption 后不自动合并 manifest、不重建缓存、不启动训练。

	CoCode World Data Caption v1 — Overall Summary and Per-view Timelines
	Public reference prompt: naming normalized for release; generated caption texts remain unchanged.

	任务
	为给定 GTA V 双人、双视角视频生成逐样本事件 caption，供条件视频训练使用。
	先查看实际 RGB 序列及所需辅助信息，再输出英文训练文本和独立标注记录。
	不要只根据文件名、proxy 或现有文字推测 RGB 内容。此任务不修改训练数据、训练 prompt 或缓存。

	输入
	用户可提供一个双屏 RGB 视频，或同一 sample 的左右 RGB 路径，或 manifest 路径与 sample_id。
	可选辅助输入：RGB 首帧、对应 proxy、实体映射、游戏日志、同步/重采样记录、已有跨窗口实体表。
	读取实际媒体的 fps、帧数、尺寸和窗口范围。当前项目通常是 24 fps、124 帧、1664×480，
	左右各 832×480；这些是项目默认值，不能替代媒体核对。长视频只标指定窗口。
	缺少可读取 RGB 时报告缺失信息，不生成伪装成实测的 caption。

	身份与参考规则
	1. 左视角相机 owner 固定为 agent_000；右视角固定为 agent_001。
	相机归属不等于画面中只有该玩家；两路都可能看到两个玩家。
	2. 在本项目 proxy 中，蓝色人形始终是 agent_000，红色人形始终是 agent_001，
	黄色人形表示 NPC。颜色是身份标记，不是 RGB 衣服颜色。
	3. RGB/首帧决定可见外观；proxy 辅助身份、位置、朝向和相机路径；
	可信日志辅助时间和游戏状态。每种来源只支持其实际包含的事实。
	proxy 不证明关节动作、接触或命中；按键日志不证明动作成功。
	4. 全文用 agent_000、agent_001 和稳定的 npc_001、vehicle_001 等 ID。
	不用“左边的人/右边的人”替代身份。跨窗口有实体表时沿用；缺少跨窗口匹配证据时
	只保证 sample 内 ID 稳定，并记录 id_scope=sample，不声称完成了全局关联。
	5. 身份不能确定时保留 unknown_entity_001 等临时 ID 并记录问题，不凭服装猜玩家归属。

	时间与取证
	1. 以最终训练窗口的首帧为 t=0。恒定帧率视频第 f 帧为 f/fps 秒。
	事件元数据使用整数半开区间 [start_frame, end_frame_exclusive)，
	0 <= start_frame < end_frame_exclusive <= num_frames。
	124 帧、24 fps 的窗口覆盖 [0, 5.166667) 秒；最后一帧从 5.125 秒开始。
	训练文字的秒数保留两位，仅为展示；整数帧是权威时间。
	变帧率媒体按实际 PTS 处理并记录映射，不套用 f/fps。
	2. 核对并记录左右时间基准，但不要求两路动作或分段边界严格对应。
	相同帧号、sample_id 或 segment_id 本身不证明同步。
	sync_status 使用 verified / declared / unverified / mismatch：
	verified=有可引用的同步记录或完成了共同事件校验；declared=用户明确说明已经同步；
	unverified=未核实；mismatch=发现不一致。记录依据，不擅自平移视频或修改 RGB/proxy。
	3. 未核实同步时使用各视角局部时间，仍可输出综述和两路独立动作时间线；
	综述概括窗口内的主要活动，不声称精确同时性或未经确认的跨视角因果。
	仅缺少同步证明不阻止 candidate。发现实际错配且影响身份、主要事件或窗口归属时，
	annotation_status=needs_review、scene_description=null，并记录具体冲突。
	已完成同步验证或有用户明确同步说明时，继续标注，不重复请求确认。
	4. 起始浏览建议按约 4 fps 抽帧并包含首尾帧，两路按相同时间点查看。
	对快速动作、动作切换、接触、倒地、上下车、遮挡与身份交叉处加密到 8–12 fps，
	必要时逐帧；为每张图明确标注 view、frame、time，必要时附原帧定位的局部 crop。
	这是起始采样策略，不保证覆盖所有短事件。记录实际查看过的帧。
	5. 未逐帧核查的边界标为 sampled；局部逐帧核查标为 frame_checked；
	来自已对齐日志的边界标为 log_aligned。边界有歧义时记录可能范围；
	不把稀疏采样推断包装成逐帧真值。不用推测补齐看不清的动作。

	内容规范
	1. caption 补充每个 case 的具体场景、动作、交互与状态转换。
	保留短场景描述与必要外观绑定，不重复现有 system prompt 的通用生成规则。
	2. 使用一份稳定实体表，动作按各视角实际可见内容分别记录。
	两名玩家是平等参与者；两路可以描述不同动作、采用不同分段边界和条目数，
	不要求每条事件在另一视角找到对应。确认是同一事件时可记录关联，关联不是必填项。
	3. 每个事件写清 actor、action、recipient/object；结果只在有证据时填写。
	区分尝试、挥击、接触、命中、受击、倒地、死亡；不从前者自动推断后者。
	只写观察支持的关联，不凭前后相邻就断言因果、合作、敌意或目的。
	4. 每个视角分别覆盖其中可观察到的玩家主要动作与持续状态，包括站立、跑动、停下、
	转身和反应。按各自语义转换分段；约 5 秒的简单片段每路可从 2–5 个主要阶段开始，
	无变化片段可以更少，复杂互动可更多，不机械地每 0.25 秒造一个新动作。
	5. 相机移动和人物移动分开。只在依据充分时描述世界运动；画面位移不自动等于角色平移。
	屏幕方向写 screen-left/screen-right；角色左右手写 actor-left/actor-right。
	未知世界坐标时不猜东南西北、精确距离或角度。
	6. 可见性按事件/实体和视角记录：visible / partial / occluded / out_of_view / unknown。
	occluded 表示在画幅内被遮挡；out_of_view 表示在画幅外；无法区分时用 unknown。
	可见性发生实质变化时拆分观察区间。另一路可见的事实可以支持整体综述，
	但不能写成当前视角也看到了。离画或遮挡不等于消失、传送、倒地或死亡。
	7. 不把不可见的隐藏状态、猜测意图、无证据的音效、对白、武器型号、细小手部动作
	写进训练文本。相关日志可以保留在证据记录中。此版本面向视觉事件，不标音轨。
	8. 使用简洁英文、现在时、稳定实体 ID 和具体动作词。普通 5 秒片段通常约 100–220 词；
	事实少就少写，事件多可增加，不为字数补情节。不要写模型推理、置信度或评测评论。
	9. Overall summary 用一至三句简要概括这约 5 秒的场景和主要事件，可顺带绑定必要外观；
	不堆叠时间点，不逐条复述两路动作，不强行解释两路对应关系。
	综述可以概括后续发生的事情，但不要把后续才出现的实体说成首帧已有。
	持续状态应有序列证据，不能仅凭两个端点断言。
	10. 已确认事件和未决问题分开。非关键细节未知可省略；未解决的关键身份、实际错配或核心事件冲突
	会阻止该样本成为 candidate。candidate 表示可复核的训练候选，不代表人工审核已完成。

	英文训练文本固定为以下三段，空泛规则不要追加。
	每个视角内部的条目按起始帧、结束帧、实体 ID 排序；两路独立分段，不做逐项配对。
	视角时间线以实际人物动作和状态为主，相机运动、遮挡与构图仅在有助于理解动作时补充。
	每个时间段描述该视角中可见的实体在做什么，不把视角段限制为相机描述。

	Overall summary:
	<One to three concise sentences summarizing the setting and main activity across the clip.>

	Left-view timeline (camera owner: agent_000):
	[<start_s>–<end_s>s] <Visible actor ID and observable action/state; relevant interaction, result or camera context.>
	<Additional segments based on changes visible in the left view.>

	Right-view timeline (camera owner: agent_001):
	[<start_s>–<end_s>s] <Visible actor ID and observable action/state; relevant interaction, result or camera context.>
	<Additional segments based on changes visible in the right view.>

	输出
	每个 sample 返回：
	A. 英文 caption 代码块：仅含上述三段，对应 scene_description；needs_review 时省略此块。
	B. 独立 JSON 标注记录，包含以下字段：
	schema_version: "caption-v1"
	sample_id: 原始样本 ID
	annotation_status: "candidate" 或 "needs_review"
	clip: {fps, num_frames, width, height, time_base, sync_status, sync_basis}
	sources: 实际使用的 RGB、proxy、anchor、日志或 manifest 路径；没用的不要编造
	entities: [{entity_id, role, appearance_en, identity_basis, id_scope}]
	events: [{event_id, view, time_base, start_frame, end_frame_exclusive, actor_ids, action_en,
	target_ids, result_en, visibility, boundary_quality,
	boundary_range_frames: {start, end_exclusive}, evidence}]
	view_observations: [{view, time_base, start_frame, end_frame_exclusive, description_en, evidence}]
	uncertainties: [{subject, issue, evidence, blocks_caption}]
	provenance: {captioner, prompt_version, inspected_frames: {left, right}, human_reviewed}
	scene_description: 与 A 完全相同的字符串；needs_review 时为 null
	每条 events 只对应一个视角的动作分段，view 为 "left" 或 "right"；
	visibility 按 actor ID 记录该视角中的可见性，不必填写另一视角的可见性或对应事件。
	view_observations 仅保留额外需要记录的相机或可见性证据，无额外内容时用 []。
	未知 result_en 用 null；没有 target 的事件用 []。
	boundary_range_frames 的 start/end_exclusive 分别为边界可能值的闭区间 [min,max]；
	确认精确边界用 [f,f]，不能确定范围用 null，不填写模型自报概率。
	evidence 为对象数组，写 source 和实际 frame_indices，或确切日志引用。
	同步已验证或明确声明时，clip.time_base 与所有事件/观察的 time_base 均为 "clip_local"。
	未核实同步时 clip.time_base="per_view_local"；事件和观察分别用 "left_local" / "right_local"。
	此时英文视角标题分别追加 "; times local to left view" / "; times local to right view"，
	秒数仍从各自窗口首帧起算，综述不作精确同时性断言。
	captioner 填当前会话可确认的模型标识，无法确认则填 "unknown"；不猜精确模型版本。
	human_reviewed 默认为 false；仅有人类完成该样本审核的记录时可改为 true。
	C. 一句中文状态说明：是否存在阻止使用的同步、身份或核心事件问题。

	用户要求保存结果时，将 caption 和记录写到用户指定目录，文件名为
	<sample_id>.caption.txt 与 <sample_id>.annotation.json；无指定目录时在对话中返回。
	needs_review 只保存 annotation.json，已有 candidate 文件不得被静默覆盖或保留成最新可用版本。
	scene_description 是最终训练文本字段，JSON 证据记录不进入模型文本条件。
	生成新 caption 后不自动合并 manifest、不重建缓存、不启动训练。