README.md

metadata

license: mit

目录结构与数据形态

Data_Raw (原始输入数据)

存放所有未经过加工的初始文件。这里的路径和文件是整个数据集的来源

• metadata.jsonl：全局索引表。每一行代表一个样本，包含样本的全局唯一 name、视频中是否有背景音乐 audio_valid、总时长 duration，以及对应的描述文件相对路径 motion_caption
• human_motion/{bucket_id}/{name}.pt：动作原文件，里面存储了 SMPL-X 模型的旋转与平移张量字典（包含 body_pose、global_orient 和 transl 暂时{bucket_id}均为 00000作为第一批测试）
• motion_caption/{bucket_id}/{name}.json：原始时间戳切片文本。由多个动作片段组成的列表，每个片段包含当前动作的文本描述、开始时间 start_time 和结束时间 end_time
• original_videos/{bucket_id}/{name}.mp4：原始动作参考视频，包含画面和原声背景音频
• converted_motion/{bucket_id}/{name}/：包含各种运动参数、CSV文件的文件夹。在多数任务中，它作为最终的真实标签（Ground Truth）

Data_Processed (加工后数据)

存放从 Data_Raw 中提取、转换和裁剪后得到的数据

• polished_captions/{name}.json：经过大模型润色后的长文本。其中的 dense_detail.full_sequence 字段用于生成语音
• motion_fore/{name}_fore/：前半段动作切片文件夹
• motion_inter/{name}_inter/：去除首尾的中间动作切片文件夹
• motion_retro/{name}_retro/：后半段动作切片文件夹
• Video/：存放从原始视频中提取的图像帧和测试视频切片
• Multi/：多模态提取数据池，包含以下文件：
  • MUL_AUD/{name}_audio.wav：读取润色文本后合成的语音文件
  • MUL_RHY/full/{name}_music.mp3：从原始视频中提取的完整背景音乐
  • MUL_RHY/sliced/{name}_music_fore.mp3：根据动作结构截取出的前半段背景音乐
  • MUL_POS/{name}_traj.npy：解算出的连续 22 个核心关节的世界坐标轨迹矩阵，形状为 [Frames, 22, 3]
  • MUL_BAL/{name}/joint_{i}.npy：提取出的各动作片段结束瞬间，22 个关节的 3D 世界坐标切片

Tasks (评测任务 JSON 配置)

存放最终生成的标准化 JSON 文件。这些 JSON 文件通过读取上述的处理结果，明确定义了模型在各项测试中的输入数据（Input）和对比标准（Ground Truth）