Heiheihaha17's picture
Add files using upload-large-folder tool
347d9a3 verified
|
Raw History Blame Contribute Delete
16.5 kB

动态多人语音测试集

数据下载:Heiheihaha17/DiSH-Bench-dynamic-v1,固定版本标签 dynamic-v1.0.0。HF 提供完整 FOA、逐题 prompt、metadata、答案、复现包及只含公开输入的 Parquet 预览索引。远端发布验证见仓库根目录 upload.complete.json,文件清单见 manifest.jsonl。

本版本生成 2,000 个物理动态场景,不是 2,000 道题。500 个匹配组各包含四个场景:easy_human、easy_robot、hard_joint_a、hard_joint_b,Easy/Hard 各 1,000。匹配组共用房间、初始位置、源录音、裁剪、发言时间及播放角色;各分支使用不同运动。每个场景渲染每台机器人的四通道 FOA,再绑定端侧与云端题目;测试集不生成或附带双耳试听音频。同一接收器的不同题目、云端中的对应音频均引用同一文件和 SHA256。

场景时长与对应静态父场景相同,从至少 7.5 秒的多人父场景筛选。机器人只做水平平移,朝向和高度固定;Easy 仅一个人或一个机器人移动,Hard 所有人和机器人都移动。移动实体位移超过 2 米,minimum-jerk 连续运动曲线最高速度不超过 0.8 m/s,避开墙壁、家具与其他实体。原机器人播放角色保持:R01 不播放,R02/R03 可以播放;自身播放理想移除,其他机器人播放是干扰。

本轮最终时间间隔:声源 RIR 0.2 秒、接收器 RIR 0.2 秒、所有空间任务输出与评分 0.2 秒。 RIR 节点共用场景零点 0.0,0.2,0.4,...,运动结束后固定位置;静止实体只用一个节点。轨迹评分网格严格位于音频结束前。源插值使用发射时刻,接收器插值使用接收时刻,包括混响尾音;这是准静态双时间 RIR 近似,不是完整 Doppler 模拟。每个 RIR 均来自该场景同一冻结房间的 GLB、语义和材料。

任务、模型输入与输出

任务 输入 输出 主要指标
端侧 DOA 轨迹 单台机器人四通道 FOA、已知机器人位姿 所有人声的稳定 track_id,每 0.2 秒的 active 与绝对 [azimuth,elevation] 球面误差均值、总体方差、RMSE;覆盖率、20° 成功率
端侧距离轨迹 单点 FOA、初始发言时段和 30° 方位扇区、位姿 初始选定的同一个人的 active 与距离,米 绝对误差均值、方差、RMSE;覆盖率、0.5 m 成功率
端侧 KW-ASR 单点 FOA、指定唤醒词、位姿/播放日志 唯一命中人声的完整转写,含唤醒词;无人或多人命中返回空串 正例 corpus WER;负例空串正确率
云端 Transcript→轨迹 全部机器人同步 FOA、给定文本、各机器人位姿 对应同一个人的 active 与世界 [x,y,z],米 三维欧氏误差均值、方差、RMSE;覆盖率、0.5 m 成功率
云端 KW-ASR 全部同步 FOA、与端侧相同指定词和目标 与端侧同目标的完整转写或空串 corpus WER、空串正确率及对应端云收益

DOA 只输出人声,不输出机器人轨迹;没有端侧 Transcript→DOA/ΔDOA 任务。距离题为每个人、每个收音器生成;初始选择时刻重新检查唯一性、30° 扇区边界和一位小数公开位姿,随后不能因目标移出扇区而换人。云端文本轨迹为每个人生成。正例 KW 为每个人发言开头的 1–3 个连续整词,没有多人命中的正例;另外包括无人命中与机器人播放命中的负例。无人命中的指定词取自其他匹配组的真实正例开头词,并验证本场景无人/机器人发言开头出现,避免固定虚构词成为负例捷径。robot_only 按场景发声定义;在该播放机器人的端侧,其自身播放被移除,评分另外分层为 robot_only_removed,其他可听视角为 robot_only_audible。

全部真人也是 DOA 的目标,因此每个人都使用一段连续真人原录音。原录音仅在整词边界裁剪,保留内部自然停顿;最长内部活动间隔 ≤0.35 秒,不内部拼接、删停顿、循环、拉伸或插入静默。主要运动区间从第一词开始覆盖至最后一词结束。机器人干扰可以间歇发声。原始 LibriSpeech 录音不是消声室认证素材;dry 仅表示空间卷积前的源输入。

每个匹配组四个场景共用素材,多个组可能复用房间、父场景和原始说话人,但不同组不重复同一精确整词裁剪。不同整词裁剪仍可能在同一原录音中重叠,因此不能把所有裁剪视为独立语音素材。实际场景、录音、任务、房间、素材复用计数见输出 summary.json 和 reports/plan.json。比较模型时按 motion group/room 及原始录音/说话人聚类统计,不把题目或接收器视角当作独立物理样本。本轮只有 test,不新增真实多点录音、环境事件、同步偏差、时钟漂移或丢包。

输出组织与 metadata

config.json                         参数、选择种子、上游/代码/库存哈希
public/assets/rooms/                房间 mesh、语义、材料和 layout
public/audio/test/{scene_id}/       各机器人的原始 FOA WAV
public/test/scenes.jsonl            场景/组/父场景 ID、难度、时长、位姿、播放日志
public/test/recordings.jsonl        接收器与音频 ID、路径、SHA、FOA 约定
public/test/views.jsonl             每个单点及全接收器云端视角
public/test/inputs.jsonl            题目、查询条件、参考接收器、音频顺序和窗口
public/test/prompts.jsonl           逐题最终给模型的完整 prompt
public/test/pairs.jsonl             同场景、同任务、同目标的对应关系
public/test/motion_groups.jsonl     四种运动分支对应关系
public/test/index.jsonl             随机读取 inputs/prompt 的字节偏移
private/assets/sources/            原始源文件,带裁剪/对齐出处
private/recipes.jsonl              实际接受的几何、轨迹、素材与渲染配方
private/test/scenes.jsonl           人/机器人身份、精确位置/速度/相对几何、连续性
private/test/gold.jsonl             所有题目的私有答案和分层字段
private/rir_audits/                 每个实际 RIR 的位置、延迟、方向、尾音和 SHA
reports/groups/                    每组的渲染、混音和文件检查记录
reports/acceptance.json             全量验收,含 oracle 评分程序自检
dataset.lock.json                  发行文件 SHA256 和大小
release.complete.json              仅全量验收通过后写入的完成标记

世界 +Y 向上,yaw=0 面向世界 -Z,正 yaw 朝 +X。FOA 是 16 kHz FLOAT WAV、四通道 ACN/SN3D [W,Y,Z,X];收音器局部 X=前、Y=左、Z=上。DOA 左为正、右为负,俯仰向上为正。给模型的机器人位置保留一位小数,yaw 为整数;私有真值保留精度。空间真值指场景时钟下源的发射位置,音频保留传播延迟。

公开模型输入不包含人声 ID/轨迹、原始干声、私有配方或 RIR。target_group_id 是不暴露人声身份的对应 ID;题目/目标 ID 使用冻结在 private recipe 的随机盐,题目按其散列顺序打乱,不能从固定 H01/H02 编号或生成顺序推断答案。复现沿用同一盐,端云对应保持一致。云端文本作为指定目标的合法查询条件,机器人播放内容/时序也是合法已知信息。创作者的完整复现包包含 private,评测时须物理隔离这些文件。

模型推理和正式评分

从 Hugging Face 下载模型可见部分;public/** 保留所有原始音频和 JSONL 的相对路径:

from huggingface_hub import snapshot_download
root = snapshot_download(
    "Heiheihaha17/DiSH-Bench-dynamic-v1", repo_type="dataset",
    revision="dynamic-v1.0.0",
    allow_patterns=["public/**", "config.json", "summary.json", "README.md", "USAGE.zh.md"],
)

评分人员另行下载 private/test/gold.jsonl。HF 的 private/ 表示评测信息边界,不是访问控制;模型进程须只挂载公开输入。全部创作者输入可通过 reproduction_inputs.zip 获取;重建配方和源素材不要提供给待测模型。

无需声学引擎。推荐 Python 3.12,先运行 python -m pip install -r dynamic_dataset/requirements-eval.txt 安装 NumPy 和 soundfile。模型适配器 your_adapter.predict(item) 接收公开 prompt、foas(按 receiver_ids 排序的 float32 [samples,4] 数组)、机器人位姿和任务查询;返回 prompt 指定的解析后对象:KW 为字符串,空间任务为 dict。

python -m dynamic_dataset.run --root /path/to/dataset \
  --adapter your_adapter:predict --output outputs/predictions.jsonl
python -m dynamic_dataset.score --root /path/to/dataset \
  --predictions outputs/predictions.jsonl --output outputs/scores --strict

每次 predict(item) 必须创建独立模型上下文,只使用这道题的输入。不能把前一道题的音频、查询、转写或输出保存在下一题的模型上下文中;尤其云端文本轨迹题已提供目标转写,不能用它回答同场景 KW-ASR。loader.load 只传该题允许的字段,适配器应保持无状态;创作者 private 文件不挂载到模型进程。

可加 --task-id KW_ASR --setting edge 仅推理指定任务/视角;index.jsonl 保存 task/setting,筛选发生在读取音频前。分任务运行结果先合并,再用完整题目清单评分,避免把未测试任务误认为已覆盖。

预测每行 {"sample_id":"...","output":...}。可按 --shard I --shards N 分配推理,每个 worker 使用不同输出文件,合并后统一评分。推理支持续跑;适配器异常会中断并保留已写结果,修复后续跑,不把异常编成成功响应。

空间输出包含全部 0.2 秒时间点,每帧必须有布尔 active;真值活动帧评分,静默与纯混响尾音不计算位置误差,假活动另计。DOA 在整段固定一对一匹配身份,漏帧计 180°,不能逐帧换人取得乐观误差。距离和世界坐标的误差统计只对覆盖帧计算,同时必须报告全部真值活动帧的覆盖率与 0.5 m 成功率。汇总方差是活动帧合并后的总体方差,不能平均各题的方差。20°/0.5 m 是沿用可运行 demo 的工作阈值,不宣称已由真实应用实验确定。

KW 忽略大小写和标点计算词编辑距离;正例汇总 corpus WER,负例单独统计实际空串准确率,缺失输出与只含标点的输出不是正确空串。未知、重复 ID 在 --strict 下报错;非 strict 下非法行计入清单问题,重复 ID 的两份输出都删除并计为漏答。所有漏答仍留在完整题目分母中。预测清单及 SHA 在首次读取 gold 前冻结。没有跨任务总分;按难度、分支、机器人数量、人声数量、混响,以及目标人声/实际观测收音器的运动状态分层,并给出同目标 KW 的端云对照。私有 gold 的 target_human_motion 与 observed_receiver_motion 使用 static/moving/mixed/none;物理场景有运动不代表每个端侧视角的选定目标都在移动。

reports/acceptance/oracle_* 仅验证数据与评分程序衔接,不是模型 baseline;本发行不声称完成待测模型推理或人工听音验收。

从冻结输入完全重建流程

从 GitHub 克隆本分支也可以直接复现,无需先取得作者的 ZIP:releases/20261001/ 锁定接受配方;bootstrap 从固定 SHA 的官方语音压缩包提取所需原文件,重建并校验房间资产。使用原生 CPU 环境,在仓库根目录运行:

python -m dynamic_dataset.bootstrap --corpus /path/to/corpus --root /path/to/new_output
python -m dynamic_dataset.render --root /path/to/new_output --shard 0 --shards 8 --processes 2
# 全部 shard 完成后:
python -m dynamic_dataset.export --root /path/to/new_output
python -m dynamic_dataset.audit --root /path/to/new_output

复现输入 ZIP 包含实际接受的全量配方、所有原始语音文件与精确裁剪、单词对齐、房间/材料、代码和环境信息。不依赖作者机器上的旧数据集、对齐模型或临时 RIR。解压后代码位于 code/,输入位于包根目录。

cd unpacked_bundle/code
docker build -f dynamic_demo/Dockerfile -t dish-dynamic-test:20261001 .
docker run --rm --cpus=4 -e DISH_ALLOW_LOCAL_RENDER=1 \
  -v /absolute/unpacked_bundle:/bundle \
  -v /absolute/new_output:/output dish-dynamic-test:20261001 \
  python -m dynamic_dataset.reproduce --bundle /bundle --root /output

这是大规模 CPU 声学计算;先初始化,分片渲染后统一 finalize 更合适。4 CPU 全量可能需要很长时间,不保证短时间完成。FOA 和 metadata 建议至少留 20 GB;RIR 中间缓存位于每个 worker 的 /tmp,需另外预留每个活动组数 GB。8 并发 worker 建议 16 CPU/64 GB RAM,实际资源和耗时随房间与设备变化。

python -m dynamic_dataset.reproduce --bundle /bundle --root /output --stage initialize
# 所有 shard 必须覆盖且不重叠;可以分配到不同机器,共享 output。
python -m dynamic_dataset.reproduce --bundle /bundle --root /output \
  --stage render --shard 0 --shards 8 --processes 2
# 完成全部 8 个 shard 后才运行:
python -m dynamic_dataset.reproduce --bundle /bundle --root /output --stage finalize

渲染输出 FOA;校验原始素材、房间 hash、LOS 直达方向/延迟、RIR/卷积尾音、混音 stem 求和与 WAV 读回、几何/避障、初始选人、关键词唯一性、所有任务答案和 prompt、端云音频绑定与 loader。完成标记续跑时检查已有文件 SHA;失败记录保存在 reports/failures/。每组在独立解释器进程中运行;RIR 更新超过 180 秒无进展时,监督进程重启该组,并保留、逐文件验证已有 kernel,最多尝试三次。不会以零音频或插值替代失败 kernel。原生引擎在不足 0.1 米的声源/收音器采样组合中出现过错误直达方向;已失败组保留房间、时长与语音,重新搜索轨迹,并额外要求所有双时间节点位置至少相距 0.3 米,保存 rejected recipe 和修复出处后重新渲染。通过验收的组不被自动修改。卷积调度范围与 native irTime 分开:默认为 irTime+0.001 秒;出现返回 kernel 支撑超界的组在 recipe 中显式设置更保守的 convolution_horizon_s(本轮异常组为 3.5 秒),完整保留 native 返回值,并继续执行尾音截断检查。场景、语音、运动与 native 参数不因此改变。只删除通过检查后本 worker 新建的临时 RIR 缓存,不清理源数据或旧发行;失败缓存保留供恢复。

native 环境沿用 dynamic_demo/Dockerfile:Habitat-Sim 57ee4941dc4765240f0f91f70b2c97a919bf9038、RLR 4fd446b4abb5c71fb7a232a083bbddd65f25fc6f、generation/native/source_xyz.patch。数值依赖见 dynamic_demo/requirements.txt 和实际 environment.json。原生射线模拟不保证跨进程、机器的逐字节 RIR/WAV 一致;公开发行的原始 FOA 用其 SHA 校验,重建保证同一素材、几何、轨迹、渲染参数及验收规则。

重新选材与搜索代码为 inventory.py、prepare.py、geometry.py;上游静态接受配方与整词对齐位于 generation/releases/20260930/,无需重新对齐。发布复现从实际接受配方开始,避免把随机搜索/native 接受顺序当成逐字节可再现性保证。没有保留数百万份 native kernel 数组,复现会按节点重新渲染;每份原始 RIR 的质检记录与 SHA 仍保留。

语音归属 LibriSpeech/CC BY 4.0;Habitat/RLR 的许可见 generation/native/UPSTREAM.md,其中 RLR 上游依赖为 CC BY-NC 4.0。项目代码与生成标注沿用仓库原有权利说明。

在需要 Ubuntu userspace 启动包装器的 HPC 环境,设置 DISH_WORKER_PYTHON_COMMAND 为启动命令的 JSON 数组,例如 ["bash","/absolute/run_soundspaces_runtime.sh"];原生 Docker/Python 环境无需设置。恢复既有 native 缓存可传 --rir-recovery-cache /path/to/cache_root,其子目录为 group ID,含 cache_context.json 和配对 .npy/.json;房间、参数或文件 SHA 不一致会报错。