audio audioduration (s) 1.23 4.72 |
|---|
YAML Metadata Warning:empty or missing yaml metadata in repo card
Check out the documentation for more information.
DimSum 杯复赛任务说明
一、复赛目标
我们希望 DimSum 杯真正面向技术落地,而不是一场简单的「拼算力」比赛。
因此,本次复赛选择的任务标的,是一份真正意义上的低资源语音语料。参赛队伍需要在有限的数据条件下,探索更具现实价值、能够实际落地的语音算法方案。
二、复赛数据
本次复赛提供的训练数据为藤县话语音语料,数据总量约为 20 GB。
这些数据并非经过完整工程化处理的标准竞赛数据集,而是由语言学专家直接交付给我们的 Raw Data(原始数据)。参赛选手可能需要自行完成数据清洗、格式整理、切分、特征提取以及训练样本构建等工作。
我们希望通过这种方式,让比赛更加接近真实的小语种、方言及低资源语音项目的实际开发场景。
三、任务背景
在只有约 20 GB 语音数据的情况下,直接训练一个具有较高准确率和泛化能力的藤县话自动语音识别系统(ASR),是一项难度非常高的任务。
本次复赛并不要求参赛队伍都必须完成常规的 ASR 系统。我们希望参赛者在面对低资源条件时,能够根据数据特点和实际需求,设计更加现实、可行的技术方案。
因此,本次复赛将任务调整为一个相对明确的语音分类与匹配任务。
3.1 💡例子
这里举一个现实的例子。某医院要做一套 AI 智能接诊系统。然而,该医院出于一个「多方言混杂」的地区,而且不少方言属于「低资源方言」,AI 训练时能拿到的语音数据不足 40 小时。
这时,使用常规 ASR 方案进行转录错误率高,难以投入实际使用。
因此,我们需要「退而求其次」。AI 接诊时并不需要理解用户说的所有内容,而是需要匹配用户说的内容和数据库中的哪个已有的句子最相似。例如,匹配到:
- 我头好痛。
- 我肚痛。
- 我发烧。
- 我想睇内科。
- 我想挂号。
- ……
换而言之,做的不是问答题,而是选择题。
因此,这个系统的任务是「AI 如何更好地做对选择题?」。
四、复赛任务
训练数据中包含若干藤县话句子及其对应的语音文件。
测试数据将由能够讲藤县话的志愿者重新录制。志愿者所朗读的内容,与训练数据中的某一句话相同,但录音者、语速、音色、发音习惯、录音设备及环境噪声等因素可能存在差异。
参赛选手需要实现一个算法,对每一个测试语音文件进行判断,并从训练数据提供的候选句子中找出:
与该测试语音内容最相似、最可能对应的训练句子。
换言之,算法的输入是一段测试语音,输出是训练集中与其内容最匹配的句子。
五、任务示例
假设训练数据中包含以下三句话:
- 今朝天气好热。
- 你食咗饭未?
- 我听日去县城。
测试集中,一名志愿者重新录制了「你食咗饭未?」这句话。
参赛算法需要分析该测试语音,并在三个候选句子中判断其最可能对应第 2 句话,最终填写对应的句子内容。
算法不必完整输出语音的逐字转写结果,只需要正确识别测试语音与哪一个训练句子最为接近。
六、我们关注的能力
本次复赛重点考察参赛队伍在以下方面的能力:
- 对原始语言学语料进行整理和工程化处理的能力;
- 在低资源数据条件下进行语音建模的能力;
- 对不同说话人、语速、音色和录音环境的泛化能力;
- 设计语音特征、嵌入表示、相似度计算或分类模型的能力;
- 在有限算力条件下实现可复现、可部署方案的能力。
参赛队伍可以采用但不限于以下技术路线:
- 预训练语音模型特征提取;
- 语音嵌入与向量检索;
- 对比学习;
- 度量学习;
- 音频分类模型;
- ASR 中间结果与文本匹配;
- 动态时间规整(DTW);
- 多模型融合。
七、复赛理念
低资源语音技术的核心挑战,不是简单扩大模型规模或增加计算资源,而是在数据有限、标注不足、语种特殊的情况下,找到有效、稳定并且能够落地的技术路径。
我们希望参赛选手能够将本次复赛视为一个真实的小语种语音应用问题:
- 不以单纯堆叠算力为目标;
- 不要求盲目追求完整的大模型 ASR;
- 鼓励根据数据规模选择合适的任务形式;
- 鼓励形成能够迁移到其他低资源方言和小语种场景的解决方案。
即使无法直接完成高质量的藤县话 ASR,只要能够实现可靠的语音分类和句子匹配,也具有明确的应用价值,并能够为后续其他的低资源语音识别、语料标注、发音学习和语音检索等任务提供基础。
八、Repo 说明
本仓库是复赛的本地开发与评测模板:提供样例音频、输入输出约定、推理入口脚本,以及本地打分脚本。正式比赛时,参赛队伍应在此协议上替换为自己的模型与推理逻辑。
8.1 目录结构
| 路径 | 说明 |
|---|---|
audio/ |
样例测试音频(如 1.wav … 10.wav)(💡未来会更新) |
input.jsonl |
本地推理输入列表:每行含 audio_path、pred_text(空字段) |
output.jsonl |
推理结果:每行含 audio_path、pred_text |
verify.jsonl |
本地参考答案:每行含 audio_path、ref_text(正式评测时由平台提供,不随提交公开) |
predict.py |
推理入口;需实现/替换其中的模型加载与识别逻辑 |
script.py |
本地评测脚本(将预测与 verify.jsonl 对比并打分) |
requirements.txt |
评测依赖文件(繁简转换等) |
outputs/ |
评测输出目录(默认被 .gitignore 忽略) |
8.2 数据格式
输入 / 预测(JSONL)
{"audio_path": "./audio/1.wav", "pred_text": ""}
推理完成后,pred_text 应为模型输出的匹配句子文本(或与训练候选句对应的文本)。
参考答案(JSONL)
{"audio_path": "./audio/1.wav", "ref_text": "她的家在大邮村。"}
audio_path 须与预测文件一一对应(数量、路径、顺序一致)。
8.3 本地开发流程
- 安装依赖:
pip install -r requirements.txt
- 运行推理(本地):
python predict.py --input_jsonl input.jsonl --output_jsonl output.jsonl
平台评测时,容器可能以如下方式调用(需同时提供音频根目录与测试列表):
python predict.py --audio_dir <音频根目录> --test_list <列表文件> --output_jsonl <输出路径>
- 本地打分:
python script.py verify.jsonl output.jsonl ./outputs
评测规则摘要:
- 预测文本会先转为简体,再去除标点后与参考文本比较;
- 编辑距离 ≤ 2 视为该条正确;
outputs/score.txt写入句准确率(百分比);outputs/error.jsonl写入判错样本及编辑距离。
8.4 参赛队伍需要改什么
当前 predict.py 中的 load_model() / transcribe() 仅为占位示例(基于 verify.jsonl 打乱映射,不是真实模型)。提交前请替换为真实的语音分类 / 句子匹配方案,并保证:
- 入口仍为
predict.py,命令行参数与上述协议兼容。只要确保这一点,提交到生产环境便能正常运行。 - 输出 JSONL 字段为
audio_path+pred_text; - 不依赖本地
verify.jsonl作为「答案泄漏」——正式评测环境中不会提供该文件给推理进程。
- Downloads last month
- 25