WIlfLin's picture
Release S1-mini-Chinese-1106 native-v10 weights and model card
298c4d8 verified
|
Raw History Blame Contribute Delete
7.6 kB
metadata
language:
  - zh
  - en
license: other
license_name: s1-mini-license
license_link: LICENSE
base_model: superwhisper/s1-mini
library_name: transformers
pipeline_tag: text-generation
tags:
  - qwen3-asr
  - transcript-normalization
  - chinese
  - code-switching
  - full-finetuning
  - spelling-normalization
  - numbered-lists
  - numeric-normalization

S1-mini-Chinese-1106

专门为 Qwen3-ASR 中文及中英混合转写优化的文本后处理模型。 本模型是在中文口语整理数据与合成修订数据上继续全量微调的版本。 基于 S1-mini by Superwhisper,保留原始名称、署名、LICENSE 和 NOTICE。 本次发布对应 native-v10 最终 BF16 权重,与 2026-11-06 部署版本一致。

A Chinese-data full fine-tune of S1-mini by Superwhisper, optimized for postprocessing Qwen3-ASR Chinese and Chinese/English mixed transcripts. This is a text postprocessor, not an audio recognizer or a general-purpose assistant. Release 1106 corresponds to the native-v10 final checkpoint.

本次更新

  • 模型学习英文拼读合并与书面大小写:空格字母、连字符字母、连续大写、近音词后拼读,以及明确展示拼写的语境。
  • 明确展示拼写时使用字母间连字符;普通词、公司、人名和缩写按语境书写。
  • 模型生成段落、换行及编号列表,无需外部格式整理规则。
  • 增加中文和英文基础数学转写:+、-、*、/、^、=,不输出 LaTeX。不主动计算或修正口述答案。
  • 增加数字内部零、时间零分钟、中文人名保留、否定、改口和不完整片段训练。
  • 保留去口水词、去重复和原文保持能力的回放。

这些是训练目标,不是所有输入上的保证。部分列表语境、专业词、数字和长距离改口仍会出错。 拼读、数学和格式能力来自模型;本仓库不附带旧版拼读前置规则或内容保护过滤器。 调用方仍须处理超时、生成截断和文本提交。模型生成换行不会自动保证输入法不触发发送键。

训练方法与来源

约 7.52 亿参数,全参数监督微调,不是 LoRA,也不是只解冻最后几层。 继承前期中文训练,随后加入原能力回放、拼读语境、数学和字段保真课程。 中文基础来源为 CS2W,英文改口来源为 Disfl-QA,另有自制及模型辅助合成数据。 合成标注经过程序核验;这不等于独立人工标注,也不等于自然语音测试。

最近阶段:

阶段 样本呈现池 选取结果
v8.2 综合课程 21,240 一轮,1,328 步,学习率 2e-6
v9 错误修订与回放 26,886 选取第 900 步,学习率 1e-6
v10 字段保真精修 3,104 一轮,194 步,学习率 5e-7

最终阶段包含 1,494 条新增字段课程和 1,610 条回放;12 条为空输出监督。 重复采样表示权重,不表示同等数量的独立样本。训练仅对目标输出与 EOS 计算损失。 新增拼读目标采用标记编码;正常调用仍直接使用附带 tokenizer 和 chat template。 训练采用 FP32 主参数/优化器与 BF16 autocast;导出权重为 BF16。 上游固定版本:superwhisper/s1-mini@88f6b15896c73bbb13a3b596e0afe8ea0d5150b4。

见 training-provenance.json 和 data-provenance.json。本发布不包含训练文本、私有录音、用户输入历史或部署配置。

测试结果与限制

以下为 Transformers、BF16、greedy、batch 16、最大生成 256 tokens 的原始模型输出,没有外部内容校验。

开发回归集 词法整句匹配 严格整句匹配
基础能力 46/48 42/48
列表与数字格式 20/20 19/20
中文人名保留 60/60 60/60
拼读语境 318/326 318/326
生造词拼读保真 197/200 197/200
基础数学转写 235/236 235/236
修订开发集 81/94 80/94
修订诊断集 74/97 73/97
公开来源文本回归 232/400 118/400

公开文本回归的词法字符错误率为 **9.3685%**。词法匹配删除非字母数字字符,保留字母大小写与数字;严格匹配保留标点和内部空白。这些是参考文本匹配指标,不是人工语义正确率。

这些集合在开发中反复使用,不是新的独立盲测。人名 60/60 不代表任意人名都正确。相比 v9 第 900 步,本版改善人名,但 97 条诊断集的总分下降,不能声称所有能力均提高。

BF16 对后端、精度和批次形状敏感。 同一句 501+3=504 转写在一个 batch 16 中错误输出 5001+3=504,逐条生成及 FP32 对照输出正确。97 条诊断集逐条 BF16 与 batch 16 FP32 均为 75/97 严格匹配。FP32 并非所有错误的通用修复。

Orin vLLM 0.23.0、BF16、单序列服务通过 23 条针对性模型检查及一条禁用整理的直通检查。这仅证明指定场景的真实服务行为,不是广泛正确率或真实录音验收。

没有为当前权重重算上游所称的 94.8% token accuracy,不得将上述成绩视为该口径复现。 完整汇总见 evaluation-summary.json。

推理示例

使用附带模板,关闭 thinking。普通文本选择 Structure: prose,明确列表选择 Structure: lists。 以下示例直接返回模型输出,不调用拼读规则或格式后处理。

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "WIlfLin/S1-mini-Chinese-1106"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id, dtype=torch.bfloat16, device_map="auto"
).eval()
messages = [
    {"role": "system", "content": (
        "You are a text normalizer for speech-to-text transcripts. The input begins "
        "with a control line specifying the styling, structure, and context settings; "
        "clean the transcript to match those settings and output only the cleaned text."
    )},
    {"role": "user", "content": (
        "[Styling: semi-formal] [Structure: lists] [Context: general]\n"
        "今天有两件事,第一检查备份,第二更新文档。"
    )},
]
text = tokenizer.apply_chat_template(
    messages, tokenize=False, add_generation_prompt=True, enable_thinking=False
)
inputs = tokenizer(text, return_tensors="pt").to(model.device)
with torch.inference_mode():
    generated = model.generate(
        **inputs, do_sample=False, max_new_tokens=256,
        pad_token_id=tokenizer.eos_token_id,
    )
print(tokenizer.decode(
    generated[0, inputs.input_ids.shape[1]:], skip_special_tokens=True
).strip())

只含口水词时可以输出空字符串。输入中的提问、命令、引用均是待整理文本,模型不应回答或执行。实际输出仍可能偏离这些目标。长文本应在应用中明确检测截断,不能将截断结果当作完整整理。

许可证与署名

本模型是 S1-mini by Superwhisper 的修改版本,底层架构为 Qwen3-0.6B。 保留原始 LICENSE 和 NOTICE。原许可证基于 Apache-2.0,并含继续保留原始名称与作者署名的附加条款,不能省略该条款。 数据来源声明:CS2W 为 CC-BY-SA-4.0,Disfl-QA 为 CC-BY-4.0;数据条款见来源文件,不改称为纯 Apache-2.0。

权重 SHA256:79d38b1e577677c88d911d70d20ad110a46b54426a7c87f0cb7433c1133575f9。