| # FunASR-bmodel |
|
|
| ## 目录 |
|
|
| - [FunASR-bmodel](#funasr) |
| - [目录](#目录) |
| - [1. 简介](#1-简介) |
| - [2. 特性](#2-特性) |
| - [3. 准备模型和链接库](#3-准备模型和链接库) |
| - [3.1 使用提供的模型](#31-使用提供的模型) |
| - [3.2 编译模型](#32-编译模型) |
| - [4.运行测试](#4-运行测试) |
| - [4.1 环境准备](#41-环境准备) |
| - [4.2 离线识别](#42-离线识别) |
|
|
| ## 1. 简介 |
|
|
| FunASR是一个流行的语音识别框架，本目录将常用的几个模型移植到算丰平台。 |
|
|
| 该例程支持在V23.09LTS SP3及以上的BM1684X SOPHONSDK, 或在v1.7.0及以上的BM1688 SOPHONSDK上运行，支持在插有1684X加速卡(SC7系列)的x86主机上运行，也可以在1684X SoC设备（如SE7、SM7、Airbox等）上运行，也支持在BM1688 Soc设备（如SE9-16）上运行。 |
|
|
| ## 2.特性 |
|
|
| * 支持BM1684X(x86 PCIe、SoC)，BM1688(SoC) |
| * 支持FP32(BM1684X/BM1688)模型编译和推理 |
|
|
| ## 3. 准备模型 |
|
|
| 该模型目前支持在BM1684X和BM1688上运行，已提供编译好的bmodel。 |
|
|
| ### 3.1 使用提供的模型 |
|
|
| 本例程在各个模型的目录内`scripts`目录下提供了下载脚本`download.sh` |
|
|
| ```bash |
| # 安装unzip，若已安装请跳过，非ubuntu系统视情况使用yum或其他方式安装 |
| sudo apt-get update |
| sudo apt install unzip |
| chmod -R +x scripts/ |
| ./scripts/download.sh |
| ``` |
|
|
| 支持的模型 |
| | 模型名称 | Python | C++ | |
| |------------|----------|-----| |
| |[speech_paraformer-large-contextual_asr_nat-zh-cn-16k-common-vocab8404](speech_paraformer-large-contextual_asr_nat-zh-cn-16k-common-vocab8404)|支持|支持| |
| |[speech_paraformer-large_asr_nat-zh-cn-16k-common-vocab8404-online](speech_paraformer-large_asr_nat-zh-cn-16k-common-vocab8404-online)|支持|支持| |
| |[speech_seaco_paraformer_large_asr_nat-zh-cn-16k-common-vocab8404](speech_seaco_paraformer_large_asr_nat-zh-cn-16k-common-vocab8404)|支持|不支持| |
| |[speech_fsmn_vad_zh-cn-16k-common](speech_fsmn_vad_zh-cn-16k-common)|支持|支持| |
| |[punc_ct-transformer_zh-cn-common-vocab272727](punc_ct-transformer_zh-cn-common-vocab272727)|支持|支持| |
| |[speech_campplus_sv_zh-cn_16k-common](speech_campplus_sv_zh-cn_16k-common)|支持|不支持| |
|
|
| ## 3.2 编译模型 |
| 请参考模型目录内的readme.md编译 |
|
|
| ## 4. 运行测试 |
|
|
| ### 4.1 环境准备 |
| Python需要先安装tpu_perf, 在x86平台使用算能计算卡（PCIE模式）时执行 |
| ```bash |
| pip3 install tpu_perf-1.2.35-py3-none-manylinux2014_x86_64.whl |
| ``` |
| 在算能边缘计算盒子（SOC模式）上执行 |
| ```bash |
| pip3 install tpu_perf-1.2.35-py3-none-manylinux2014_aarch64.whl |
| ``` |
| 另外还需要安装外部依赖库 |
| ```bash |
| pip3 install -r requirements.txt |
| ``` |
| |
| ### 4.2 离线识别 |
| Python离线识别可参考offline.py，配置好音频文件路径，以及平台和设备ID后，即可执行推理。 |
| |
