xuling-engine / README.md
xiaofangtang's picture
Add engine runtime README (not an LLM)
afc6e0d verified
|
Raw History Blame Contribute Delete
1.55 kB
---
license: apache-2.0
tags:
- ctranslate2
- cuda
- runtime
- xuling
---
# 序灵 Matrix 翻译引擎运行时补件
这**不是**大语言模型(LLM),也**不是** NLLB / m2m 的模型权重。
本仓库只提供 **序灵 Matrix** 桌面助手翻译引擎的 **CUDA / `_internal` 运行时补件**(`engine-runtime.zip`)。客户端关于页「翻译引擎」下载后,解压到安装目录的 `engine\`,应得到 `engine\_internal\...`。
## 文件
| 文件 | 说明 |
|---|---|
| `engine-runtime.zip` | 运行时补件。zip 根目录是 `_internal\` |
压缩后约 578 MB。里面主要是 CTranslate2 / PyInstaller 运行库和 CUDA 12 相关 DLL(至少包括 `cublasLt64_12.dll`、`cublas64_12.dll`)。
**不含:**
- 大语言模型权重
- NLLB / m2m 模型(`model.bin` 等)
- `assistant_server.exe`(后端程序在安装包 / 热更通道,不算引擎完整度)
## 解压目标
解压到安装目录下的 `engine\`(不要再套一层文件夹):
```
<安装目录>\engine\
_internal\
cublasLt64_12.dll
cublas64_12.dll
...
```
完整度只认 `_internal` + 上述 CUDA DLL,不认后端 exe。
## 模型在别处
翻译模型是单独的 Hugging Face 仓库,不在本仓:
- NLLB(质量优先):https://huggingface.co/JustFrederik/nllb-200-1.3B-ct2-int8
- m2m(速度优先):https://huggingface.co/jncraton/m2m100_418M-ct2-int8
国内访问可用镜像,把主机换成 `hf-mirror.com`,路径不变。