Text Classification
Transformers
Safetensors
English
Chinese
qwen3_5
image-text-to-text
decision-model
system-one
decision-index
lora-merged
Instructions to use PelaAI/KnowLine-4B-Gen4 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use PelaAI/KnowLine-4B-Gen4 with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-classification", model="PelaAI/KnowLine-4B-Gen4")# pip install -U transformers accelerate # Load model directly from transformers import AutoProcessor, AutoModelForMultimodalLM processor = AutoProcessor.from_pretrained("PelaAI/KnowLine-4B-Gen4") model = AutoModelForMultimodalLM.from_pretrained("PelaAI/KnowLine-4B-Gen4", device_map="auto") - Notebooks
- Google Colab
- Kaggle
README.zh.md: update model card
Browse files- README.zh.md +40 -27
README.zh.md
CHANGED
|
@@ -23,12 +23,14 @@ KnowLine 是独立开发的模型,与 TypeSafe 或 Jev 没有隶属关系,
|
|
| 23 |
- 生成的是各选项标签 token 的概率;
|
| 24 |
- 现有 Jev 客户端只需修改 base URL 即可接入;之前版本的用户换模型名即可,接口和推理设置都不变。
|
| 25 |
|
| 26 |
-
|
| 27 |
-
|
|
| 28 |
-
|
|
| 29 |
-
|
|
|
|
|
| 30 |
| 发布格式 | bf16 权重;最后一层 norm 的权重里已折入读出温度 T = 1.32(见[校准](#校准));视觉部分和 MTP 头与底座相同,配置、分词器和对话模板与 Gen1-Gen3 完全一致 |
|
| 31 |
-
| 语言 | 英文、简体中文、繁体中文
|
|
|
|
| 32 |
|
| 33 |
## 快速开始
|
| 34 |
|
|
@@ -43,7 +45,6 @@ curl -s http://127.0.0.1:8080/v1/systemone -H 'Content-Type: application/json' -
|
|
| 43 |
"criteria": {"angry": "Angry", "neutral": "Neutral", "happy": "Happy"}}}}'
|
| 44 |
```
|
| 45 |
|
| 46 |
-
- **不用 SGLang**:`python knowline_server.py --model PelaAI/KnowLine-4B-Gen4 --backend hf --port 8080` 只依赖 transformers,速度较慢,精度为 bf16。
|
| 47 |
- **前端**:`knowline_server.py` 是单个文件,只依赖 transformers 和 requests,与 Gen3 是同一个文件。
|
| 48 |
- **完整设置**:我们跑 Decision Index 时的完整设置见 [INFERENCE.md](INFERENCE.md)。
|
| 49 |
|
|
@@ -60,12 +61,13 @@ curl -s http://127.0.0.1:8080/v1/systemone -H 'Content-Type: application/json' -
|
|
| 60 |
- Humicroedit,23.1 → 32.0:SemEval-2020 Task 7 的训练集、开发集和 FunLines,该基准用的是测试集;
|
| 61 |
- 涨得较少的:ToolRet(61.2 → 64.9)、BRIGHT(39.2 → 42.0)、SATA-Bench(29.2 → 33.6)、FinEntity(86.8 → 90.2)和 ACOS(43.3 → 46.1)。
|
| 62 |
|
| 63 |
-
|
| 64 |
|
| 65 |
## 横向对比
|
| 66 |
|
| 67 |
下表为 Decision Index 0.3 公开套件的分数。0.3 的总分还要加上只由维护者运行的私有测试(同技能 0.5、新领域 0.3),我们的总分暂时还没有。
|
| 68 |
|
|
|
|
| 69 |
| 模型 | 规模 | DI 0.3 公开分 | DI 0.3 总分 | 来源 |
|
| 70 |
| ----------------------- | ----- | ---------- | --------- | -------- |
|
| 71 |
| **KnowLine-4B-Gen4** | 4B | **64.90** | 尚未评测 | 自测,官方工具包 |
|
|
@@ -80,8 +82,10 @@ curl -s http://127.0.0.1:8080/v1/systemone -H 'Content-Type: application/json' -
|
|
| 80 |
| jiwo 4B | 4B | 45.76 | 42.86 | 榜单 |
|
| 81 |
| Nox 4B | 4B | 44.21 | 44.95 | 榜单 |
|
| 82 |
|
|
|
|
| 83 |
各子领域的公开套件评分如下(均为 0.3 公开):
|
| 84 |
|
|
|
|
| 85 |
| 领域 | KnowLine-4B-Gen4 | KnowLine-4B-Gen3 | Perplexity Decider v1.1(27B) | Jev 1.13 |
|
| 86 |
| --------- | ---------------- | ---------------- | ---------------------------- | -------- |
|
| 87 |
| 知识与推理 | 44.6 | 43.9 | 52.0 | 53.9 |
|
|
@@ -90,17 +94,20 @@ curl -s http://127.0.0.1:8080/v1/systemone -H 'Content-Type: application/json' -
|
|
| 90 |
| 工具与 Agent | 87.6 | 86.6 | 78.9 | 75.1 |
|
| 91 |
| 艺术与品味 | 59.2 | 49.8 | 47.0 | 39.1 |
|
| 92 |
|
|
|
|
| 93 |
## 版本
|
| 94 |
|
| 95 |
本模型使用自进化的模式进行训练,将持续产生新版本。
|
| 96 |
|
| 97 |
-
|
| 98 |
-
|
|
| 99 |
-
|
|
| 100 |
-
|
|
| 101 |
-
| [KnowLine-4B-
|
|
|
|
| 102 |
| [KnowLine-4B-Gen1](https://huggingface.co/PelaAI/KnowLine-4B-Gen1) | 2026-10-07 | 60.47 | 60.92 | 68.7 / 69.9 / 64.1 | 首次发布 |
|
| 103 |
|
|
|
|
| 104 |
从 Gen2 起只跑 Decision Index 0.3,不再跑 0.2.1。
|
| 105 |
|
| 106 |
## 评测
|
|
@@ -109,27 +116,31 @@ curl -s http://127.0.0.1:8080/v1/systemone -H 'Content-Type: application/json' -
|
|
| 109 |
|
| 110 |
### 留出评测与中文评测
|
| 111 |
|
| 112 |
-
|
| 113 |
-
|
|
| 114 |
-
|
|
| 115 |
-
| 自建评测数据集(
|
| 116 |
-
| 自建评测数据集(
|
| 117 |
-
|
|
| 118 |
-
|
|
| 119 |
-
|
|
|
|
|
| 120 |
| 训练中没见过的注入模板改变答案的比例(越低越好) | 6.2% | 10.2% |
|
| 121 |
|
|
|
|
| 122 |
自建评测数据集和 Open-Jev 1.1 OOD 上的差别,在配对符号检验下都不显著。
|
| 123 |
|
| 124 |
### 网页操作(Mind2Web 官方测试集,仅用于评测)
|
| 125 |
|
|
|
|
| 126 |
| 划分 | Gen4 选元素 | Gen4 选操作(三类平均) | Gen3 选元素 | Gen3 选操作(三类平均) |
|
| 127 |
-
| ------------------------ | -------- | ------------- | -------- | ------------- |
|
| 128 |
-
| test\_task(训练中见过的网站、新任务) | 92.9 | 97.0
|
| 129 |
-
| test\_website(新网站) | 91.9 | 95.7
|
| 130 |
-
| test\_domain(新领域) | 91.7 | 97.2
|
|
|
|
| 131 |
|
| 132 |
-
- 与 Gen3 基本持平。
|
| 133 |
- 目前仅用于探索该模型在 RPA 自动化等领域的情况,并验证存在一定的泛化性。
|
| 134 |
- 任务是从目标元素和页面上随机抽取的最多 5 个其他候选里选出目标,比 Mind2Web 原始评测简单,因此请勿与其排行榜比较。
|
| 135 |
|
|
@@ -147,6 +158,7 @@ curl -s http://127.0.0.1:8080/v1/systemone -H 'Content-Type: application/json' -
|
|
| 147 |
|
| 148 |
按 Decision Index 榜单说明的方法,在 0.3 公开套件上计算:逐字段判断对错,置信度取所选选项的概率,各基准等权,10 个等宽分箱。
|
| 149 |
|
|
|
|
| 150 |
| 指标 | Gen4 | Gen3 | 榜单中位数(114 个模型) | Jev 1.13 |
|
| 151 |
| --------------- | ----------- | ----------- | -------------- | ----------- |
|
| 152 |
| ECE(越低越好) | 0.04-0.05 | 0.07-0.08 | 0.084 | 0.074 |
|
|
@@ -154,6 +166,7 @@ curl -s http://127.0.0.1:8080/v1/systemone -H 'Content-Type: application/json' -
|
|
| 154 |
| 置信度 ≥95% 但答错的比例 | 1.7% | 2.7% | 1.3% | 2.1% |
|
| 155 |
| 平均置信度 / 准确率 | 0.82 / 0.77 | 0.84 / 0.76 | | 0.81 / 0.74 |
|
| 156 |
|
|
|
|
| 157 |
- **��重里的温度**:最后一层 norm 的权重里折入了读出温度 T = 1.32,相当于每个 logit 先除以 1.32,再对选项标签做 softmax。哪个选项排第一不会变,所以 Decision Index 分数也不变,只是概率不那么极端。T 是在我们自己的一组评测题上拟合的,这组题的分布训练数据里有覆盖;没有用留出集,也没有用 Decision Index 的题。
|
| 158 |
- **为什么是区间**:榜单没有公布具体用了哪 32 个基准。我们用三个公开了结果的榜单模型核对,自算的 ECE 与榜单值最多相差约 0.015,所以按几种可能的基准组合给出区间。
|
| 159 |
- **仍略偏自信**:平均置信度比准确率高约 3-5 个点。偏差集中在难推理题(HLE、CRUXEval、MuSR)和 New Yorker 漫画配文。
|
|
@@ -166,7 +179,7 @@ curl -s http://127.0.0.1:8080/v1/systemone -H 'Content-Type: application/json' -
|
|
| 166 |
- 本轮的全部训练数据(新数据和回放数据)都用改进后的工具,与所有 Decision Index 0.3 题目、我们全部的评测集以及文中引用的其他公开评测(Intern-Decision、S1MB、JevBench、MMDM)做了比对。
|
| 167 |
- 与评测题近乎重复、重复了题目的问题或论断、或包含整段评测状态的训练行都已删除:539,647 行里删了 1,909 行。只是与评测题共用同一来源段落的行(例如同一段维基百科或同一份工具说明)保留了下来,共 23,684 行。
|
| 168 |
- BPoMP 和 cfcolor 的训练题与这两个基准来自同一个源数据集(OEDILF 打油诗;O'Donovan 等人的配色评分),但排除了基准里的全部题目。逐条核对两者各 5,000 道 Decision Index 题,没有共用的诗,也没有共用的评分题。
|
| 169 |
-
|
| 170 |
- **按评测挑选**:37 个候选里,我们在通过全部发布检查的候选中,选了 DI 0.3 公开分最高的一个。
|
| 171 |
- **游戏数据**:标签来自模拟器推演或引擎,随机种子和起始局面都与评测局面不重叠。
|
| 172 |
- **不用模型输出作标签**:从未把 Jev 或其他任何决策模型的输出用作训练标签。
|
|
@@ -194,4 +207,4 @@ curl -s http://127.0.0.1:8080/v1/systemone -H 'Content-Type: application/json' -
|
|
| 194 |
## 许可证
|
| 195 |
|
| 196 |
- **权重**:Apache-2.0,与底座模型相同。
|
| 197 |
-
- **代码**:`knowline_server.py` 为 MIT 许可(见文件开头)。
|
|
|
|
| 23 |
- 生成的是各选项标签 token 的概率;
|
| 24 |
- 现有 Jev 客户端只需修改 base URL 即可接入;之前版本的用户换模型名即可,接口和推理设置都不变。
|
| 25 |
|
| 26 |
+
|
| 27 |
+
| | |
|
| 28 |
+
| ---- | ----------------------------------------------------------------------------------------------- |
|
| 29 |
+
| 底座模型 | [Qwen/Qwen3.5-4B](https://huggingface.co/Qwen/Qwen3.5-4B)(Apache-2.0) |
|
| 30 |
+
| 训练方式 | LoRA 监督微调(rank 32,alpha 64,只训语言模型部分),合并为 bf16 权重 |
|
| 31 |
| 发布格式 | bf16 权重;最后一层 norm 的权重里已折入读出温度 T = 1.32(见[校准](#校准));视觉部分和 MTP 头与底座相同,配置、分词器和对话模板与 Gen1-Gen3 完全一致 |
|
| 32 |
+
| 语言 | 英文、简体中文、繁体中文 |
|
| 33 |
+
|
| 34 |
|
| 35 |
## 快速开始
|
| 36 |
|
|
|
|
| 45 |
"criteria": {"angry": "Angry", "neutral": "Neutral", "happy": "Happy"}}}}'
|
| 46 |
```
|
| 47 |
|
|
|
|
| 48 |
- **前端**:`knowline_server.py` 是单个文件,只依赖 transformers 和 requests,与 Gen3 是同一个文件。
|
| 49 |
- **完整设置**:我们跑 Decision Index 时的完整设置见 [INFERENCE.md](INFERENCE.md)。
|
| 50 |
|
|
|
|
| 61 |
- Humicroedit,23.1 → 32.0:SemEval-2020 Task 7 的训练集、开发集和 FunLines,该基准用的是测试集;
|
| 62 |
- 涨得较少的:ToolRet(61.2 → 64.9)、BRIGHT(39.2 → 42.0)、SATA-Bench(29.2 → 33.6)、FinEntity(86.8 → 90.2)和 ACOS(43.3 → 46.1)。
|
| 63 |
|
| 64 |
+
在没参与训练的同类技能基准上(BPoMP 对应 BLiMP,Humicroedit 对应 HaHackathon,ESCI 对应 WANDS,ToolRet 对应 Toucan),变化很小或有涨有跌,所以这部分涨分大多只在这几类任务上。下降最多的几个基准降幅都很小,最多的是 WinoGrande(78.8 → 77.7)。
|
| 65 |
|
| 66 |
## 横向对比
|
| 67 |
|
| 68 |
下表为 Decision Index 0.3 公开套件的分数。0.3 的总分还要加上只由维护者运行的私有测试(同技能 0.5、新领域 0.3),我们的总分暂时还没有。
|
| 69 |
|
| 70 |
+
|
| 71 |
| 模型 | 规模 | DI 0.3 公开分 | DI 0.3 总分 | 来源 |
|
| 72 |
| ----------------------- | ----- | ---------- | --------- | -------- |
|
| 73 |
| **KnowLine-4B-Gen4** | 4B | **64.90** | 尚未评测 | 自测,官方工具包 |
|
|
|
|
| 82 |
| jiwo 4B | 4B | 45.76 | 42.86 | 榜单 |
|
| 83 |
| Nox 4B | 4B | 44.21 | 44.95 | 榜单 |
|
| 84 |
|
| 85 |
+
|
| 86 |
各子领域的公开套件评分如下(均为 0.3 公开):
|
| 87 |
|
| 88 |
+
|
| 89 |
| 领域 | KnowLine-4B-Gen4 | KnowLine-4B-Gen3 | Perplexity Decider v1.1(27B) | Jev 1.13 |
|
| 90 |
| --------- | ---------------- | ---------------- | ---------------------------- | -------- |
|
| 91 |
| 知识与推理 | 44.6 | 43.9 | 52.0 | 53.9 |
|
|
|
|
| 94 |
| 工具与 Agent | 87.6 | 86.6 | 78.9 | 75.1 |
|
| 95 |
| 艺术与品味 | 59.2 | 49.8 | 47.0 | 39.1 |
|
| 96 |
|
| 97 |
+
|
| 98 |
## 版本
|
| 99 |
|
| 100 |
本模型使用自进化的模式进行训练,将持续产生新版本。
|
| 101 |
|
| 102 |
+
|
| 103 |
+
| 模型 | 日期 | DI 0.3 公开 | DI 0.2.1 | 黄金集留出(英 / 简 / 繁) | 说明 |
|
| 104 |
+
| ------------------------------------------------------------------ | ---------- | --------- | -------- | ------------------ | ---- |
|
| 105 |
+
| KnowLine-4B-Gen4(本模型) | 2026-10-10 | 64.90 | — | 69.7 / 70.1 / 65.1 | 第四版 |
|
| 106 |
+
| [KnowLine-4B-Gen3](https://huggingface.co/PelaAI/KnowLine-4B-Gen3) | 2026-10-09 | 63.11 | — | 69.4 / 70.8 / 65.0 | 第三版 |
|
| 107 |
+
| [KnowLine-4B-Gen2](https://huggingface.co/PelaAI/KnowLine-4B-Gen2) | 2026-10-08 | 62.54 | — | 69.7 / 71.2 / 64.8 | 第二版 |
|
| 108 |
| [KnowLine-4B-Gen1](https://huggingface.co/PelaAI/KnowLine-4B-Gen1) | 2026-10-07 | 60.47 | 60.92 | 68.7 / 69.9 / 64.1 | 首次发布 |
|
| 109 |
|
| 110 |
+
|
| 111 |
从 Gen2 起只跑 Decision Index 0.3,不再跑 0.2.1。
|
| 112 |
|
| 113 |
## 评测
|
|
|
|
| 116 |
|
| 117 |
### 留出评测与中文评测
|
| 118 |
|
| 119 |
+
|
| 120 |
+
| 测试集 | Gen4 | Gen3 |
|
| 121 |
+
| ------------------------ | ----------- | ----------- |
|
| 122 |
+
| 自建评测数据集(英文部分) | 69.7 | 69.4 |
|
| 123 |
+
| 自建评测数据集(简体中文部分) | 70.1 | 70.8 |
|
| 124 |
+
| 自建评测数据集(繁体中文部分) | 65.1 | 65.0 |
|
| 125 |
+
| C-Eval(4 大类宏平均) | 78.7 | 79.2 |
|
| 126 |
+
| Open-Jev 1.1 测试 / OOD | 88.4 / 87.1 | 88.4 / 87.2 |
|
| 127 |
+
| 提示注入改变答案的比例(越低越好) | 1.6% | 3.4% |
|
| 128 |
| 训练中没见过的注入模板改变答案的比例(越低越好) | 6.2% | 10.2% |
|
| 129 |
|
| 130 |
+
|
| 131 |
自建评测数据集和 Open-Jev 1.1 OOD 上的差别,在配对符号检验下都不显著。
|
| 132 |
|
| 133 |
### 网页操作(Mind2Web 官方测试集,仅用于评测)
|
| 134 |
|
| 135 |
+
|
| 136 |
| 划分 | Gen4 选元素 | Gen4 选操作(三类平均) | Gen3 选元素 | Gen3 选操作(三类平均) |
|
| 137 |
+
| ------------------------ | -------- | -------------- | -------- | -------------- |
|
| 138 |
+
| test\_task(训练中见过的网站、新任务) | 92.9 | 97.0 | 92.7 | 97.0 |
|
| 139 |
+
| test\_website(新网站) | 91.9 | 95.7 | 91.3 | 97.3 |
|
| 140 |
+
| test\_domain(新领域) | 91.7 | 97.2 | 91.8 | 97.2 |
|
| 141 |
+
|
| 142 |
|
| 143 |
+
- 与 Gen3 基本持平。test_website 的选操作分数偏低,是因为它的 72 个 SELECT 步骤里多错了 3 个;差别在误差范围内。
|
| 144 |
- 目前仅用于探索该模型在 RPA 自动化等领域的情况,并验证存在一定的泛化性。
|
| 145 |
- 任务是从目标元素和页面上随机抽取的最多 5 个其他候选里选出目标,比 Mind2Web 原始评测简单,因此请勿与其排行榜比较。
|
| 146 |
|
|
|
|
| 158 |
|
| 159 |
按 Decision Index 榜单说明的方法,在 0.3 公开套件上计算:逐字段判断对错,置信度取所选选项的概率,各基准等权,10 个等宽分箱。
|
| 160 |
|
| 161 |
+
|
| 162 |
| 指标 | Gen4 | Gen3 | 榜单中位数(114 个模型) | Jev 1.13 |
|
| 163 |
| --------------- | ----------- | ----------- | -------------- | ----------- |
|
| 164 |
| ECE(越低越好) | 0.04-0.05 | 0.07-0.08 | 0.084 | 0.074 |
|
|
|
|
| 166 |
| 置信度 ≥95% 但答错的比例 | 1.7% | 2.7% | 1.3% | 2.1% |
|
| 167 |
| 平均置信度 / 准确率 | 0.82 / 0.77 | 0.84 / 0.76 | | 0.81 / 0.74 |
|
| 168 |
|
| 169 |
+
|
| 170 |
- **��重里的温度**:最后一层 norm 的权重里折入了读出温度 T = 1.32,相当于每个 logit 先除以 1.32,再对选项标签做 softmax。哪个选项排第一不会变,所以 Decision Index 分数也不变,只是概率不那么极端。T 是在我们自己的一组评测题上拟合的,这组题的分布训练数据里有覆盖;没有用留出集,也没有用 Decision Index 的题。
|
| 171 |
- **为什么是区间**:榜单没有公布具体用了哪 32 个基准。我们用三个公开了结果的榜单模型核对,自算的 ECE 与榜单值最多相差约 0.015,所以按几种可能的基准组合给出区间。
|
| 172 |
- **仍略偏自信**:平均置信度比准确率高约 3-5 个点。偏差集中在难推理题(HLE、CRUXEval、MuSR)和 New Yorker 漫画配文。
|
|
|
|
| 179 |
- 本轮的全部训练数据(新数据和回放数据)都用改进后的工具,与所有 Decision Index 0.3 题目、我们全部的评测集以及文中引用的其他公开评测(Intern-Decision、S1MB、JevBench、MMDM)做了比对。
|
| 180 |
- 与评测题近乎重复、重复了题目的问题或论断、或包含整段评测状态的训练行都已删除:539,647 行里删了 1,909 行。只是与评测题共用同一来源段落的行(例如同一段维基百科或同一份工具说明)保留了下来,共 23,684 行。
|
| 181 |
- BPoMP 和 cfcolor 的训练题与这两个基准来自同一个源数据集(OEDILF 打油诗;O'Donovan 等人的配色评分),但排除了基准里的全部题目。逐条核对两者各 5,000 道 Decision Index 题,没有共用的诗,也没有共用的评分题。
|
| 182 |
+
|
| 183 |
- **按评测挑选**:37 个候选里,我们在通过全部发布检查的候选中,选了 DI 0.3 公开分最高的一个。
|
| 184 |
- **游戏数据**:标签来自模拟器推演或引擎,随机种子和起始局面都与评测局面不重叠。
|
| 185 |
- **不用模型输出作标签**:从未把 Jev 或其他任何决策模型的输出用作训练标签。
|
|
|
|
| 207 |
## 许可证
|
| 208 |
|
| 209 |
- **权重**:Apache-2.0,与底座模型相同。
|
| 210 |
+
- **代码**:`knowline_server.py` 为 MIT 许可(见文件开头)。
|