PEScn commited on
Commit
5482f96
·
verified ·
1 Parent(s): 325c94b

README.zh.md: update model card

Browse files
Files changed (1) hide show
  1. README.zh.md +40 -27
README.zh.md CHANGED
@@ -23,12 +23,14 @@ KnowLine 是独立开发的模型,与 TypeSafe 或 Jev 没有隶属关系,
23
  - 生成的是各选项标签 token 的概率;
24
  - 现有 Jev 客户端只需修改 base URL 即可接入;之前版本的用户换模型名即可,接口和推理设置都不变。
25
 
26
- | | |
27
- | ---- | ---- |
28
- | 底座模型 | [Qwen/Qwen3.5-4B](https://huggingface.co/Qwen/Qwen3.5-4B)(Apache-2.0) |
29
- | 训练方式 | LoRA 监督微调(rank 32,alpha 64,只训语言模型部分),合并为 bf16 权重 |
 
30
  | 发布格式 | bf16 权重;最后一层 norm 的权重里已折入读出温度 T = 1.32(见[校准](#校准));视觉部分和 MTP 头与底座相同,配置、分词器和对话模板与 Gen1-Gen3 完全一致 |
31
- | 语言 | 英文、简体中文、繁体中文 |
 
32
 
33
  ## 快速开始
34
 
@@ -43,7 +45,6 @@ curl -s http://127.0.0.1:8080/v1/systemone -H 'Content-Type: application/json' -
43
  "criteria": {"angry": "Angry", "neutral": "Neutral", "happy": "Happy"}}}}'
44
  ```
45
 
46
- - **不用 SGLang**:`python knowline_server.py --model PelaAI/KnowLine-4B-Gen4 --backend hf --port 8080` 只依赖 transformers,速度较慢,精度为 bf16。
47
  - **前端**:`knowline_server.py` 是单个文件,只依赖 transformers 和 requests,与 Gen3 是同一个文件。
48
  - **完整设置**:我们跑 Decision Index 时的完整设置见 [INFERENCE.md](INFERENCE.md)。
49
 
@@ -60,12 +61,13 @@ curl -s http://127.0.0.1:8080/v1/systemone -H 'Content-Type: application/json' -
60
  - Humicroedit,23.1 → 32.0:SemEval-2020 Task 7 的训练集、开发集和 FunLines,该基准用的是测试集;
61
  - 涨得较少的:ToolRet(61.2 → 64.9)、BRIGHT(39.2 → 42.0)、SATA-Bench(29.2 → 33.6)、FinEntity(86.8 → 90.2)和 ACOS(43.3 → 46.1)。
62
 
63
- 在没参与训练的同类技能基准上(BPoMP 对应 BLiMP,Humicroedit 对应 HaHackathon,ESCI 对应 WANDS,ToolRet 对应 Toucan),变化很小或有涨有跌,所以这部分涨分大多只在这几类任务上。下降最多的几个基准降幅都很小,最多的是 WinoGrande(78.8 → 77.7)。
64
 
65
  ## 横向对比
66
 
67
  下表为 Decision Index 0.3 公开套件的分数。0.3 的总分还要加上只由维护者运行的私有测试(同技能 0.5、新领域 0.3),我们的总分暂时还没有。
68
 
 
69
  | 模型 | 规模 | DI 0.3 公开分 | DI 0.3 总分 | 来源 |
70
  | ----------------------- | ----- | ---------- | --------- | -------- |
71
  | **KnowLine-4B-Gen4** | 4B | **64.90** | 尚未评测 | 自测,官方工具包 |
@@ -80,8 +82,10 @@ curl -s http://127.0.0.1:8080/v1/systemone -H 'Content-Type: application/json' -
80
  | jiwo 4B | 4B | 45.76 | 42.86 | 榜单 |
81
  | Nox 4B | 4B | 44.21 | 44.95 | 榜单 |
82
 
 
83
  各子领域的公开套件评分如下(均为 0.3 公开):
84
 
 
85
  | 领域 | KnowLine-4B-Gen4 | KnowLine-4B-Gen3 | Perplexity Decider v1.1(27B) | Jev 1.13 |
86
  | --------- | ---------------- | ---------------- | ---------------------------- | -------- |
87
  | 知识与推理 | 44.6 | 43.9 | 52.0 | 53.9 |
@@ -90,17 +94,20 @@ curl -s http://127.0.0.1:8080/v1/systemone -H 'Content-Type: application/json' -
90
  | 工具与 Agent | 87.6 | 86.6 | 78.9 | 75.1 |
91
  | 艺术与品味 | 59.2 | 49.8 | 47.0 | 39.1 |
92
 
 
93
  ## 版本
94
 
95
  本模型使用自进化的模式进行训练,将持续产生新版本。
96
 
97
- | 模型 | 日期 | DI 0.3 公开 | DI 0.2.1 | 黄金集留出(英 / 简 / 繁) | 说明 |
98
- | --------------------- | ---------- | --------- | -------- | ------------------ | ---------------------------- |
99
- | KnowLine-4B-Gen4(本模型) | 2026-10-10 | 64.90 | — | 69.7 / 70.1 / 65.1 | 第四版 |
100
- | [KnowLine-4B-Gen3](https://huggingface.co/PelaAI/KnowLine-4B-Gen3) | 2026-10-09 | 63.11 | — | 69.4 / 70.8 / 65.0 | 第三版 |
101
- | [KnowLine-4B-Gen2](https://huggingface.co/PelaAI/KnowLine-4B-Gen2) | 2026-10-08 | 62.54 | — | 69.7 / 71.2 / 64.8 | 第二版 |
 
102
  | [KnowLine-4B-Gen1](https://huggingface.co/PelaAI/KnowLine-4B-Gen1) | 2026-10-07 | 60.47 | 60.92 | 68.7 / 69.9 / 64.1 | 首次发布 |
103
 
 
104
  从 Gen2 起只跑 Decision Index 0.3,不再跑 0.2.1。
105
 
106
  ## 评测
@@ -109,27 +116,31 @@ curl -s http://127.0.0.1:8080/v1/systemone -H 'Content-Type: application/json' -
109
 
110
  ### 留出评测与中文评测
111
 
112
- | 测试集 | Gen4 | Gen3 |
113
- | --------------------- | ----------- | ----------- |
114
- | 自建评测数据集(英文部分) | 69.7 | 69.4 |
115
- | 自建评测数据集(简体中文部分) | 70.1 | 70.8 |
116
- | 自建评测数据集(繁体中文部分) | 65.1 | 65.0 |
117
- | C-Eval(4 大类宏平均) | 78.7 | 79.2 |
118
- | Open-Jev 1.1 测试 / OOD | 88.4 / 87.1 | 88.4 / 87.2 |
119
- | 提示注入改变答案的比例(越低越好) | 1.6% | 3.4% |
 
120
  | 训练中没见过的注入模板改变答案的比例(越低越好) | 6.2% | 10.2% |
121
 
 
122
  自建评测数据集和 Open-Jev 1.1 OOD 上的差别,在配对符号检验下都不显著。
123
 
124
  ### 网页操作(Mind2Web 官方测试集,仅用于评测)
125
 
 
126
  | 划分 | Gen4 选元素 | Gen4 选操作(三类平均) | Gen3 选元素 | Gen3 选操作(三类平均) |
127
- | ------------------------ | -------- | ------------- | -------- | ------------- |
128
- | test\_task(训练中见过的网站、新任务) | 92.9 | 97.0 | 92.7 | 97.0 |
129
- | test\_website(新网站) | 91.9 | 95.7 | 91.3 | 97.3 |
130
- | test\_domain(新领域) | 91.7 | 97.2 | 91.8 | 97.2 |
 
131
 
132
- - 与 Gen3 基本持平。test\_website 的选操作分数偏低,是因为它的 72 个 SELECT 步骤里多错了 3 个;差别在误差范围内。
133
  - 目前仅用于探索该模型在 RPA 自动化等领域的情况,并验证存在一定的泛化性。
134
  - 任务是从目标元素和页面上随机抽取的最多 5 个其他候选里选出目标,比 Mind2Web 原始评测简单,因此请勿与其排行榜比较。
135
 
@@ -147,6 +158,7 @@ curl -s http://127.0.0.1:8080/v1/systemone -H 'Content-Type: application/json' -
147
 
148
  按 Decision Index 榜单说明的方法,在 0.3 公开套件上计算:逐字段判断对错,置信度取所选选项的概率,各基准等权,10 个等宽分箱。
149
 
 
150
  | 指标 | Gen4 | Gen3 | 榜单中位数(114 个模型) | Jev 1.13 |
151
  | --------------- | ----------- | ----------- | -------------- | ----------- |
152
  | ECE(越低越好) | 0.04-0.05 | 0.07-0.08 | 0.084 | 0.074 |
@@ -154,6 +166,7 @@ curl -s http://127.0.0.1:8080/v1/systemone -H 'Content-Type: application/json' -
154
  | 置信度 ≥95% 但答错的比例 | 1.7% | 2.7% | 1.3% | 2.1% |
155
  | 平均置信度 / 准确率 | 0.82 / 0.77 | 0.84 / 0.76 | | 0.81 / 0.74 |
156
 
 
157
  - **��重里的温度**:最后一层 norm 的权重里折入了读出温度 T = 1.32,相当于每个 logit 先除以 1.32,再对选项标签做 softmax。哪个选项排第一不会变,所以 Decision Index 分数也不变,只是概率不那么极端。T 是在我们自己的一组评测题上拟合的,这组题的分布训练数据里有覆盖;没有用留出集,也没有用 Decision Index 的题。
158
  - **为什么是区间**:榜单没有公布具体用了哪 32 个基准。我们用三个公开了结果的榜单模型核对,自算的 ECE 与榜单值最多相差约 0.015,所以按几种可能的基准组合给出区间。
159
  - **仍略偏自信**:平均置信度比准确率高约 3-5 个点。偏差集中在难推理题(HLE、CRUXEval、MuSR)和 New Yorker 漫画配文。
@@ -166,7 +179,7 @@ curl -s http://127.0.0.1:8080/v1/systemone -H 'Content-Type: application/json' -
166
  - 本轮的全部训练数据(新数据和回放数据)都用改进后的工具,与所有 Decision Index 0.3 题目、我们全部的评测集以及文中引用的其他公开评测(Intern-Decision、S1MB、JevBench、MMDM)做了比对。
167
  - 与评测题近乎重复、重复了题目的问题或论断、或包含整段评测状态的训练行都已删除:539,647 行里删了 1,909 行。只是与评测题共用同一来源段落的行(例如同一段维基百科或同一份工具说明)保留了下来,共 23,684 行。
168
  - BPoMP 和 cfcolor 的训练题与这两个基准来自同一个源数据集(OEDILF 打油诗;O'Donovan 等人的配色评分),但排除了基准里的全部题目。逐条核对两者各 5,000 道 Decision Index 题,没有共用的诗,也没有共用的评分题。
169
- - 这份权重有一半来自 Gen3。Gen3 的数据是在之前几轮用旧版工具检查的,旧版有漏检。2026-10-09 重新复核发现,HoVer、ToolRet 等少数基准与那部分数据共用维基百科段落或工具文档,高度重合的约十几道题;去掉这些题重新计分,Gen1-Gen3 的 DI 公开分只低 0.04-0.05 分。
170
  - **按评测挑选**:37 个候选里,我们在通过全部发布检查的候选中,选了 DI 0.3 公开分最高的一个。
171
  - **游戏数据**:标签来自模拟器推演或引擎,随机种子和起始局面都与评测局面不重叠。
172
  - **不用模型输出作标签**:从未把 Jev 或其他任何决策模型的输出用作训练标签。
@@ -194,4 +207,4 @@ curl -s http://127.0.0.1:8080/v1/systemone -H 'Content-Type: application/json' -
194
  ## 许可证
195
 
196
  - **权重**:Apache-2.0,与底座模型相同。
197
- - **代码**:`knowline_server.py` 为 MIT 许可(见文件开头)。
 
23
  - 生成的是各选项标签 token 的概率;
24
  - 现有 Jev 客户端只需修改 base URL 即可接入;之前版本的用户换模型名即可,接口和推理设置都不变。
25
 
26
+
27
+ | | |
28
+ | ---- | ----------------------------------------------------------------------------------------------- |
29
+ | 底座模型 | [Qwen/Qwen3.5-4B](https://huggingface.co/Qwen/Qwen3.5-4B)(Apache-2.0) |
30
+ | 训练方式 | LoRA 监督微调(rank 32,alpha 64,只训语言模型部分),合并为 bf16 权重 |
31
  | 发布格式 | bf16 权重;最后一层 norm 的权重里已折入读出温度 T = 1.32(见[校准](#校准));视觉部分和 MTP 头与底座相同,配置、分词器和对话模板与 Gen1-Gen3 完全一致 |
32
+ | 语言 | 英文、简体中文、繁体中文 |
33
+
34
 
35
  ## 快速开始
36
 
 
45
  "criteria": {"angry": "Angry", "neutral": "Neutral", "happy": "Happy"}}}}'
46
  ```
47
 
 
48
  - **前端**:`knowline_server.py` 是单个文件,只依赖 transformers 和 requests,与 Gen3 是同一个文件。
49
  - **完整设置**:我们跑 Decision Index 时的完整设置见 [INFERENCE.md](INFERENCE.md)。
50
 
 
61
  - Humicroedit,23.1 → 32.0:SemEval-2020 Task 7 的训练集、开发集和 FunLines,该基准用的是测试集;
62
  - 涨得较少的:ToolRet(61.2 → 64.9)、BRIGHT(39.2 → 42.0)、SATA-Bench(29.2 → 33.6)、FinEntity(86.8 → 90.2)和 ACOS(43.3 → 46.1)。
63
 
64
+ 在没参与训练的同类技能基准上(BPoMP 对应 BLiMP,Humicroedit 对应 HaHackathon,ESCI 对应 WANDS,ToolRet 对应 Toucan),变化很小或有涨有跌,所以这部分涨分大多只在这几类任务上。下降最多的几个基准降幅都很小,最多的是 WinoGrande(78.8 → 77.7)。
65
 
66
  ## 横向对比
67
 
68
  下表为 Decision Index 0.3 公开套件的分数。0.3 的总分还要加上只由维护者运行的私有测试(同技能 0.5、新领域 0.3),我们的总分暂时还没有。
69
 
70
+
71
  | 模型 | 规模 | DI 0.3 公开分 | DI 0.3 总分 | 来源 |
72
  | ----------------------- | ----- | ---------- | --------- | -------- |
73
  | **KnowLine-4B-Gen4** | 4B | **64.90** | 尚未评测 | 自测,官方工具包 |
 
82
  | jiwo 4B | 4B | 45.76 | 42.86 | 榜单 |
83
  | Nox 4B | 4B | 44.21 | 44.95 | 榜单 |
84
 
85
+
86
  各子领域的公开套件评分如下(均为 0.3 公开):
87
 
88
+
89
  | 领域 | KnowLine-4B-Gen4 | KnowLine-4B-Gen3 | Perplexity Decider v1.1(27B) | Jev 1.13 |
90
  | --------- | ---------------- | ---------------- | ---------------------------- | -------- |
91
  | 知识与推理 | 44.6 | 43.9 | 52.0 | 53.9 |
 
94
  | 工具与 Agent | 87.6 | 86.6 | 78.9 | 75.1 |
95
  | 艺术与品味 | 59.2 | 49.8 | 47.0 | 39.1 |
96
 
97
+
98
  ## 版本
99
 
100
  本模型使用自进化的模式进行训练,将持续产生新版本。
101
 
102
+
103
+ | 模型 | 日期 | DI 0.3 公开 | DI 0.2.1 | 黄金集留出(英 / 简 / 繁) | 说明 |
104
+ | ------------------------------------------------------------------ | ---------- | --------- | -------- | ------------------ | ---- |
105
+ | KnowLine-4B-Gen4(本模型) | 2026-10-10 | 64.90 | — | 69.7 / 70.1 / 65.1 | 第四版 |
106
+ | [KnowLine-4B-Gen3](https://huggingface.co/PelaAI/KnowLine-4B-Gen3) | 2026-10-09 | 63.11 | — | 69.4 / 70.8 / 65.0 | 第三版 |
107
+ | [KnowLine-4B-Gen2](https://huggingface.co/PelaAI/KnowLine-4B-Gen2) | 2026-10-08 | 62.54 | — | 69.7 / 71.2 / 64.8 | 第二版 |
108
  | [KnowLine-4B-Gen1](https://huggingface.co/PelaAI/KnowLine-4B-Gen1) | 2026-10-07 | 60.47 | 60.92 | 68.7 / 69.9 / 64.1 | 首次发布 |
109
 
110
+
111
  从 Gen2 起只跑 Decision Index 0.3,不再跑 0.2.1。
112
 
113
  ## 评测
 
116
 
117
  ### 留出评测与中文评测
118
 
119
+
120
+ | 测试集 | Gen4 | Gen3 |
121
+ | ------------------------ | ----------- | ----------- |
122
+ | 自建评测数据集(英文部分) | 69.7 | 69.4 |
123
+ | 自建评测数据集(简体中文部分) | 70.1 | 70.8 |
124
+ | 自建评测数据集(繁体中文部分) | 65.1 | 65.0 |
125
+ | C-Eval(4 大类宏平均) | 78.7 | 79.2 |
126
+ | Open-Jev 1.1 测试 / OOD | 88.4 / 87.1 | 88.4 / 87.2 |
127
+ | 提示注入改变答案的比例(越低越好) | 1.6% | 3.4% |
128
  | 训练中没见过的注入模板改变答案的比例(越低越好) | 6.2% | 10.2% |
129
 
130
+
131
  自建评测数据集和 Open-Jev 1.1 OOD 上的差别,在配对符号检验下都不显著。
132
 
133
  ### 网页操作(Mind2Web 官方测试集,仅用于评测)
134
 
135
+
136
  | 划分 | Gen4 选元素 | Gen4 选操作(三类平均) | Gen3 选元素 | Gen3 选操作(三类平均) |
137
+ | ------------------------ | -------- | -------------- | -------- | -------------- |
138
+ | test\_task(训练中见过的网站、新任务) | 92.9 | 97.0 | 92.7 | 97.0 |
139
+ | test\_website(新网站) | 91.9 | 95.7 | 91.3 | 97.3 |
140
+ | test\_domain(新领域) | 91.7 | 97.2 | 91.8 | 97.2 |
141
+
142
 
143
+ - 与 Gen3 基本持平。test_website 的选操作分数偏低,是因为它的 72 个 SELECT 步骤里多错了 3 个;差别在误差范围内。
144
  - 目前仅用于探索该模型在 RPA 自动化等领域的情况,并验证存在一定的泛化性。
145
  - 任务是从目标元素和页面上随机抽取的最多 5 个其他候选里选出目标,比 Mind2Web 原始评测简单,因此请勿与其排行榜比较。
146
 
 
158
 
159
  按 Decision Index 榜单说明的方法,在 0.3 公开套件上计算:逐字段判断对错,置信度取所选选项的概率,各基准等权,10 个等宽分箱。
160
 
161
+
162
  | 指标 | Gen4 | Gen3 | 榜单中位数(114 个模型) | Jev 1.13 |
163
  | --------------- | ----------- | ----------- | -------------- | ----------- |
164
  | ECE(越低越好) | 0.04-0.05 | 0.07-0.08 | 0.084 | 0.074 |
 
166
  | 置信度 ≥95% 但答错的比例 | 1.7% | 2.7% | 1.3% | 2.1% |
167
  | 平均置信度 / 准确率 | 0.82 / 0.77 | 0.84 / 0.76 | | 0.81 / 0.74 |
168
 
169
+
170
  - **��重里的温度**:最后一层 norm 的权重里折入了读出温度 T = 1.32,相当于每个 logit 先除以 1.32,再对选项标签做 softmax。哪个选项排第一不会变,所以 Decision Index 分数也不变,只是概率不那么极端。T 是在我们自己的一组评测题上拟合的,这组题的分布训练数据里有覆盖;没有用留出集,也没有用 Decision Index 的题。
171
  - **为什么是区间**:榜单没有公布具体用了哪 32 个基准。我们用三个公开了结果的榜单模型核对,自算的 ECE 与榜单值最多相差约 0.015,所以按几种可能的基准组合给出区间。
172
  - **仍略偏自信**:平均置信度比准确率高约 3-5 个点。偏差集中在难推理题(HLE、CRUXEval、MuSR)和 New Yorker 漫画配文。
 
179
  - 本轮的全部训练数据(新数据和回放数据)都用改进后的工具,与所有 Decision Index 0.3 题目、我们全部的评测集以及文中引用的其他公开评测(Intern-Decision、S1MB、JevBench、MMDM)做了比对。
180
  - 与评测题近乎重复、重复了题目的问题或论断、或包含整段评测状态的训练行都已删除:539,647 行里删了 1,909 行。只是与评测题共用同一来源段落的行(例如同一段维基百科或同一份工具说明)保留了下来,共 23,684 行。
181
  - BPoMP 和 cfcolor 的训练题与这两个基准来自同一个源数据集(OEDILF 打油诗;O'Donovan 等人的配色评分),但排除了基准里的全部题目。逐条核对两者各 5,000 道 Decision Index 题,没有共用的诗,也没有共用的评分题。
182
+
183
  - **按评测挑选**:37 个候选里,我们在通过全部发布检查的候选中,选了 DI 0.3 公开分最高的一个。
184
  - **游戏数据**:标签来自模拟器推演或引擎,随机种子和起始局面都与评测局面不重叠。
185
  - **不用模型输出作标签**:从未把 Jev 或其他任何决策模型的输出用作训练标签。
 
207
  ## 许可证
208
 
209
  - **权重**:Apache-2.0,与底座模型相同。
210
+ - **代码**:`knowline_server.py` 为 MIT 许可(见文件开头)。