training-data-foundation / media /usage-example.zh.vtt
Battam's picture
regenerate the index pages only (generator 9e5c205c, templates 422288c0) [run publish-20261104T165101Z]
513387e verified
Raw History Blame
16.4 kB
WEBVTT
1
00:00:01.150 --> 00:00:05.550
要训练一个在终端里干活的 agent,也就是智能体,
2
00:00:05.550 --> 00:00:07.010
我们首先得有题。
3
00:00:07.210 --> 00:00:11.450
那么一道题能不能拿来训练,可以归结成两件事,
4
00:00:11.450 --> 00:00:16.410
第一,环境里的材料是真实的,第二,判分靠得住,
5
00:00:16.410 --> 00:00:20.510
做对了才给分,什么都不做、走捷径都不给分。
6
00:00:20.710 --> 00:00:25.350
这支视频我们就完整走一遍,从一个公开的数据页出发,
7
00:00:25.350 --> 00:00:29.350
挑材料,取文件,造出两道题,做一遍检查,
8
00:00:29.350 --> 00:00:31.930
最后真跑,让判分来验收。
9
00:00:32.130 --> 00:00:35.750
屏幕上的命令和输出,都是当时真跑录下来的。
10
00:00:36.450 --> 00:00:38.630
我们先打开数据页。
11
00:00:38.830 --> 00:00:41.730
可以看到,这份索引分成两层。
12
00:00:41.930 --> 00:00:47.370
上面这一层是任务材料,一共 1793 个材料集,
13
00:00:47.370 --> 00:00:51.130
一个材料集,就是从同一个来源挑出来的一批文件,
14
00:00:51.130 --> 00:00:53.870
再按任务的类别分到 13 个合集里。
15
00:00:54.070 --> 00:00:57.990
下面这一层是语料库,一共 124 个,
16
00:00:57.990 --> 00:01:01.270
一个语料库,就是把一个上游整个读下来,
17
00:01:01.270 --> 00:01:05.370
加起来有 12 亿多行,在没有合适的材料集时拿来搜。
18
00:01:05.570 --> 00:01:08.450
这两层各算各的,不能加在一起,
19
00:01:08.450 --> 00:01:11.350
材料集也不是从语料库里挑出来的。
20
00:01:11.550 --> 00:01:13.490
造题要用的是上面这一层。
21
00:01:13.690 --> 00:01:17.930
材料集里的文件分成单元,一个单元可以是一个工作簿,
22
00:01:17.930 --> 00:01:22.010
也可以是一个测试用例,一共 4171 个单元,
23
00:01:22.010 --> 00:01:24.110
其中 787 个带答案。
24
00:01:24.310 --> 00:01:28.890
有答案才判得了分,所以这次我们就从带答案的单元里挑。
25
00:01:29.617 --> 00:01:31.317
我们往下看各个合集。
26
00:01:31.517 --> 00:01:35.277
带答案的电子表格这个合集,有 68 个材料集,
27
00:01:35.277 --> 00:01:38.497
530 个带答案的单元,我们点开它。
28
00:01:38.697 --> 00:01:42.477
我们搜一下英国政府发布的工作簿,把这一行展开。
29
00:01:45.995 --> 00:01:49.995
它收的是英国政府机构发布的表格,一共有 40 个单元,
30
00:01:49.995 --> 00:01:52.075
一个单元就是一个工作簿,
31
00:01:52.075 --> 00:01:54.895
40 个答案单独放在 answer 目录下面。
32
00:01:55.095 --> 00:01:59.255
许可证是 OGL UK 3.0,属于宽松的这一类,
33
00:01:59.255 --> 00:02:00.955
训练和分发都允许。
34
00:02:01.155 --> 00:02:02.455
再点开预览,
35
00:02:04.522 --> 00:02:09.642
可以看到这份索引只是一份清单,不是文件的副本,
36
00:02:09.642 --> 00:02:12.702
每个文件一行,记着从哪下载、
37
00:02:12.902 --> 00:02:13.802
多大、
38
00:02:14.002 --> 00:02:15.142
校验值
39
00:02:15.342 --> 00:02:16.402
和许可证。
40
00:02:18.117 --> 00:02:22.137
再用同样的办法,从磁盘镜像这个合集里挑一个。
41
00:02:22.337 --> 00:02:26.197
这是 exfatprogs 这个工具自带的测试用例,
42
00:02:26.521 --> 00:02:30.841
一共 15 个损坏的 exFAT 镜像,每个都带答案,
43
00:02:30.841 --> 00:02:34.761
镜像本身的许可证是 GPL,属于相同方式共享,
44
00:02:34.761 --> 00:02:39.101
训练允许,分发这些镜像时要带上同样的许可证。
45
00:02:39.817 --> 00:02:42.957
两个都看好了,我们来到获取数据这一节。
46
00:02:43.157 --> 00:02:48.217
页面一次只给当前这一个材料集拼命令,先预览,再获取。
47
00:02:48.417 --> 00:02:52.257
命令里钉死了一个发布版本,清单和校验值就定了,
48
00:02:52.257 --> 00:02:56.657
以后再取,要么取到一模一样的文件,要么校验不过,
49
00:02:56.657 --> 00:02:57.797
直接报错。
50
00:02:57.997 --> 00:02:59.917
我们要的是两个材料集,
51
00:02:59.917 --> 00:03:02.897
下面就在终端里把它们写进同一条命令。
52
00:03:03.817 --> 00:03:06.777
如果是 agent 来挑,或者你不想开网页,
53
00:03:06.777 --> 00:03:10.057
索引里有一张总表,就是这个文件,
54
00:03:10.057 --> 00:03:13.657
每个材料集和语料库各占一行,用 DuckDB,
55
00:03:13.657 --> 00:03:17.757
一个能直接查数据文件的数据库工具,一句 SQL 就能查。
56
00:03:17.957 --> 00:03:22.437
总表里合集用字母代号,带答案的电子表格是 A,
57
00:03:22.437 --> 00:03:27.657
磁盘镜像是 B,同样只看带答案的,一共有 111 个材料集。
58
00:03:27.857 --> 00:03:31.857
每个合集我们列出单元最多的 6 个,刚才挑的这个,
59
00:03:31.857 --> 00:03:36.117
和这个,都在里面,许可证的等级也写在这一列。
60
00:03:37.637 --> 00:03:40.597
取文件用的是索引自带的取用工具,
61
00:03:40.597 --> 00:03:44.217
uv 会把它直接从网上拉下来运行,不用先安装。
62
00:03:44.417 --> 00:03:48.257
两个来源写在同一条命令里,每个先取一个单元,
63
00:03:48.257 --> 00:03:50.897
再加上 dry run,也就是只预览,
64
00:03:50.897 --> 00:03:55.317
不下载,没选中的文件太多,这里就过滤掉不显示了。
65
00:03:55.517 --> 00:03:58.817
可以看到,这两个来源一共 55 个单元。
66
00:03:59.017 --> 00:04:03.177
取用工具默认会去掉重复的、和评测基准重合的、
67
00:04:03.177 --> 00:04:07.497
还没和基准比对过的、许可不允许分发的、不是英文的、
68
00:04:07.497 --> 00:04:11.757
带个人数据的,还有超过 20 MB 的,这次都是 0。
69
00:04:11.957 --> 00:04:15.557
按我们的要求取 2 个单元,连答案和配套文件,
70
00:04:15.557 --> 00:04:16.857
一共 8 个文件。
71
00:04:17.057 --> 00:04:20.677
确认没问题,我们去掉 dry run,真正下载。
72
00:04:21.388 --> 00:04:23.148
8 个文件全部 ok,
73
00:04:23.148 --> 00:04:26.288
每个都和索引里记的大小和校验值核对过。
74
00:04:26.488 --> 00:04:30.568
其中这个 exFAT 镜像,上游是放在压缩包里的,
75
00:04:30.568 --> 00:04:32.428
工具自动把它取了出来。
76
00:04:32.628 --> 00:04:34.968
我们看一下取到了什么。
77
00:04:35.168 --> 00:04:37.328
材料放在按领域分的目录下面,
78
00:04:37.328 --> 00:04:39.348
答案单独放在 answer 下面。
79
00:04:39.548 --> 00:04:42.988
之所以分开放,是因为答案是用来判分的,
80
00:04:42.988 --> 00:04:44.528
不能进 agent 的环境。
81
00:04:45.250 --> 00:04:49.970
索引交给大家的是材料和答案,造题是使用者自己的事,
82
00:04:49.970 --> 00:04:54.450
下面演示的是其中一种做法,按 Harbor 的任务格式来造,
83
00:04:54.450 --> 00:04:56.870
Harbor 是专门跑这类任务的框架。
84
00:04:57.070 --> 00:05:02.290
一道题就是四样东西,题面、环境、参考解和判分。
85
00:05:04.170 --> 00:05:06.990
那么我们先来造表格这道题。
86
00:05:07.190 --> 00:05:11.030
这个 py 命令和这两个路径都写在用例的说明里,
87
00:05:11.030 --> 00:05:14.010
路径就是刚才取到的答案文件和工作簿。
88
00:05:14.210 --> 00:05:15.590
打开答案文件,
89
00:05:16.467 --> 00:05:18.867
里面记的是 5 个公式格子的值,
90
00:05:18.867 --> 00:05:23.367
6.5、6.6、6.55、4.9、5.8。
91
00:05:23.567 --> 00:05:25.027
再看工作簿本身,
92
00:05:26.120 --> 00:05:30.140
这 5 个格子的公式旁边,都存着上一次算出来的结果。
93
00:05:32.140 --> 00:05:33.820
和答案一模一样,
94
00:05:33.820 --> 00:05:37.900
因为答案文件本来就是从这些存着的结果里取出来的,
95
00:05:37.900 --> 00:05:40.560
它们是发布时算好存进去的值。
96
00:05:40.760 --> 00:05:44.040
也就是说,答案其实就藏在工作簿里,
97
00:05:44.040 --> 00:05:47.800
如果把这个文件原样交给 agent,它打开就能读到,
98
00:05:47.800 --> 00:05:49.100
这道题就白出了。
99
00:05:50.017 --> 00:05:51.777
所以给 agent 的那一份,
100
00:05:51.777 --> 00:05:55.397
我们用 openpyxl 打开再保存一次,就这一行。
101
00:05:55.597 --> 00:05:59.197
openpyxl 是读写 Excel 文件的 Python 库,
102
00:05:59.197 --> 00:06:02.337
它保存时只写公式,不写算好的结果。
103
00:06:05.753 --> 00:06:06.893
再看一遍,
104
00:06:08.737 --> 00:06:13.157
公式都还在,存着的结果全变成了 None,也就是没有了。
105
00:06:13.357 --> 00:06:17.777
答案文件我们放进 tests 目录,只有判分的时候才用。
106
00:06:18.683 --> 00:06:21.963
题面就这么几句,请算出这 5 个格子,
107
00:06:21.963 --> 00:06:24.463
写进 values.json 这个文件。
108
00:06:24.663 --> 00:06:27.783
参考解,也就是这道题的标准做法,
109
00:06:27.783 --> 00:06:31.783
是用 LibreOffice 在没有界面的模式下打开工作簿,
110
00:06:31.783 --> 00:06:35.003
另存一份,再读出这 5 个数。
111
00:06:35.203 --> 00:06:40.823
存着的结果已经去掉了,所以它打开时会把这些格子算出来。
112
00:06:41.750 --> 00:06:45.270
判分就很直接了,拿答案文件里的值逐个比,
113
00:06:45.270 --> 00:06:48.330
相对误差在百万分之一以内才算对。
114
00:06:51.983 --> 00:06:57.423
并且判分是在另一个容器里跑的,容器就是隔开的运行环境,
115
00:06:57.423 --> 00:06:59.583
答案只在判分的容器里,
116
00:06:59.583 --> 00:07:02.963
两边之间只传 values.json 这一个文件。
117
00:07:03.163 --> 00:07:04.843
两边也都断了网,
118
00:07:04.843 --> 00:07:08.763
不然 agent 可以直接去上游把原来的文件下回来,
119
00:07:08.763 --> 00:07:10.223
读出存着的结果。
120
00:07:11.150 --> 00:07:13.090
第二道题的答案是另一种。
121
00:07:13.290 --> 00:07:17.130
我们先用 fsck,也就是文件系统的检查工具,
122
00:07:17.130 --> 00:07:18.510
看一下这个镜像。
123
00:07:18.710 --> 00:07:22.470
可以看到报了一连串错误,文件的簇链断了,
124
00:07:22.470 --> 00:07:26.630
也就是文件在盘上的块接不起来了,校验和也不对,
125
00:07:26.630 --> 00:07:29.130
退出码是 4,确实是坏的。
126
00:07:29.330 --> 00:07:33.170
它的答案文件里不是一个值,而是一条出处,
127
00:07:33.170 --> 00:07:36.210
写明了上游测试脚本的地址和行号,
128
00:07:36.210 --> 00:07:41.030
也就是 exfatprogs 自己是怎么判断修好了没有的。
129
00:07:41.230 --> 00:07:46.190
镜像放进环境给 agent 修,同时在 tests 里留一份原图,
130
00:07:46.190 --> 00:07:49.170
判分时用它确认这道题本身是坏的。
131
00:07:50.083 --> 00:07:54.083
所以题面就是,把它修到 fsck 查不出问题,
132
00:07:54.083 --> 00:07:56.983
修好的写到这个路径,大小不能变。
133
00:07:57.183 --> 00:07:58.563
判分写了四条,
134
00:07:59.112 --> 00:08:04.872
第一,原来的镜像确实报错,第二,修好的镜像大小没变,
135
00:08:04.872 --> 00:08:06.872
第三,再查一遍,
136
00:08:06.872 --> 00:08:11.212
退出码是 0,第一和第三照的是上游的断言。
137
00:08:11.412 --> 00:08:13.012
第四是我们加的,
138
00:08:13.012 --> 00:08:17.012
名字以 l0 开头的三个文件和一个目录必须还在,
139
00:08:17.012 --> 00:08:21.492
fsck 没有报它们有错,不然重新格式化一个空镜像,
140
00:08:21.492 --> 00:08:23.032
前三条也都能过。
141
00:08:23.950 --> 00:08:28.910
参考解也很短,用 fsck 加上修复的选项修一遍,
142
00:08:28.910 --> 00:08:31.650
再查一遍,然后放到要求的位置。
143
00:08:33.350 --> 00:08:34.810
两道题就造好了。
144
00:08:35.010 --> 00:08:40.290
我们看一下目录,每道题都有题面、环境、参考解和判分,
145
00:08:40.290 --> 00:08:42.150
这就是 Harbor 的任务格式。
146
00:08:42.350 --> 00:08:44.750
我们还照 Terminal-Bench 4.0 的规矩,
147
00:08:44.750 --> 00:08:49.170
给每道题配了一份说明,和一个作弊的解,后面会用到。
148
00:08:51.789 --> 00:08:55.629
我们用的版本是钉死的,先用它做一遍静态检查,
149
00:08:55.629 --> 00:08:59.869
也就是不运行题目,只查目录和配置合不合规矩,
150
00:08:59.869 --> 00:09:04.189
这里多开了两条规则,agent 不能用 root 身份跑,
151
00:09:04.189 --> 00:09:07.149
环境用的容器镜像也要按摘要钉死,
152
00:09:07.149 --> 00:09:09.489
也就是写明它的 sha256。
153
00:09:09.689 --> 00:09:12.509
没有报任何问题,退出码是 0。
154
00:09:13.217 --> 00:09:15.237
接下来就是真跑了。
155
00:09:15.437 --> 00:09:17.197
先让 oracle 来做,
156
00:09:17.197 --> 00:09:20.097
oracle 就是直接执行参考解的 agent。
157
00:09:20.297 --> 00:09:22.457
Harbor 会为每道题构建环境,
158
00:09:22.457 --> 00:09:25.597
跑参考解,再到单独的容器里判分。
159
00:09:25.797 --> 00:09:29.577
这一段我们快进,实际用了 1 分 46 秒。
160
00:09:32.077 --> 00:09:34.577
两道题平均 1 分,都通过了。
161
00:09:36.717 --> 00:09:38.257
可是光这样还不够。
162
00:09:38.457 --> 00:09:42.137
如果判分本身是松的,什么都不做也能拿分,
163
00:09:42.137 --> 00:09:44.637
那参考解过了也说明不了什么。
164
00:09:44.837 --> 00:09:48.777
所以我们再让 nop 来做,nop 就是什么都不做的 agent。
165
00:09:51.277 --> 00:09:53.857
两道题都是 0 分,这就对了。
166
00:09:54.583 --> 00:10:00.123
什么都不做拿不到分还不够,还要看走捷径能不能骗过判分。
167
00:10:00.323 --> 00:10:02.643
每道题都带了一个作弊的解,
168
00:10:02.643 --> 00:10:06.403
exFAT 这道题直接格式化一个新的镜像,
169
00:10:06.403 --> 00:10:10.903
表格这道题去网上下载原来的表,抄里面存着的结果。
170
00:10:11.103 --> 00:10:15.103
照用例里的说明,把作弊的解放到参考解的位置,
171
00:10:15.103 --> 00:10:16.643
再让 oracle 跑一遍。
172
00:10:20.684 --> 00:10:22.304
两道题也都是 0 分。
173
00:10:24.017 --> 00:10:28.017
我们看一下每道题的记录,参考解那一轮都是 1,
174
00:10:28.017 --> 00:10:29.797
后面两轮都是 0。
175
00:10:29.997 --> 00:10:31.297
表格这道题,
176
00:10:32.077 --> 00:10:35.117
算出来的 5 个数和答案完全一致,
177
00:10:35.117 --> 00:10:37.997
nop 和作弊这两轮都没有结果文件,
178
00:10:37.997 --> 00:10:42.977
直接判错,作弊的解要联网下载,可题目是断网的。
179
00:10:43.177 --> 00:10:46.237
exFAT 这道题,
180
00:10:46.437 --> 00:10:50.597
参考解四条全过,nop 那一轮后三条过不了,
181
00:10:50.597 --> 00:10:54.757
作弊的新镜像过得了前三条,过不了第四条,
182
00:10:54.757 --> 00:10:56.697
这就是我们加第四条的原因。
183
00:11:02.550 --> 00:11:06.390
到这里,我们就从公开的数据页走到了两道题,
184
00:11:06.390 --> 00:11:10.150
参考解能过,什么都不做和作弊都过不了,
185
00:11:10.150 --> 00:11:12.890
这是一道题能拿去训练的起码要求。
186
00:11:13.090 --> 00:11:18.690
回头看一遍,挑材料,取文件,把答案从环境里拿掉,
187
00:11:18.690 --> 00:11:21.650
写好题面和判分,做静态检查,
188
00:11:21.650 --> 00:11:25.350
最后 oracle、nop 和作弊各跑一遍。
189
00:11:25.550 --> 00:11:28.450
换成别的材料集,也是这一套流程。
190
00:11:28.650 --> 00:11:31.530
数据页和用例的地址就在屏幕上,
191
00:11:31.530 --> 00:11:35.870
这两道题和全部命令都在用例里,大家可以照着试一试。