WEBVTT 1 00:00:01.150 --> 00:00:05.550 要训练一个在终端里干活的 agent,也就是智能体, 2 00:00:05.550 --> 00:00:07.010 我们首先得有题。 3 00:00:07.210 --> 00:00:11.450 那么一道题能不能拿来训练,可以归结成两件事, 4 00:00:11.450 --> 00:00:16.410 第一,环境里的材料是真实的,第二,判分靠得住, 5 00:00:16.410 --> 00:00:20.510 做对了才给分,什么都不做、走捷径都不给分。 6 00:00:20.710 --> 00:00:25.350 这支视频我们就完整走一遍,从一个公开的数据页出发, 7 00:00:25.350 --> 00:00:29.350 挑材料,取文件,造出两道题,做一遍检查, 8 00:00:29.350 --> 00:00:31.930 最后真跑,让判分来验收。 9 00:00:32.130 --> 00:00:35.750 屏幕上的命令和输出,都是当时真跑录下来的。 10 00:00:36.450 --> 00:00:38.630 我们先打开数据页。 11 00:00:38.830 --> 00:00:41.730 可以看到,这份索引分成两层。 12 00:00:41.930 --> 00:00:47.370 上面这一层是任务材料,一共 1793 个材料集, 13 00:00:47.370 --> 00:00:51.130 一个材料集,就是从同一个来源挑出来的一批文件, 14 00:00:51.130 --> 00:00:53.870 再按任务的类别分到 13 个合集里。 15 00:00:54.070 --> 00:00:57.990 下面这一层是语料库,一共 124 个, 16 00:00:57.990 --> 00:01:01.270 一个语料库,就是把一个上游整个读下来, 17 00:01:01.270 --> 00:01:05.370 加起来有 12 亿多行,在没有合适的材料集时拿来搜。 18 00:01:05.570 --> 00:01:08.450 这两层各算各的,不能加在一起, 19 00:01:08.450 --> 00:01:11.350 材料集也不是从语料库里挑出来的。 20 00:01:11.550 --> 00:01:13.490 造题要用的是上面这一层。 21 00:01:13.690 --> 00:01:17.930 材料集里的文件分成单元,一个单元可以是一个工作簿, 22 00:01:17.930 --> 00:01:22.010 也可以是一个测试用例,一共 4171 个单元, 23 00:01:22.010 --> 00:01:24.110 其中 787 个带答案。 24 00:01:24.310 --> 00:01:28.890 有答案才判得了分,所以这次我们就从带答案的单元里挑。 25 00:01:29.617 --> 00:01:31.317 我们往下看各个合集。 26 00:01:31.517 --> 00:01:35.277 带答案的电子表格这个合集,有 68 个材料集, 27 00:01:35.277 --> 00:01:38.497 530 个带答案的单元,我们点开它。 28 00:01:38.697 --> 00:01:42.477 我们搜一下英国政府发布的工作簿,把这一行展开。 29 00:01:45.995 --> 00:01:49.995 它收的是英国政府机构发布的表格,一共有 40 个单元, 30 00:01:49.995 --> 00:01:52.075 一个单元就是一个工作簿, 31 00:01:52.075 --> 00:01:54.895 40 个答案单独放在 answer 目录下面。 32 00:01:55.095 --> 00:01:59.255 许可证是 OGL UK 3.0,属于宽松的这一类, 33 00:01:59.255 --> 00:02:00.955 训练和分发都允许。 34 00:02:01.155 --> 00:02:02.455 再点开预览, 35 00:02:04.522 --> 00:02:09.642 可以看到这份索引只是一份清单,不是文件的副本, 36 00:02:09.642 --> 00:02:12.702 每个文件一行,记着从哪下载、 37 00:02:12.902 --> 00:02:13.802 多大、 38 00:02:14.002 --> 00:02:15.142 校验值 39 00:02:15.342 --> 00:02:16.402 和许可证。 40 00:02:18.117 --> 00:02:22.137 再用同样的办法,从磁盘镜像这个合集里挑一个。 41 00:02:22.337 --> 00:02:26.197 这是 exfatprogs 这个工具自带的测试用例, 42 00:02:26.521 --> 00:02:30.841 一共 15 个损坏的 exFAT 镜像,每个都带答案, 43 00:02:30.841 --> 00:02:34.761 镜像本身的许可证是 GPL,属于相同方式共享, 44 00:02:34.761 --> 00:02:39.101 训练允许,分发这些镜像时要带上同样的许可证。 45 00:02:39.817 --> 00:02:42.957 两个都看好了,我们来到获取数据这一节。 46 00:02:43.157 --> 00:02:48.217 页面一次只给当前这一个材料集拼命令,先预览,再获取。 47 00:02:48.417 --> 00:02:52.257 命令里钉死了一个发布版本,清单和校验值就定了, 48 00:02:52.257 --> 00:02:56.657 以后再取,要么取到一模一样的文件,要么校验不过, 49 00:02:56.657 --> 00:02:57.797 直接报错。 50 00:02:57.997 --> 00:02:59.917 我们要的是两个材料集, 51 00:02:59.917 --> 00:03:02.897 下面就在终端里把它们写进同一条命令。 52 00:03:03.817 --> 00:03:06.777 如果是 agent 来挑,或者你不想开网页, 53 00:03:06.777 --> 00:03:10.057 索引里有一张总表,就是这个文件, 54 00:03:10.057 --> 00:03:13.657 每个材料集和语料库各占一行,用 DuckDB, 55 00:03:13.657 --> 00:03:17.757 一个能直接查数据文件的数据库工具,一句 SQL 就能查。 56 00:03:17.957 --> 00:03:22.437 总表里合集用字母代号,带答案的电子表格是 A, 57 00:03:22.437 --> 00:03:27.657 磁盘镜像是 B,同样只看带答案的,一共有 111 个材料集。 58 00:03:27.857 --> 00:03:31.857 每个合集我们列出单元最多的 6 个,刚才挑的这个, 59 00:03:31.857 --> 00:03:36.117 和这个,都在里面,许可证的等级也写在这一列。 60 00:03:37.637 --> 00:03:40.597 取文件用的是索引自带的取用工具, 61 00:03:40.597 --> 00:03:44.217 uv 会把它直接从网上拉下来运行,不用先安装。 62 00:03:44.417 --> 00:03:48.257 两个来源写在同一条命令里,每个先取一个单元, 63 00:03:48.257 --> 00:03:50.897 再加上 dry run,也就是只预览, 64 00:03:50.897 --> 00:03:55.317 不下载,没选中的文件太多,这里就过滤掉不显示了。 65 00:03:55.517 --> 00:03:58.817 可以看到,这两个来源一共 55 个单元。 66 00:03:59.017 --> 00:04:03.177 取用工具默认会去掉重复的、和评测基准重合的、 67 00:04:03.177 --> 00:04:07.497 还没和基准比对过的、许可不允许分发的、不是英文的、 68 00:04:07.497 --> 00:04:11.757 带个人数据的,还有超过 20 MB 的,这次都是 0。 69 00:04:11.957 --> 00:04:15.557 按我们的要求取 2 个单元,连答案和配套文件, 70 00:04:15.557 --> 00:04:16.857 一共 8 个文件。 71 00:04:17.057 --> 00:04:20.677 确认没问题,我们去掉 dry run,真正下载。 72 00:04:21.388 --> 00:04:23.148 8 个文件全部 ok, 73 00:04:23.148 --> 00:04:26.288 每个都和索引里记的大小和校验值核对过。 74 00:04:26.488 --> 00:04:30.568 其中这个 exFAT 镜像,上游是放在压缩包里的, 75 00:04:30.568 --> 00:04:32.428 工具自动把它取了出来。 76 00:04:32.628 --> 00:04:34.968 我们看一下取到了什么。 77 00:04:35.168 --> 00:04:37.328 材料放在按领域分的目录下面, 78 00:04:37.328 --> 00:04:39.348 答案单独放在 answer 下面。 79 00:04:39.548 --> 00:04:42.988 之所以分开放,是因为答案是用来判分的, 80 00:04:42.988 --> 00:04:44.528 不能进 agent 的环境。 81 00:04:45.250 --> 00:04:49.970 索引交给大家的是材料和答案,造题是使用者自己的事, 82 00:04:49.970 --> 00:04:54.450 下面演示的是其中一种做法,按 Harbor 的任务格式来造, 83 00:04:54.450 --> 00:04:56.870 Harbor 是专门跑这类任务的框架。 84 00:04:57.070 --> 00:05:02.290 一道题就是四样东西,题面、环境、参考解和判分。 85 00:05:04.170 --> 00:05:06.990 那么我们先来造表格这道题。 86 00:05:07.190 --> 00:05:11.030 这个 py 命令和这两个路径都写在用例的说明里, 87 00:05:11.030 --> 00:05:14.010 路径就是刚才取到的答案文件和工作簿。 88 00:05:14.210 --> 00:05:15.590 打开答案文件, 89 00:05:16.467 --> 00:05:18.867 里面记的是 5 个公式格子的值, 90 00:05:18.867 --> 00:05:23.367 6.5、6.6、6.55、4.9、5.8。 91 00:05:23.567 --> 00:05:25.027 再看工作簿本身, 92 00:05:26.120 --> 00:05:30.140 这 5 个格子的公式旁边,都存着上一次算出来的结果。 93 00:05:32.140 --> 00:05:33.820 和答案一模一样, 94 00:05:33.820 --> 00:05:37.900 因为答案文件本来就是从这些存着的结果里取出来的, 95 00:05:37.900 --> 00:05:40.560 它们是发布时算好存进去的值。 96 00:05:40.760 --> 00:05:44.040 也就是说,答案其实就藏在工作簿里, 97 00:05:44.040 --> 00:05:47.800 如果把这个文件原样交给 agent,它打开就能读到, 98 00:05:47.800 --> 00:05:49.100 这道题就白出了。 99 00:05:50.017 --> 00:05:51.777 所以给 agent 的那一份, 100 00:05:51.777 --> 00:05:55.397 我们用 openpyxl 打开再保存一次,就这一行。 101 00:05:55.597 --> 00:05:59.197 openpyxl 是读写 Excel 文件的 Python 库, 102 00:05:59.197 --> 00:06:02.337 它保存时只写公式,不写算好的结果。 103 00:06:05.753 --> 00:06:06.893 再看一遍, 104 00:06:08.737 --> 00:06:13.157 公式都还在,存着的结果全变成了 None,也就是没有了。 105 00:06:13.357 --> 00:06:17.777 答案文件我们放进 tests 目录,只有判分的时候才用。 106 00:06:18.683 --> 00:06:21.963 题面就这么几句,请算出这 5 个格子, 107 00:06:21.963 --> 00:06:24.463 写进 values.json 这个文件。 108 00:06:24.663 --> 00:06:27.783 参考解,也就是这道题的标准做法, 109 00:06:27.783 --> 00:06:31.783 是用 LibreOffice 在没有界面的模式下打开工作簿, 110 00:06:31.783 --> 00:06:35.003 另存一份,再读出这 5 个数。 111 00:06:35.203 --> 00:06:40.823 存着的结果已经去掉了,所以它打开时会把这些格子算出来。 112 00:06:41.750 --> 00:06:45.270 判分就很直接了,拿答案文件里的值逐个比, 113 00:06:45.270 --> 00:06:48.330 相对误差在百万分之一以内才算对。 114 00:06:51.983 --> 00:06:57.423 并且判分是在另一个容器里跑的,容器就是隔开的运行环境, 115 00:06:57.423 --> 00:06:59.583 答案只在判分的容器里, 116 00:06:59.583 --> 00:07:02.963 两边之间只传 values.json 这一个文件。 117 00:07:03.163 --> 00:07:04.843 两边也都断了网, 118 00:07:04.843 --> 00:07:08.763 不然 agent 可以直接去上游把原来的文件下回来, 119 00:07:08.763 --> 00:07:10.223 读出存着的结果。 120 00:07:11.150 --> 00:07:13.090 第二道题的答案是另一种。 121 00:07:13.290 --> 00:07:17.130 我们先用 fsck,也就是文件系统的检查工具, 122 00:07:17.130 --> 00:07:18.510 看一下这个镜像。 123 00:07:18.710 --> 00:07:22.470 可以看到报了一连串错误,文件的簇链断了, 124 00:07:22.470 --> 00:07:26.630 也就是文件在盘上的块接不起来了,校验和也不对, 125 00:07:26.630 --> 00:07:29.130 退出码是 4,确实是坏的。 126 00:07:29.330 --> 00:07:33.170 它的答案文件里不是一个值,而是一条出处, 127 00:07:33.170 --> 00:07:36.210 写明了上游测试脚本的地址和行号, 128 00:07:36.210 --> 00:07:41.030 也就是 exfatprogs 自己是怎么判断修好了没有的。 129 00:07:41.230 --> 00:07:46.190 镜像放进环境给 agent 修,同时在 tests 里留一份原图, 130 00:07:46.190 --> 00:07:49.170 判分时用它确认这道题本身是坏的。 131 00:07:50.083 --> 00:07:54.083 所以题面就是,把它修到 fsck 查不出问题, 132 00:07:54.083 --> 00:07:56.983 修好的写到这个路径,大小不能变。 133 00:07:57.183 --> 00:07:58.563 判分写了四条, 134 00:07:59.112 --> 00:08:04.872 第一,原来的镜像确实报错,第二,修好的镜像大小没变, 135 00:08:04.872 --> 00:08:06.872 第三,再查一遍, 136 00:08:06.872 --> 00:08:11.212 退出码是 0,第一和第三照的是上游的断言。 137 00:08:11.412 --> 00:08:13.012 第四是我们加的, 138 00:08:13.012 --> 00:08:17.012 名字以 l0 开头的三个文件和一个目录必须还在, 139 00:08:17.012 --> 00:08:21.492 fsck 没有报它们有错,不然重新格式化一个空镜像, 140 00:08:21.492 --> 00:08:23.032 前三条也都能过。 141 00:08:23.950 --> 00:08:28.910 参考解也很短,用 fsck 加上修复的选项修一遍, 142 00:08:28.910 --> 00:08:31.650 再查一遍,然后放到要求的位置。 143 00:08:33.350 --> 00:08:34.810 两道题就造好了。 144 00:08:35.010 --> 00:08:40.290 我们看一下目录,每道题都有题面、环境、参考解和判分, 145 00:08:40.290 --> 00:08:42.150 这就是 Harbor 的任务格式。 146 00:08:42.350 --> 00:08:44.750 我们还照 Terminal-Bench 4.0 的规矩, 147 00:08:44.750 --> 00:08:49.170 给每道题配了一份说明,和一个作弊的解,后面会用到。 148 00:08:51.789 --> 00:08:55.629 我们用的版本是钉死的,先用它做一遍静态检查, 149 00:08:55.629 --> 00:08:59.869 也就是不运行题目,只查目录和配置合不合规矩, 150 00:08:59.869 --> 00:09:04.189 这里多开了两条规则,agent 不能用 root 身份跑, 151 00:09:04.189 --> 00:09:07.149 环境用的容器镜像也要按摘要钉死, 152 00:09:07.149 --> 00:09:09.489 也就是写明它的 sha256。 153 00:09:09.689 --> 00:09:12.509 没有报任何问题,退出码是 0。 154 00:09:13.217 --> 00:09:15.237 接下来就是真跑了。 155 00:09:15.437 --> 00:09:17.197 先让 oracle 来做, 156 00:09:17.197 --> 00:09:20.097 oracle 就是直接执行参考解的 agent。 157 00:09:20.297 --> 00:09:22.457 Harbor 会为每道题构建环境, 158 00:09:22.457 --> 00:09:25.597 跑参考解,再到单独的容器里判分。 159 00:09:25.797 --> 00:09:29.577 这一段我们快进,实际用了 1 分 46 秒。 160 00:09:32.077 --> 00:09:34.577 两道题平均 1 分,都通过了。 161 00:09:36.717 --> 00:09:38.257 可是光这样还不够。 162 00:09:38.457 --> 00:09:42.137 如果判分本身是松的,什么都不做也能拿分, 163 00:09:42.137 --> 00:09:44.637 那参考解过了也说明不了什么。 164 00:09:44.837 --> 00:09:48.777 所以我们再让 nop 来做,nop 就是什么都不做的 agent。 165 00:09:51.277 --> 00:09:53.857 两道题都是 0 分,这就对了。 166 00:09:54.583 --> 00:10:00.123 什么都不做拿不到分还不够,还要看走捷径能不能骗过判分。 167 00:10:00.323 --> 00:10:02.643 每道题都带了一个作弊的解, 168 00:10:02.643 --> 00:10:06.403 exFAT 这道题直接格式化一个新的镜像, 169 00:10:06.403 --> 00:10:10.903 表格这道题去网上下载原来的表,抄里面存着的结果。 170 00:10:11.103 --> 00:10:15.103 照用例里的说明,把作弊的解放到参考解的位置, 171 00:10:15.103 --> 00:10:16.643 再让 oracle 跑一遍。 172 00:10:20.684 --> 00:10:22.304 两道题也都是 0 分。 173 00:10:24.017 --> 00:10:28.017 我们看一下每道题的记录,参考解那一轮都是 1, 174 00:10:28.017 --> 00:10:29.797 后面两轮都是 0。 175 00:10:29.997 --> 00:10:31.297 表格这道题, 176 00:10:32.077 --> 00:10:35.117 算出来的 5 个数和答案完全一致, 177 00:10:35.117 --> 00:10:37.997 nop 和作弊这两轮都没有结果文件, 178 00:10:37.997 --> 00:10:42.977 直接判错,作弊的解要联网下载,可题目是断网的。 179 00:10:43.177 --> 00:10:46.237 exFAT 这道题, 180 00:10:46.437 --> 00:10:50.597 参考解四条全过,nop 那一轮后三条过不了, 181 00:10:50.597 --> 00:10:54.757 作弊的新镜像过得了前三条,过不了第四条, 182 00:10:54.757 --> 00:10:56.697 这就是我们加第四条的原因。 183 00:11:02.550 --> 00:11:06.390 到这里,我们就从公开的数据页走到了两道题, 184 00:11:06.390 --> 00:11:10.150 参考解能过,什么都不做和作弊都过不了, 185 00:11:10.150 --> 00:11:12.890 这是一道题能拿去训练的起码要求。 186 00:11:13.090 --> 00:11:18.690 回头看一遍,挑材料,取文件,把答案从环境里拿掉, 187 00:11:18.690 --> 00:11:21.650 写好题面和判分,做静态检查, 188 00:11:21.650 --> 00:11:25.350 最后 oracle、nop 和作弊各跑一遍。 189 00:11:25.550 --> 00:11:28.450 换成别的材料集,也是这一套流程。 190 00:11:28.650 --> 00:11:31.530 数据页和用例的地址就在屏幕上, 191 00:11:31.530 --> 00:11:35.870 这两道题和全部命令都在用例里,大家可以照着试一试。