[返回 README.zh.md](../README.zh.md) # 来源 [English](sources.md) | 简体中文 两层分开列出,计数从不相加,大小可以相加:先是任务材料,再是语料库。 每个语料库是整批读取的一个完整上游,按行计数;材料集为构建任务而收录,来自检索在上游找到的作品或一组语料库行,它的文件经过核对并分组为单元,按单元计数,与它的行所来自的语料库分开。 整个索引:记录的大小 4.45 PB;去重后大小 4.14 PB;大小核对:99.3% 一致(读过 38,277 行,比对了 35,581 行);未比对:地址无法访问 145 行、文件已不存在 167 行、需要登录 526 行、服务器未给出大小 1,853 行、其他错误 5 行;没有记录大小的 289,533,999 行中 278,400,014 行的估计大小:510 TB(这是估计值;95% 范围 247 TB 到 1.04 PB,为其各来源范围之和,比联合区间更宽;依据读过的 4,223 行),其余 11,133,985 行读过的太少,无法估计。 任务材料:记录的大小 2.98 GB;去重后大小 2.87 GB;大小核对:99.2% 一致(读过 11,936 行,比对了 11,918 行);未比对:地址无法访问 2 行、文件已不存在 3 行、需要登录 10 行、其他错误 3 行。 语料库:记录的大小 4.45 PB;去重后大小 4.14 PB;大小核对:99.4% 一致(读过 26,341 行,比对了 23,663 行);未比对:地址无法访问 143 行、文件已不存在 164 行、需要登录 516 行、服务器未给出大小 1,853 行、其他错误 2 行;没有记录大小的 289,533,999 行中 278,400,014 行的估计大小:510 TB(这是估计值;95% 范围 247 TB 到 1.04 PB,为其各来源范围之和,比联合区间更宽;依据读过的 4,223 行),其余 11,133,985 行读过的太少,无法估计。 去重后内容是各行 `size_bytes` 之和,减去与另一行内容重复的那些行的大小(sha256 相同;没有 sha256 时 sha1 相同;再没有时 md5 和大小都相同;并且哈希范围相同;每种内容只保留一份,留在按注册顺序排在最前的来源中),在每次发布之后按它发布的数据文件重新计算,每个来源的值在目录列 `distinct_bytes` 中;同一来源也整个列出的存档,其成员的哈希与存档不同,所以不扣除。`tools/fetch.py` 读取你自己的选择时会去掉其中的重复。 这里的去重后大小是按发布 `release-2026-11-17.2` 的数据文件算出的。 记录的大小是有大小的各行 `size_bytes` 之和(目录列 `bytes`)。核对读取每个数据文件中抽取的一组行(`meta/sizes.parquet`),每天读取有某个来源的行尚未在其中读过的文件,以及最久没读的那些来源的文件,约占全部读数的七分之一,所以每个来源一周之内都会再读一次:对其中有行的每个来源,有记录大小的行各抽 20 行;没有记录大小的行按其所在来源的样本分摊,样本量按目前读到的大小的离散程度定,使其平均大小在 95% 置信度下误差不超过 25%(每个来源每轮最多 400 行,还没有读数的来源取 20 行);其比例是比对过的行(状态 `match`、`size_mismatch` 或 `hash_mismatch`)中与记录的大小一致的行所占的比例,没能比对的行(没有取到文件)按状态另行计数(`unreachable`、`gone`、`needs_auth`、`no_length`、`error`;目录列 `size_check`)。一个来源没有记录大小的行的估计(目录列 `unsized_rows` 和 `unsized_estimate`)是这些行的行数乘以读过的这类行的平均实测大小,并给出 95% BCa 自助法范围(`scipy.stats.bootstrap`,用其默认重抽样次数);读过的这类行少于 10 行的来源没有估计。在来源之上的层级,估计是其各来源估计之和,范围是各来源范围之和,比联合区间更宽。每个层级的数字都在 `meta/size_figures.json` 中。 ## 任务材料 1,868 个材料集,共 4,635 个单元,分在 14 个合集中(其中 1 个合集还没有材料集);其中 5 个材料集不属于任何合集。 在各领域的页面上,它们按合集列出,每个合集带有它在该领域中的大小。 材料集(任务就绪)是从同一个来源收录的单元,一个来源读取一个上游(一个数据集或一个数据目录),用来构建任务; 它按单元计数,每个单元是上游作为一个整体发布的一组文件。 单元、行和合集是什么,单元用什么作键:[数据页使用手册中的术语](https://battam-training-data-foundation.static.hf.space/index.html?lng=zh#manual/glossary)。 ## 语料库 139 个语料库,共 1,198,791,875 行。 语料库(原始)是采集器持续读取的一个完整上游; 它的行指向文件或记录,它按行计数,不按单元计数。 某个合集列为装着它那一类材料的语料库(流水线 `catalog/domains.yaml` 中的 `corpora`)列在该合集的名称下,仍按行计数。 ## 领域 每个来源列在它所属领域的页面上:它的第一个领域代码(目录列 `domain`)所在的顶层领域,没有领域代码时为未分类。 一页放不下的领域分在编号的几页上,每页都链接其他各页。 两层的计数各占自己的列,"全部领域"一行给出整个发布的计数,各领域的行加起来等于它。 | 领域 | 材料集数 | 单元数 | 语料库数 | 行数 | 页面 | |---|---:|---:|---:|---:|---| | [软件工程](sources/software-engineering.zh.md) | 302 | 479 | 12 | 29,990,992 | [1](sources/software-engineering.zh.md) | | [系统管理](sources/system-administration.zh.md) | 71 | 274 | 29 | 161,489,474 | [1](sources/system-administration.zh.md) | | [数据科学](sources/data-science.zh.md) | 358 | 1,100 | 23 | 770,254,753 | [1](sources/data-science.zh.md) | | [机器学习](sources/machine-learning.zh.md) | 194 | 560 | 7 | 9,658,311 | [1](sources/machine-learning.zh.md) | | [科学](sources/science.zh.md) | 182 | 452 | 15 | 45,649,077 | [1](sources/science.zh.md) | | [运营](sources/operations.zh.md) | 209 | 466 | 6 | 39,763,158 | [1](sources/operations.zh.md) | | [硬件](sources/hardware.zh.md) | 87 | 296 | 5 | 8,719,142 | [1](sources/hardware.zh.md) | | [安全](sources/security.zh.md) | 116 | 434 | 10 | 4,536,079 | [1](sources/security.zh.md) | | [媒体](sources/media.zh.md) | 279 | 446 | 9 | 12,753,109 | [1](sources/media.zh.md) | | [杂项](sources/misc.zh.md) | 70 | 128 | 3 | 241,140 | [1](sources/misc.zh.md) | | [多领域](sources/many-domains.zh.md) | 0 | 0 | 16 | 109,289,735 | [1](sources/many-domains.zh.md) | | [未分类](sources/unclassified.zh.md) | 0 | 0 | 4 | 6,446,905 | [1](sources/unclassified.zh.md) | | **全部领域** | 1,868 | 4,635 | 139 | 1,198,791,875 | | ## 如何读来源表 各领域的页面把每个来源列在它所在层的表中,各列如下。 - **每行指向**(语料库)说明一行指向什么:一个文件、一个存档成员、一条网页存档记录、一个字节范围或一个 API 响应。 - **行数**(语料库)计本次发布中的指针数。 - **单元数**(材料集)计不同 `unit_id` 值的个数(一个测试用例、一个工作簿、一个软件包); **文件数**计行数:它的单元的文件,以及索引为该来源写的 README.md 和 LICENSE。 单元数和行数从不加成一个数。 - **大小**给出该来源的各项数字,每项都说明它是什么。 记录的大小是它有大小的各行的大小之和。 去重后大小是记录的大小减去与另一行内容重复的那些行的大小(哈希相同;每种内容只保留一份,留在按注册顺序排在最前的来源中)。 核对说明 `meta/sizes.parquet` 中读过多少行、比对过的行有多大比例与记录的大小一致,以及读过但没能比对的行按没取到文件的原因各有多少。 估计针对没有记录大小的行,依据读过的这类行的实测大小,并给出 95% 范围。 `未知`表示本次发布不知道它; 没有量过的大小从不写成 0。 - **取回核对**说明上游是否仍提供该来源的文件:在 `meta/sizes.parquet` 中读过的抽样行有多少取到且大小和哈希与记录一致、共读过多少行,以及读取的日期(目录列 `fetch_check`)。 核对每天读取有某个来源的行尚未在其中读过的数据文件,以及最久没读的那些来源的数据文件,约占全部读数的七分之一,所以每个来源一周之内都会再读一次; 发布重写一个数据文件时,仍在其中的行保留它们的读数。 不是所记录文件的字节,例如代替工作簿返回的 HTML 页面,大小或 sha256 不同,算作没有取到。 一行都没有取到的来源仍留在列表中,旁边写着这个读数;下一次读取它的行时,这个读数随之更新; 在那之前它被标记为不能直接使用(目录列 `status`,这次读数写在 `status_reasons` 里作为原因),它的卡片和数据页都这样显示。 来源的行需要付费或登录的读者(**登录**),而以匿名方式读取的核对一行都读不到时,等级为 `needs auth`,不标记它:这个读数并不说明上游是否提供这些文件。 - **许可证等级**按许可内容对每个来源的许可证分组: - `permissive`: 允许使用、训练和再分发,最多要求署名(例如 MIT、Apache-2.0、CC-BY-4.0、CC0-1.0)。 - `share-alike`: 允许,但副本和派生文件须沿用同一许可证(例如 GPL、CC-BY-SA);原因码为 us-pd 时,是仅在美国属于公有领域,在别处再分发有条件。 - `nc-research`: 仅限非商业或研究用途。 - `no-training`: 许可证或条款排除训练用途。 - `internal-only`: 可以使用,但不能再分发。 - `mixed`: 该来源的各行属于不同等级;以行的许可证列为准。 - `unknown`: 来源没有声明许可证,或无法归类;按未获许可对待。 - **登录**说明下载是否需要账号、表单或申请([access.zh.md](access.zh.md))。 - **是什么**是来源判读过时从样本文件读出的摘要,否则是来源自己描述的第一句; 描述由收录写成的材料集,改为给出本次发布的计数,即它的单元数、文件数和发布方数,与数据页和它的卡片的计数相同。