training-data-foundation / docs /sources.zh.md
Battam's picture
Release [run release-20261117T084432Z] (#118)
93c9d8a
|
Raw History Blame Contribute Delete
10.6 kB

返回 README.zh.md

来源

English | 简体中文

两层分开列出,计数从不相加,大小可以相加:先是任务材料,再是语料库。 每个语料库是整批读取的一个完整上游,按行计数;材料集为构建任务而收录,来自检索在上游找到的作品或一组语料库行,它的文件经过核对并分组为单元,按单元计数,与它的行所来自的语料库分开。 整个索引:记录的大小 4.45 PB;去重后大小 4.14 PB;大小核对:99.3% 一致(读过 38,277 行,比对了 35,581 行);未比对:地址无法访问 145 行、文件已不存在 167 行、需要登录 526 行、服务器未给出大小 1,853 行、其他错误 5 行;没有记录大小的 289,533,999 行中 278,400,014 行的估计大小:510 TB(这是估计值;95% 范围 247 TB 到 1.04 PB,为其各来源范围之和,比联合区间更宽;依据读过的 4,223 行),其余 11,133,985 行读过的太少,无法估计。 任务材料:记录的大小 2.98 GB;去重后大小 2.87 GB;大小核对:99.2% 一致(读过 11,936 行,比对了 11,918 行);未比对:地址无法访问 2 行、文件已不存在 3 行、需要登录 10 行、其他错误 3 行。 语料库:记录的大小 4.45 PB;去重后大小 4.14 PB;大小核对:99.4% 一致(读过 26,341 行,比对了 23,663 行);未比对:地址无法访问 143 行、文件已不存在 164 行、需要登录 516 行、服务器未给出大小 1,853 行、其他错误 2 行;没有记录大小的 289,533,999 行中 278,400,014 行的估计大小:510 TB(这是估计值;95% 范围 247 TB 到 1.04 PB,为其各来源范围之和,比联合区间更宽;依据读过的 4,223 行),其余 11,133,985 行读过的太少,无法估计。 去重后内容是各行 size_bytes 之和,减去与另一行内容重复的那些行的大小(sha256 相同;没有 sha256 时 sha1 相同;再没有时 md5 和大小都相同;并且哈希范围相同;每种内容只保留一份,留在按注册顺序排在最前的来源中),在每次发布之后按它发布的数据文件重新计算,每个来源的值在目录列 distinct_bytes 中;同一来源也整个列出的存档,其成员的哈希与存档不同,所以不扣除。tools/fetch.py 读取你自己的选择时会去掉其中的重复。 这里的去重后大小是按发布 release-2026-11-17.2 的数据文件算出的。 记录的大小是有大小的各行 size_bytes 之和(目录列 bytes)。核对读取每个数据文件中抽取的一组行(meta/sizes.parquet),每天读取有某个来源的行尚未在其中读过的文件,以及最久没读的那些来源的文件,约占全部读数的七分之一,所以每个来源一周之内都会再读一次:对其中有行的每个来源,有记录大小的行各抽 20 行;没有记录大小的行按其所在来源的样本分摊,样本量按目前读到的大小的离散程度定,使其平均大小在 95% 置信度下误差不超过 25%(每个来源每轮最多 400 行,还没有读数的来源取 20 行);其比例是比对过的行(状态 match、size_mismatch 或 hash_mismatch)中与记录的大小一致的行所占的比例,没能比对的行(没有取到文件)按状态另行计数(unreachable、gone、needs_auth、no_length、error;目录列 size_check)。一个来源没有记录大小的行的估计(目录列 unsized_rows 和 unsized_estimate)是这些行的行数乘以读过的这类行的平均实测大小,并给出 95% BCa 自助法范围(scipy.stats.bootstrap,用其默认重抽样次数);读过的这类行少于 10 行的来源没有估计。在来源之上的层级,估计是其各来源估计之和,范围是各来源范围之和,比联合区间更宽。每个层级的数字都在 meta/size_figures.json 中。

任务材料

1,868 个材料集,共 4,635 个单元,分在 14 个合集中(其中 1 个合集还没有材料集);其中 5 个材料集不属于任何合集。 在各领域的页面上,它们按合集列出,每个合集带有它在该领域中的大小。 材料集(任务就绪)是从同一个来源收录的单元,一个来源读取一个上游(一个数据集或一个数据目录),用来构建任务; 它按单元计数,每个单元是上游作为一个整体发布的一组文件。 单元、行和合集是什么,单元用什么作键:数据页使用手册中的术语。

语料库

139 个语料库,共 1,198,791,875 行。 语料库(原始)是采集器持续读取的一个完整上游; 它的行指向文件或记录,它按行计数,不按单元计数。 某个合集列为装着它那一类材料的语料库(流水线 catalog/domains.yaml 中的 corpora)列在该合集的名称下,仍按行计数。

领域

每个来源列在它所属领域的页面上:它的第一个领域代码(目录列 domain)所在的顶层领域,没有领域代码时为未分类。 一页放不下的领域分在编号的几页上,每页都链接其他各页。 两层的计数各占自己的列,"全部领域"一行给出整个发布的计数,各领域的行加起来等于它。

领域 材料集数 单元数 语料库数 行数 页面
软件工程 302 479 12 29,990,992 1
系统管理 71 274 29 161,489,474 1
数据科学 358 1,100 23 770,254,753 1
机器学习 194 560 7 9,658,311 1
科学 182 452 15 45,649,077 1
运营 209 466 6 39,763,158 1
硬件 87 296 5 8,719,142 1
安全 116 434 10 4,536,079 1
媒体 279 446 9 12,753,109 1
杂项 70 128 3 241,140 1
多领域 0 0 16 109,289,735 1
未分类 0 0 4 6,446,905 1
全部领域 1,868 4,635 139 1,198,791,875

如何读来源表

各领域的页面把每个来源列在它所在层的表中,各列如下。

  • 每行指向(语料库)说明一行指向什么:一个文件、一个存档成员、一条网页存档记录、一个字节范围或一个 API 响应。
  • 行数(语料库)计本次发布中的指针数。
  • 单元数(材料集)计不同 unit_id 值的个数(一个测试用例、一个工作簿、一个软件包); 文件数计行数:它的单元的文件,以及索引为该来源写的 README.md 和 LICENSE。 单元数和行数从不加成一个数。
  • 大小给出该来源的各项数字,每项都说明它是什么。 记录的大小是它有大小的各行的大小之和。 去重后大小是记录的大小减去与另一行内容重复的那些行的大小(哈希相同;每种内容只保留一份,留在按注册顺序排在最前的来源中)。 核对说明 meta/sizes.parquet 中读过多少行、比对过的行有多大比例与记录的大小一致,以及读过但没能比对的行按没取到文件的原因各有多少。 估计针对没有记录大小的行,依据读过的这类行的实测大小,并给出 95% 范围。 未知表示本次发布不知道它; 没有量过的大小从不写成 0。
  • 取回核对说明上游是否仍提供该来源的文件:在 meta/sizes.parquet 中读过的抽样行有多少取到且大小和哈希与记录一致、共读过多少行,以及读取的日期(目录列 fetch_check)。 核对每天读取有某个来源的行尚未在其中读过的数据文件,以及最久没读的那些来源的数据文件,约占全部读数的七分之一,所以每个来源一周之内都会再读一次; 发布重写一个数据文件时,仍在其中的行保留它们的读数。 不是所记录文件的字节,例如代替工作簿返回的 HTML 页面,大小或 sha256 不同,算作没有取到。 一行都没有取到的来源仍留在列表中,旁边写着这个读数;下一次读取它的行时,这个读数随之更新; 在那之前它被标记为不能直接使用(目录列 status,这次读数写在 status_reasons 里作为原因),它的卡片和数据页都这样显示。 来源的行需要付费或登录的读者(登录),而以匿名方式读取的核对一行都读不到时,等级为 needs auth,不标记它:这个读数并不说明上游是否提供这些文件。
  • 许可证等级按许可内容对每个来源的许可证分组:
    • permissive: 允许使用、训练和再分发,最多要求署名(例如 MIT、Apache-2.0、CC-BY-4.0、CC0-1.0)。
    • share-alike: 允许,但副本和派生文件须沿用同一许可证(例如 GPL、CC-BY-SA);原因码为 us-pd 时,是仅在美国属于公有领域,在别处再分发有条件。
    • nc-research: 仅限非商业或研究用途。
    • no-training: 许可证或条款排除训练用途。
    • internal-only: 可以使用,但不能再分发。
    • mixed: 该来源的各行属于不同等级;以行的许可证列为准。
    • unknown: 来源没有声明许可证,或无法归类;按未获许可对待。
  • 登录说明下载是否需要账号、表单或申请(access.zh.md)。
  • 是什么是来源判读过时从样本文件读出的摘要,否则是来源自己描述的第一句; 描述由收录写成的材料集,改为给出本次发布的计数,即它的单元数、文件数和发布方数,与数据页和它的卡片的计数相同。