|
Download docs/sources.zh.md from Battam/training-data-foundation: direct link, hf CLI and curl.
- Browser
- Download file 10.9 kB
-
https://huggingface.co/datasets/Battam/training-data-foundation/resolve/main/docs/sources.zh.md
- Command line
-
hf download hf://datasets/Battam/training-data-foundation/docs/sources.zh.md
-
curl -L -o sources.zh.md https://huggingface.co/datasets/Battam/training-data-foundation/resolve/main/docs/sources.zh.md
10.9 kB
| [返回 README.zh.md](../README.zh.md) | |
| <!-- Generated by artpool.index_projection from meta/, the yaml cards under cards/ and its templates. Every release regenerates it, so edits to this file do not last. --> | |
| # 来源 | |
| [English](sources.md) | 简体中文 | |
| 两层分开列出,计数从不相加,大小可以相加:先是任务材料,再是语料库。 | |
| 每个来源都是同一种来源,单元通过它的标签成为某个叶子的任务材料,每个标签来自一种方法(agent 或 classifier);Agent 为某个叶子选定其单元的来源(材料集)按单元计数,其他每个来源(语料库,整批读取的一个完整上游)按行计数,所以单元和行从不相加。 | |
| 整个索引:记录的大小 6.32 PB;去重后大小 5.84 PB;大小核对:99.3% 一致(读过 38,608 行,比对了 35,889 行);未比对:地址无法访问 145 行、文件已不存在 167 行、需要登录 526 行、服务器未给出大小 1,876 行、其他错误 5 行;没有记录大小的 298,463,449 行中 279,904,705 行的估计大小:514 TB(这是估计值;95% 范围 252 TB 到 1.05 PB,为其各来源范围之和,比联合区间更宽;依据读过的 4,334 行),其余 18,558,744 行读过的太少,无法估计。 任务材料:记录的大小 36.0 GB;去重后大小 35.9 GB;大小核对:99.2% 一致(读过 11,936 行,比对了 11,918 行);未比对:地址无法访问 2 行、文件已不存在 3 行、需要登录 10 行、其他错误 3 行;9 行没有记录大小,其中读过的太少,无法估计。 语料库:记录的大小 6.32 PB;去重后大小 5.84 PB;大小核对:99.4% 一致(读过 26,672 行,比对了 23,971 行);未比对:地址无法访问 143 行、文件已不存在 164 行、需要登录 516 行、服务器未给出大小 1,876 行、其他错误 2 行;没有记录大小的 298,463,440 行中 279,904,705 行的估计大小:514 TB(这是估计值;95% 范围 252 TB 到 1.05 PB,为其各来源范围之和,比联合区间更宽;依据读过的 4,334 行),其余 18,558,735 行读过的太少,无法估计。 去重后内容是各行 `size_bytes` 之和,减去与另一行内容重复的那些行的大小(sha256 相同;没有 sha256 时 sha1 相同;再没有时 md5 和大小都相同;并且哈希范围相同;每种内容只保留一份,留在按注册顺序排在最前的来源中),在每次发布之后按它发布的数据文件重新计算,每个来源的值在目录列 `distinct_bytes` 中;同一来源也整个列出的存档,其成员的哈希与存档不同,所以不扣除。`tools/fetch.py` 读取你自己的选择时会去掉其中的重复。 这里的去重后大小是按 `release-2026-11-21.3` 的数据文件算出的:它是发布标签,或 `<标签>.p<n>`,即该标签之后把行带到第 n 版的那次发布留下的 main。 记录的大小是有大小的各行 `size_bytes` 之和(目录列 `bytes`)。核对读取每个数据文件中抽取的一组行(`meta/sizes.parquet`),每天读取有某个来源的行尚未在其中读过的文件,以及最久没读的那些来源的文件,约占全部读数的七分之一,所以每个来源一周之内都会再读一次:对其中有行的每个来源,有记录大小的行各抽 20 行;没有记录大小的行按其所在来源的样本分摊,样本量按目前读到的大小的离散程度定,使其平均大小在 95% 置信度下误差不超过 25%(每个来源每轮最多 400 行,还没有读数的来源取 20 行);其比例是比对过的行(状态 `match`、`size_mismatch` 或 `hash_mismatch`)中与记录的大小一致的行所占的比例,没能比对的行(没有取到文件)按状态另行计数(`unreachable`、`gone`、`needs_auth`、`no_length`、`error`;目录列 `size_check`)。一个来源没有记录大小的行的估计(目录列 `unsized_rows` 和 `unsized_estimate`)是这些行的行数乘以读过的这类行的平均实测大小,并给出 95% BCa 自助法范围(`scipy.stats.bootstrap`,用其默认重抽样次数);读过的这类行少于 10 行的来源没有估计。在来源之上的层级,估计是其各来源估计之和,范围是各来源范围之和,比联合区间更宽。每个层级的数字都在 `meta/size_figures.json` 中。 | |
| ## 任务材料 | |
| 2,223 个材料集,共 5,582 个单元,分在 14 个合集中(其中 1 个合集还没有材料集);其中 6 个材料集不属于任何合集。 | |
| 在各领域的页面上,它们按合集列出,每个合集带有它在该领域中的大小。 | |
| 材料集(任务就绪)是从同一个来源收录的单元,一个来源读取一个上游(一个数据集或一个数据目录),用来构建任务; | |
| 它按单元计数,每个单元是上游作为一个整体发布的一组文件。 | |
| 单元、行和合集是什么,单元用什么作键:[数据页使用手册中的术语](https://battam-training-data-foundation.static.hf.space/index.html?lng=zh#manual/glossary)。 | |
| ## 语料库 | |
| 173 个语料库,共 1,275,880,615 行。 | |
| 语料库(原始)是采集器持续读取的一个完整上游; | |
| 它的行指向文件或记录,它按行计数,不按单元计数。 | |
| 某个合集列为装着它那一类材料的语料库(流水线 `catalog/domains.yaml` 中的 `corpora`)列在该合集的名称下,仍按行计数。 | |
| ## 领域 | |
| 每个来源列在它所属领域的页面上:它的第一个领域代码(目录列 `domain`)所在的顶层领域,没有领域代码时为未分类。 | |
| 一页放不下的领域分在编号的几页上,每页都链接其他各页。 | |
| 两层的计数各占自己的列,"全部领域"一行给出整个发布的计数,各领域的行加起来等于它。 | |
| | 领域 | 材料集数 | 单元数 | 语料库数 | 行数 | 页面 | | |
| |---|---:|---:|---:|---:|---| | |
| | [软件工程](sources/software-engineering-1.zh.md) | 536 | 854 | 12 | 30,168,826 | [1](sources/software-engineering-1.zh.md)、[2](sources/software-engineering-2.zh.md) | | |
| | [系统管理](sources/system-administration.zh.md) | 72 | 275 | 29 | 162,586,156 | [1](sources/system-administration.zh.md) | | |
| | [数据科学](sources/data-science.zh.md) | 359 | 1,129 | 24 | 775,872,416 | [1](sources/data-science.zh.md) | | |
| | [机器学习](sources/machine-learning.zh.md) | 204 | 603 | 7 | 9,652,262 | [1](sources/machine-learning.zh.md) | | |
| | [科学](sources/science.zh.md) | 190 | 505 | 21 | 69,990,736 | [1](sources/science.zh.md) | | |
| | [运营](sources/operations.zh.md) | 222 | 511 | 6 | 39,896,932 | [1](sources/operations.zh.md) | | |
| | [硬件](sources/hardware.zh.md) | 148 | 653 | 5 | 8,719,386 | [1](sources/hardware.zh.md) | | |
| | [安全](sources/security.zh.md) | 119 | 438 | 12 | 4,607,424 | [1](sources/security.zh.md) | | |
| | [媒体](sources/media.zh.md) | 291 | 459 | 11 | 13,229,521 | [1](sources/media.zh.md) | | |
| | [杂项](sources/misc.zh.md) | 81 | 155 | 4 | 457,229 | [1](sources/misc.zh.md) | | |
| | [多领域](sources/many-domains.zh.md) | 1 | 0 | 36 | 153,650,290 | [1](sources/many-domains.zh.md) | | |
| | [未分类](sources/unclassified.zh.md) | 0 | 0 | 6 | 7,049,437 | [1](sources/unclassified.zh.md) | | |
| | **全部领域** | 2,223 | 5,582 | 173 | 1,275,880,615 | | | |
| ## 如何读来源表 | |
| 各领域的页面把每个来源列在它所在层的表中,各列如下。 | |
| - **每行指向**(语料库)说明一行指向什么:一个文件、一个存档成员、一条网页存档记录、一个字节范围或一个 API 响应。 | |
| - **行数**(语料库)计本次发布中的指针数。 | |
| - **单元数**(材料集)计不同 `unit_id` 值的个数(一个测试用例、一个工作簿、一个软件包); | |
| **文件数**计行数:它的单元的文件,以及索引为该来源写的 README.md 和 LICENSE。 | |
| 单元数和行数从不加成一个数。 | |
| - **大小**给出该来源的各项数字,每项都说明它是什么。 | |
| 记录的大小是它有大小的各行的大小之和。 | |
| 去重后大小是记录的大小减去与另一行内容重复的那些行的大小(哈希相同;每种内容只保留一份,留在按注册顺序排在最前的来源中)。 | |
| 核对说明 `meta/sizes.parquet` 中读过多少行、比对过的行有多大比例与记录的大小一致,以及读过但没能比对的行按没取到文件的原因各有多少。 | |
| 估计针对没有记录大小的行,依据读过的这类行的实测大小,并给出 95% 范围。 | |
| `未知`表示本次发布不知道它; | |
| 没有量过的大小从不写成 0。 | |
| - **取回核对**说明上游是否仍提供该来源的文件:在 `meta/sizes.parquet` 中读过的抽样行有多少取到且大小和哈希与记录一致、共读过多少行,以及读取的日期(目录列 `fetch_check`)。 | |
| 核对每天读取有某个来源的行尚未在其中读过的数据文件,以及最久没读的那些来源的数据文件,约占全部读数的七分之一,所以每个来源一周之内都会再读一次; | |
| 发布重写一个数据文件时,仍在其中的行保留它们的读数。 | |
| 不是所记录文件的字节,例如代替工作簿返回的 HTML 页面,大小或 sha256 不同,算作没有取到。 | |
| 一行都没有取到的来源仍留在列表中,旁边写着这个读数;下一次读取它的行时,这个读数随之更新; | |
| 在那之前它被标记为不能直接使用(目录列 `status`,这次读数写在 `status_reasons` 里作为原因),它的卡片和数据页都这样显示。 | |
| 来源的行需要付费或登录的读者(**登录**),而以匿名方式读取的核对一行都读不到时,等级为 `needs auth`,不标记它:这个读数并不说明上游是否提供这些文件。 | |
| - **许可证等级**按许可内容对每个来源的许可证分组: | |
| - `permissive`: 允许使用、训练和再分发,最多要求署名(例如 MIT、Apache-2.0、CC-BY-4.0、CC0-1.0)。 | |
| - `share-alike`: 允许,但副本和派生文件须沿用同一许可证(例如 GPL、CC-BY-SA);原因码为 us-pd 时,是仅在美国属于公有领域,在别处再分发有条件。 | |
| - `nc-research`: 仅限非商业或研究用途。 | |
| - `no-training`: 许可证或条款排除训练用途。 | |
| - `internal-only`: 可以使用,但不能再分发。 | |
| - `mixed`: 该来源的各行属于不同等级;以行的许可证列为准。 | |
| - `unknown`: 来源没有声明许可证,或无法归类;按未获许可对待。 | |
| - **登录**说明下载是否需要账号、表单或申请([access.zh.md](access.zh.md))。 | |
| - **是什么**是来源判读过时从样本文件读出的摘要,否则是来源自己描述的第一句; | |
| 描述由收录写成的材料集,改为给出本次发布的计数,即它的单元数、文件数和发布方数,与数据页和它的卡片的计数相同。 | |