jvonrad's picture
Squash history: packed token shards removed (see README)
73ec035
Raw History Blame Contribute Delete
14.7 kB
{
"lang": "en",
"budget_bytes": 267000000000.0,
"text_bytes": 267711944113,
"docs": 76254079,
"holdout_bytes": 31457629,
"holdout_file": "data/CC-MAIN-2013-20/000_00000.parquet",
"files_consumed": [
"epfml/FineWeb-HQ::data/CC-MAIN-2015-14/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-35/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-22/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-10/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-23/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-42/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-15/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-49/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-32/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-27/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-11/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-18/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-41/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-06/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2013-48/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-52/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-35/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-40/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2016-26/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-48/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2016-07/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2016-36/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2016-18/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2016-30/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2016-22/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2016-40/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2016-44/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-04/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-17/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-09/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2016-50/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-13/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-22/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-30/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-26/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-39/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-34/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-51/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-43/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-05/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-47/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-09/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-13/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-30/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-34/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-26/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-17/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-22/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-39/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-47/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-43/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-51/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-04/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-09/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-13/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-18/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-22/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-39/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-26/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-30/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-35/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-47/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-51/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-43/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2020-05/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2020-10/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2020-16/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2020-29/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2020-24/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2020-34/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2020-40/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2020-45/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2020-50/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2021-04/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2021-10/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2021-17/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2021-21/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2021-39/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2021-31/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2021-25/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2021-43/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2021-49/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2022-05/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2022-21/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2022-27/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2022-33/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2022-40/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2023-14/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2022-49/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2023-06/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2023-23/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2023-40/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2023-50/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2024-10/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2024-18/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2024-22/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2024-26/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2024-30/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2024-33/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2024-38/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2024-42/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2024-46/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2024-51/000_00000.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2013-20/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-10/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2013-48/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-15/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-23/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-35/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-42/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-41/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-49/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-52/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-06/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-11/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-14/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-18/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-22/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-27/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-32/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2016-26/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-35/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-40/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-48/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2016-07/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2016-18/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2016-22/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2016-30/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2016-36/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2016-40/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2016-44/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2016-50/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-09/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-13/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-04/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-17/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-22/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-30/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-26/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-39/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-34/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-47/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-43/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-05/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2017-51/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-09/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-13/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-17/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-22/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-26/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-30/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-34/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-39/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-43/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-47/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-13/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-04/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2018-51/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-09/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-22/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-18/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-26/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-30/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-35/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-39/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-43/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2020-05/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-47/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2019-51/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2020-10/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2020-16/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2020-29/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2020-24/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2020-45/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2020-40/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2020-34/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2020-50/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2021-04/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2021-10/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2021-17/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2021-21/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2021-49/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2021-43/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2021-39/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2021-31/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2021-25/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2022-05/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2022-21/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2022-27/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2022-49/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2022-40/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2023-06/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2022-33/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2023-14/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2023-23/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2023-40/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2023-50/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2024-10/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2024-22/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2024-26/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2024-30/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2024-18/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2024-33/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2024-38/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2024-42/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2024-46/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2024-51/000_00001.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2013-20/000_00002.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2013-48/000_00002.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-10/000_00002.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-15/000_00002.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-23/000_00002.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-35/000_00002.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-41/000_00002.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-42/000_00002.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-49/000_00002.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-06/000_00002.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2014-52/000_00002.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-11/000_00002.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-18/000_00002.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-14/000_00002.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-22/000_00002.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-27/000_00002.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-32/000_00002.parquet",
"epfml/FineWeb-HQ::data/CC-MAIN-2015-35/000_00002.parquet"
],
"shard_idx": 265,
"exhausted": false
}