{ "lang": "en", "budget_bytes": 267000000000.0, "text_bytes": 267711944113, "docs": 76254079, "holdout_bytes": 31457629, "holdout_file": "data/CC-MAIN-2013-20/000_00000.parquet", "files_consumed": [ "epfml/FineWeb-HQ::data/CC-MAIN-2015-14/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-35/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-22/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-10/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-23/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-42/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-15/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-49/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-32/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-27/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-11/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-18/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-41/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-06/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2013-48/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-52/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-35/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-40/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2016-26/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-48/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2016-07/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2016-36/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2016-18/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2016-30/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2016-22/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2016-40/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2016-44/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-04/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-17/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-09/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2016-50/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-13/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-22/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-30/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-26/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-39/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-34/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-51/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-43/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-05/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-47/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-09/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-13/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-30/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-34/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-26/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-17/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-22/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-39/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-47/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-43/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-51/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-04/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-09/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-13/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-18/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-22/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-39/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-26/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-30/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-35/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-47/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-51/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-43/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2020-05/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2020-10/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2020-16/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2020-29/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2020-24/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2020-34/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2020-40/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2020-45/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2020-50/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2021-04/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2021-10/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2021-17/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2021-21/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2021-39/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2021-31/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2021-25/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2021-43/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2021-49/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2022-05/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2022-21/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2022-27/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2022-33/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2022-40/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2023-14/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2022-49/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2023-06/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2023-23/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2023-40/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2023-50/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2024-10/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2024-18/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2024-22/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2024-26/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2024-30/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2024-33/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2024-38/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2024-42/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2024-46/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2024-51/000_00000.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2013-20/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-10/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2013-48/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-15/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-23/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-35/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-42/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-41/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-49/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-52/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-06/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-11/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-14/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-18/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-22/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-27/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-32/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2016-26/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-35/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-40/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-48/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2016-07/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2016-18/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2016-22/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2016-30/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2016-36/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2016-40/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2016-44/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2016-50/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-09/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-13/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-04/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-17/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-22/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-30/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-26/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-39/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-34/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-47/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-43/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-05/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2017-51/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-09/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-13/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-17/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-22/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-26/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-30/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-34/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-39/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-43/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-47/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-13/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-04/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2018-51/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-09/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-22/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-18/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-26/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-30/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-35/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-39/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-43/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2020-05/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-47/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2019-51/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2020-10/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2020-16/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2020-29/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2020-24/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2020-45/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2020-40/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2020-34/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2020-50/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2021-04/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2021-10/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2021-17/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2021-21/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2021-49/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2021-43/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2021-39/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2021-31/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2021-25/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2022-05/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2022-21/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2022-27/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2022-49/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2022-40/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2023-06/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2022-33/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2023-14/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2023-23/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2023-40/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2023-50/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2024-10/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2024-22/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2024-26/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2024-30/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2024-18/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2024-33/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2024-38/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2024-42/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2024-46/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2024-51/000_00001.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2013-20/000_00002.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2013-48/000_00002.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-10/000_00002.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-15/000_00002.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-23/000_00002.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-35/000_00002.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-41/000_00002.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-42/000_00002.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-49/000_00002.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-06/000_00002.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2014-52/000_00002.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-11/000_00002.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-18/000_00002.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-14/000_00002.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-22/000_00002.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-27/000_00002.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-32/000_00002.parquet", "epfml/FineWeb-HQ::data/CC-MAIN-2015-35/000_00002.parquet" ], "shard_idx": 265, "exhausted": false }