README.md

---
pretty_name: test strict shuffled
task_categories:
- text-generation
tags:
- parquet
license: odc-by
language:
- ja
---
[Japanese / 日本語版](#japanese)
# ClimbLab-Ja

ClimbLab-Ja is a high-quality 300-billion-token Japanese corpus with 20 clusters. It is a Japanese adaptation of the [nvidia/Nemotron-ClimbLab](https://huggingface.co/datasets/nvidia/Nemotron-ClimbLab) approach. Based on [LLM-jp Corpus v4](https://gitlab.llm-jp.nii.ac.jp/datasets/llm-jp-corpus-v4), we semantically reorganized and filtered the dataset into 20 distinct clusters, resulting in a high-quality 300-billion-token corpus. Specifically, we first grouped the data into 1,000 groups based on topic information. Then we assigned six scores from 0 to 5 to each group and document: quality, advertisement, informational value, educational value, cultural value, and creative value. Low-quality clusters and documents were removed based on these scores.

This dataset is for research and development only.

## Dataset Details

- Intended Usage: Pre-training language models.
- Format: Text in parquet format.
- Size: 300B tokens.

## Filtering

Rather than applying aggressive filtering, we focused on removing clearly low-quality data while retaining a diverse corpus with broad coverage.

We removed clusters that did not satisfy the following condition:

`quality_mean >= 2 && advertisement_mean >= 2 && any(value_mean >= 3)`

where `value_mean` refers to informational value, educational value, cultural value, or creative value.

We also removed documents that did not satisfy the following condition:

`quality >= 2 && advertisement >= 2 && any(value >= 3)`

where `value` refers to informational value, educational value, cultural value, or creative value.

## License

The dataset structure, record IDs, filtering scores, mixture weights, and other metadata newly added in this release are licensed under [ODC-BY](https://opendatacommons.org/licenses/by/1-0/).
By using this dataset, you are also bound by any license agreements and terms of use of the original data sources listed in the [LICENSES.md](LICENSES.md).

This dataset was created using the Supermicro ARS-111GL-DNHR-LCC and FUJITSU Server PRIMERGY CX2550 M7 (Miyabi) at the Joint Center for Advanced High Performance Computing (JCAHPC).

---

<a id="japanese"></a>
# ClimbLab-Ja

ClimbLab-Jaは、20クラスタからなる高品質な3,000億トークンの日本語コーパスです。[nvidia/Nemotron-ClimbLab](https://huggingface.co/datasets/nvidia/Nemotron-ClimbLab)のアプローチを日本語に適用しています。[LLM-jp Corpus v4](https://gitlab.llm-jp.nii.ac.jp/datasets/llm-jp-corpus-v4)をベースに、データセットを意味的に再編成・フィルタリングし、20の異なるクラスタに分類することで、高品質な3,000億トークンのコーパスを構築しました。具体的には、まずトピック情報に基づきデータを1,000グループに分類しました。次に、各グループおよび各文書に対して、品質・広告性・情報的価値・教育的価値・文化的価値・創造的価値の6つのスコアを0〜5の範囲で付与しました。これらのスコアに基づき、低品質なクラスタおよび文書を除去しました。

本データセットは研究開発目的のみに使用できます。

## データセットの詳細

- 想定用途：言語モデルの事前学習
- フォーマット：Parquet形式のテキスト
- 規模：3,000億トークン

## フィルタリング

厳密なフィルタリングを行うのではなく、明らかに低品質なデータを除去しつつ、カバレッジの広い多様なコーパスを残すことを重視しています。

以下の条件を満たさないクラスタを除去しました：

`quality_mean >= 2 && advertisement_mean >= 2 && any(value_mean >= 3)`

ここで `value_mean` は、情報的価値・教育的価値・文化的価値・創造的価値のいずれかを指します。

また、以下の条件を満たさない文書を除去しました：

`quality >= 2 && advertisement >= 2 && any(value >= 3)`

ここで `value` は、情報的価値・教育的価値・文化的価値・創造的価値のいずれかを指します。

## ライセンス

本リリースで新たに追加されたデータセット構造、レコードID、フィルタリングスコア、混合重み、およびその他のメタデータは、[ODC-BY](https://opendatacommons.org/licenses/by/1-0/)の下でライセンスされています。本データセットを使用することにより、[LICENSES.md](LICENSES.md)に記載された元データソースのライセンス契約および利用規約にも拘束されます。

本データセットは、学際大規模情報基盤共同利用・共同研究拠点（JCAHPC）のSupermicro ARS-111GL-DNHR-LCCおよびFUJITSU Server PRIMERGY CX2550 M7（Miyabi）を用いて作成されました。