| --- |
| license: odc-by |
| configs: |
| - config_name: default |
| data_files: |
| - split: train |
| path: data/train-* |
| dataset_info: |
| features: |
| - name: text |
| dtype: string |
| - name: timestamp |
| dtype: int64 |
| - name: url |
| dtype: string |
| - name: score |
| dtype: int64 |
| splits: |
| - name: train |
| num_bytes: 5152049 |
| num_examples: 501 |
| download_size: 2669350 |
| dataset_size: 5152049 |
| --- |
| |
|
|
| このデータセットはmC4の日本語データに対し、文の割合に応じて1~5段階で人手で評価したものです。 |
| 文の割合はデータセットの```score```に格納しています。 |
| 1. 文の割合が20%以下 |
| 2. 文の割合が20~40% |
| 3. 文の割合が40~60% |
| 4. 文の割合が60~80% |
| 5. 文の割合が80~100% |
|
|
| データ量は500件と少ないですが、mC4のゴミデータ削除に役立てればと思います。 |
