README.md

metadata

license: odc-by
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
dataset_info:
  features:
    - name: text
      dtype: string
    - name: timestamp
      dtype: int64
    - name: url
      dtype: string
    - name: score
      dtype: int64
  splits:
    - name: train
      num_bytes: 5152049
      num_examples: 501
  download_size: 2669350
  dataset_size: 5152049

このデータセットはmC4の日本語データに対し、文の割合に応じて1~5段階で人手で評価したものです。
文の割合はデータセットのscoreに格納しています。

1. 文の割合が20%以下
2. 文の割合が20~40%
3. 文の割合が40~60%
4. 文の割合が60~80%
5. 文の割合が80~100%

データ量は500件と少ないですが、mC4のゴミデータ削除に役立てればと思います。