Datasets:

HYUKI5
/

WhereIsAI__github-issue-similarity

license: mit
pretty_name: WhereIsAI/github-issue-similarity (mirror)
source_datasets:
  - WhereIsAI/github-issue-similarity
tags:
  - laya
  - laya-finetune
  - mirror
  - domain-code
  - use-permissive
  - genre-other
  - label-binary
  - annot-unknown
  - lang-en
language:
  - en
task_categories:
  - sentence-similarity
size_categories:
  - 10K<n<100K
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
      - split: valid
        path: data/valid-*
      - split: test
        path: data/test-*
  - config_name: positive
    data_files:
      - split: train
        path: positive/train-*
      - split: valid
        path: positive/valid-*
      - split: test
        path: positive/test-*
dataset_info:
  - config_name: default
    features:
      - name: text1
        dtype: string
      - name: text2
        dtype: string
      - name: label
        dtype: int64
    splits:
      - name: train
        num_bytes: 181474610
        num_examples: 18565
      - name: valid
        num_bytes: 14656141
        num_examples: 1547
      - name: test
        num_bytes: 13135402
        num_examples: 1548
    download_size: 58129604
    dataset_size: 209266153
  - config_name: positive
    features:
      - name: anchor
        dtype: string
      - name: positive
        dtype: string
    splits:
      - name: train
        num_bytes: 79405713
        num_examples: 9457
      - name: valid
        num_bytes: 6160932
        num_examples: 774
      - name: test
        num_bytes: 5782206
        num_examples: 807
    download_size: 25212890
    dataset_size: 91348851

WhereIsAI/github-issue-similarity（複製）

データの内容

GitHub の issue どうしの類似性を判定するためのデータ。1 行は 2 つの文章 text1 と text2 の組と、その類似性を表す整数の label から成る。元のラベルを決まった規則で変換して作られており、出典は論文 arXiv:2309.12871 である。

データの概要

項目	値
行数	32,698（2 構成・6 分割の合計）
列数	2〜3（構成による）
容量	83.35 MB（ファイル 8 本）
ファイルの形式	parquet 6
言語	en
公開	public

構成と分割

構成（config）	分割（split）ごとの行数	列数
`default`	`train` 18,565、`valid` 1,547、`test` 1,548	3
`positive`	`train` 9,457、`valid` 774、`test` 807	2

列（構成 `default`・分割 `train`。構成ごとに列が違う）

列	型	先頭の行の値
`text1`	`string`	`<h3 dir="auto">Feature request</h3> <p dir="auto…`
`text2`	`string`	`<p dir="auto">Hello,<br> I tried to import this:…`
`label`	`int64`	`0`

行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

WhereIsAI/github-issue-similarity をリビジョン 9d058e4cfbc11d782186a1dbb5031a6509b895e1 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。

出典

元のデータセット: https://huggingface.co/datasets/WhereIsAI/github-issue-similarity
複製したリビジョン: 9d058e4cfbc11d782186a1dbb5031a6509b895e1（2024-05-03 08:32:33+00:00）
元のライセンス表記: mit

論文

https://arxiv.org/abs/2309.12871

アノテーションの方法

元のカードにアノテーションの節が無かった。下の「調査メモの記述」と「元のカード」を参照。

微調整に使うときの注意

調査メモの台帳での区分: A（許諾型のライセンスだけで、疑義の注記が無い）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ	節	ライセンス（記載）	確認	注記
`jev_sources_tasksource_bekko.csv`	CSV（tasksource-jev-typed-decisions）	mit / license_use=commercial	確認済	license_use=commercial ／ [Jev 元データ source] source_annotation_converted(deterministic recast; no model r

元のカード（日本語訳）

以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。

GIS: Github Issue Similarity データセット

このデータセットは次の論文で公開された: https://arxiv.org/abs/2309.12871

引用

本データセットを研究で使う場合は、次のように引用されたい。

@article{li2023angle,
  title={AnglE-optimized Text Embeddings},
  author={Li, Xianming and Li, Jing},
  journal={arXiv preprint arXiv:2309.12871},
  year={2023}
}

原文（英語）

GIS: Github Issue Similarity Dataset

This dataset was released from the paper: https://arxiv.org/abs/2309.12871

Citation

If you use our dataset in your research, welcome to cite us as follows:

@article{li2023angle,
  title={AnglE-optimized Text Embeddings},
  author={Li, Xianming and Li, Jing},
  journal={arXiv preprint arXiv:2309.12871},
  year={2023}
}