Datasets:
Tasks:
Sentence Similarity
Modalities:
Text
Formats:
parquet
Languages:
English
Size:
10K - 100K
ArXiv:
License:
| license: mit | |
| pretty_name: WhereIsAI/github-issue-similarity (mirror) | |
| source_datasets: | |
| - WhereIsAI/github-issue-similarity | |
| tags: | |
| - laya | |
| - laya-finetune | |
| - mirror | |
| - domain-code | |
| - use-permissive | |
| - genre-other | |
| - label-binary | |
| - annot-unknown | |
| - lang-en | |
| language: | |
| - en | |
| task_categories: | |
| - sentence-similarity | |
| size_categories: | |
| - 10K<n<100K | |
| configs: | |
| - config_name: default | |
| data_files: | |
| - split: train | |
| path: data/train-* | |
| - split: valid | |
| path: data/valid-* | |
| - split: test | |
| path: data/test-* | |
| - config_name: positive | |
| data_files: | |
| - split: train | |
| path: positive/train-* | |
| - split: valid | |
| path: positive/valid-* | |
| - split: test | |
| path: positive/test-* | |
| dataset_info: | |
| - config_name: default | |
| features: | |
| - name: text1 | |
| dtype: string | |
| - name: text2 | |
| dtype: string | |
| - name: label | |
| dtype: int64 | |
| splits: | |
| - name: train | |
| num_bytes: 181474610 | |
| num_examples: 18565 | |
| - name: valid | |
| num_bytes: 14656141 | |
| num_examples: 1547 | |
| - name: test | |
| num_bytes: 13135402 | |
| num_examples: 1548 | |
| download_size: 58129604 | |
| dataset_size: 209266153 | |
| - config_name: positive | |
| features: | |
| - name: anchor | |
| dtype: string | |
| - name: positive | |
| dtype: string | |
| splits: | |
| - name: train | |
| num_bytes: 79405713 | |
| num_examples: 9457 | |
| - name: valid | |
| num_bytes: 6160932 | |
| num_examples: 774 | |
| - name: test | |
| num_bytes: 5782206 | |
| num_examples: 807 | |
| download_size: 25212890 | |
| dataset_size: 91348851 | |
| # WhereIsAI/github-issue-similarity（複製） | |
| ## データの内容 | |
| GitHub の issue どうしの類似性を判定するためのデータ。1 行は 2 つの文章 `text1` と `text2` の組と、その類似性を表す整数の `label` から成る。元のラベルを決まった規則で変換して作られており、出典は論文 arXiv:2309.12871 である。 | |
| ## データの概要 | |
| | 項目 | 値 | | |
| |---|---| | |
| | 行数 | 32,698（2 構成・6 分割の合計） | | |
| | 列数 | 2〜3（構成による） | | |
| | 容量 | 83.35 MB（ファイル 8 本） | | |
| | ファイルの形式 | parquet 6 | | |
| | 言語 | en | | |
| | 公開 | public | | |
| ### 構成と分割 | |
| | 構成（config） | 分割（split）ごとの行数 | 列数 | | |
| |---|---|---:| | |
| | `default` | `train` 18,565、`valid` 1,547、`test` 1,548 | 3 | | |
| | `positive` | `train` 9,457、`valid` 774、`test` 807 | 2 | | |
| ### 列（構成 `default`・分割 `train`。構成ごとに列が違う） | |
| | 列 | 型 | 先頭の行の値 | | |
| |---|---|---| | |
| | `text1` | `string` | `<h3 dir="auto">Feature request</h3> <p dir="auto…` | | |
| | `text2` | `string` | `<p dir="auto">Hello,<br> I tried to import this:…` | | |
| | `label` | `int64` | `0` | | |
| 行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は [HYUKI5/dataset-catalog](https://huggingface.co/datasets/HYUKI5/dataset-catalog) にある。 | |
| ## 複製について | |
| [`WhereIsAI/github-issue-similarity`](https://huggingface.co/datasets/WhereIsAI/github-issue-similarity) をリビジョン `9d058e4cfbc11d782186a1dbb5031a6509b895e1` の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（`convaiinnovations/laya`）の微調整に使う候補として、調査メモ（`Laya 学習用データセット調査`）に載せたデータを集めている。 | |
| ## 出典 | |
| - 元のデータセット: https://huggingface.co/datasets/WhereIsAI/github-issue-similarity | |
| - 複製したリビジョン: `9d058e4cfbc11d782186a1dbb5031a6509b895e1`（2024-05-03 08:32:33+00:00） | |
| - 元のライセンス表記: `mit` | |
| ## 論文 | |
| - https://arxiv.org/abs/2309.12871 | |
| ## アノテーションの方法 | |
| 元のカードにアノテーションの節が無かった。下の「調査メモの記述」と「元のカード」を参照。 | |
| ## 微調整に使うときの注意 | |
| - 調査メモの台帳での区分: A（許諾型のライセンスだけで、疑義の注記が無い）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。 | |
| - Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。 | |
| - 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。 | |
| ## 調査メモの記述 | |
| | メモ | 節 | ライセンス（記載） | 確認 | 注記 | | |
| |---|---|---|---|---| | |
| | `jev_sources_tasksource_bekko.csv` | CSV（tasksource-jev-typed-decisions） | mit / license_use=commercial | 確認済 | license_use=commercial ／ [Jev 元データ source] source_annotation_converted(deterministic recast; no model r | | |
| ## 元のカード（日本語訳） | |
| 以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。 | |
| --- | |
| # GIS: Github Issue Similarity データセット | |
| このデータセットは次の論文で公開された: https://arxiv.org/abs/2309.12871 | |
| # 引用 | |
| 本データセットを研究で使う場合は、次のように引用されたい。 | |
| ```bibtex | |
| @article{li2023angle, | |
| title={AnglE-optimized Text Embeddings}, | |
| author={Li, Xianming and Li, Jing}, | |
| journal={arXiv preprint arXiv:2309.12871}, | |
| year={2023} | |
| } | |
| ``` | |
| <details> | |
| <summary>原文（英語）</summary> | |
| # GIS: Github Issue Similarity Dataset | |
| This dataset was released from the paper: https://arxiv.org/abs/2309.12871 | |
| # Citation | |
| If you use our dataset in your research, welcome to cite us as follows: | |
| ```bibtex | |
| @article{li2023angle, | |
| title={AnglE-optimized Text Embeddings}, | |
| author={Li, Xianming and Li, Jing}, | |
| journal={arXiv preprint arXiv:2309.12871}, | |
| year={2023} | |
| } | |
| ``` | |
| </details> | |