Seq2SQL: Generating Structured Queries from Natural Language using Reinforcement Learning
Paper • 1709.00103 • Published • 1
Datasets:
Dataset Viewer
The dataset viewer is not available because its heuristics could not detect any supported data files. You can try uploading some data files, or configuring the data files location manually.
YAML Metadata Warning:The task_categories "text2text-generation" is not in the official list: text-classification, token-classification, table-question-answering, question-answering, zero-shot-classification, translation, summarization, feature-extraction, text-generation, fill-mask, sentence-similarity, text-to-speech, text-to-audio, automatic-speech-recognition, audio-to-audio, audio-classification, audio-text-to-text, voice-activity-detection, depth-estimation, image-classification, object-detection, image-segmentation, text-to-image, image-to-text, image-to-image, image-to-video, unconditional-image-generation, video-classification, reinforcement-learning, robotics, tabular-classification, tabular-regression, tabular-to-text, table-to-text, multiple-choice, text-ranking, text-retrieval, time-series-forecasting, text-to-video, image-text-to-text, image-text-to-image, image-text-to-video, visual-question-answering, document-question-answering, zero-shot-image-classification, graph-ml, mask-generation, zero-shot-object-detection, text-to-3d, image-to-3d, image-feature-extraction, video-text-to-text, keypoint-detection, visual-document-retrieval, any-to-any, video-to-video, other
Salesforce/wikisql（複製）
データの内容
Wikipedia 由来の多数の表に対して、自然言語の質問を SQL に変換するためのデータ。1 行が 1 つの質問で、question に質問文、table に表の見出しと内容、sql に SQL を表す構造（human_readable に読みやすい形）が入っている。質問と SQL の組は、クラウドソーシングで人手によりアノテーションされたもの。Seq2SQL の論文（arXiv:1709.00103）で導入された。
データの概要
| 項目 | 値 |
|---|---|
| 行数 | 80,654（1 構成・3 分割の合計） |
| 列数 | 4 |
| 容量 | 15.54 KB（ファイル 3 本） |
| ファイルの形式 | py 1 |
| 言語 | en |
| 公開 | public |
構成と分割
| 構成（config） | 分割（split）ごとの行数 | 列数 |
|---|---|---|
default |
test 15,878、validation 8,421、train 56,355 |
4 |
列（構成 default）
| 列 | 型 |
|---|---|
phase |
int32 |
question |
string |
table |
struct{header, page_title, page_id, types, id} |
sql |
struct{human_readable, sel, agg, conds} |
行数と列は元のカードの YAML（dataset_info）の記載。データセットビューアでは読めなかった。全データセットの一覧は HYUKI5/dataset-catalog にある。
複製について
Salesforce/wikisql をリビジョン 5de818eb69c5385e763201d9b9abc36df69a81dc の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。
出典
- 元のデータセット: https://huggingface.co/datasets/Salesforce/wikisql
- 複製したリビジョン:
5de818eb69c5385e763201d9b9abc36df69a81dc（2024-01-18 11:18:17+00:00） - 元のライセンス表記:
['unknown']
論文
アノテーションの方法
キュレーションの根拠
初期のデータ収集と正規化
元の言語の作成者は誰か？
アノテーションの過程
微調整に使うときの注意
- 調査メモの台帳での区分: D（記載なし・other・unknown・資料間の食い違い）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
- Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
- 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。
調査メモの記述
| メモ | 節 | ライセンス（記載） | 確認 | 注記 |
|---|---|---|---|---|
jev_sources_tasksource_bekko.csv |
CSV（tasksource-jev-typed-decisions） | unspecified / license_use=unspecified | 確認済 | license_use=unspecified ／ [Jev 元データ source] source_annotation_converted(deterministic recast; no model r |
jev_sources_tasksource_bekko.csv |
CSV（tasksource-jev-typed-decisions） | unspecified / license_use=unspecified | 確認済 | license_use=unspecified ／ [Jev 元データ source] source_annotation_converted(deterministic recast; no model r |
jev_sources_tasksource_bekko.csv |
CSV（tasksource-jev-typed-decisions） | unspecified / license_use=unspecified | 確認済 | license_use=unspecified ／ [Jev 元データ source] source_annotation_converted(deterministic recast; no model r |
元のカード（日本語訳）
以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。
"wikisql" のデータセットカード
目次
- データセットの説明
- データセットの概要
- 対応するタスクとリーダーボード
- 言語
- データセットの構造
- データの実例
- データのフィールド
- データの分割
- データセットの作成
- キュレーションの根拠
- 元データ
- アノテーション
- 個人情報と機微情報
- データ利用上の留意点
- データセットの社会的影響
- バイアスの検討
- その他の既知の制約
- 追加情報
- データセットのキュレーター
- ライセンス情報
- 引用情報
- 貢献者
データセットの説明
- リポジトリ: https://github.com/salesforce/WikiSQL
- 論文: Seq2SQL: Generating Structured Queries from Natural Language using Reinforcement Learning
- 連絡先: More Information Needed
- ダウンロードしたデータセットファイルのサイズ: 26.16 MB
- 生成されたデータセットのサイズ: 154.74 MB
- 使用するディスク容量の合計: 180.90 MB
データセットの概要
リレーショナルデータベース向けの自然言語インターフェースを開発するための、大規模なクラウドソーシングのデータセットである。
WikiSQL は、手作業でアノテーションされた 80654 件の質問と SQL クエリの例からなるデータセットであり、 Wikipedia 由来の 24241 個の表にまたがる。
対応するタスクとリーダーボード
言語
データセットの構造
データの実例
default
- ダウンロードしたデータセットファイルのサイズ: 26.16 MB
- 生成されたデータセットのサイズ: 154.74 MB
- 使用するディスク容量の合計: 180.90 MB
'validation' の例は次のとおりである。
This example was too long and was cropped:
{
"phase": 1,
"question": "How would you answer a second test question?",
"sql": {
"agg": 0,
"conds": {
"column_index": [2],
"condition": ["Some Entity"],
"operator_index": [0]
},
"human_readable": "SELECT Header1 FROM table WHERE Another Header = Some Entity",
"sel": 0
},
"table": "{\"caption\": \"L\", \"header\": [\"Header1\", \"Header 2\", \"Another Header\"], \"id\": \"1-10015132-9\", \"name\": \"table_10015132_11\", \"page_i..."
}
データのフィールド
データのフィールドは、すべての分割で共通である。
default
phase:int32型の特徴量。question:string型の特徴量。header:string型の特徴量のリスト。page_title:string型の特徴量。page_id:string型の特徴量。types:string型の特徴量のリスト。id:string型の特徴量。section_title:string型の特徴量。caption:string型の特徴量。rows: 次を含む辞書型の特徴量:feature:string型の特徴量。
name:string型の特徴量。human_readable:string型の特徴量。sel:int32型の特徴量。agg:int32型の特徴量。conds: 次を含む辞書型の特徴量:column_index:int32型の特徴量。operator_index:int32型の特徴量。condition:string型の特徴量。
データの分割
| name | train | validation | test |
|---|---|---|---|
| default | 56355 | 8421 | 15878 |
データセットの作成
キュレーションの根拠
元データ
初期のデータ収集と正規化
元の言語の作成者は誰か？
アノテーション
アノテーションの過程
アノテーターは誰か？
個人情報と機微情報
データ利用上の留意点
データセットの社会的影響
バイアスの検討
その他の既知の制約
追加情報
データセットのキュレーター
ライセンス情報
引用情報
@article{zhongSeq2SQL2017,
author = {Victor Zhong and
Caiming Xiong and
Richard Socher},
title = {Seq2SQL: Generating Structured Queries from Natural Language using
Reinforcement Learning},
journal = {CoRR},
volume = {abs/1709.00103},
year = {2017}
}
貢献者
このデータセットを追加してくれた @lewtun、@ghomasHudson、@thomwolf に感謝する。
原文（英語）
Dataset Card for "wikisql"
Dataset Summary
A large crowd-sourced dataset for developing natural language interfaces for relational databases.
WikiSQL is a dataset of 80654 hand-annotated examples of questions and SQL queries distributed across 24241 tables from Wikipedia.
Supported Tasks and Leaderboards
Languages
Dataset Structure
Data Instances
default
- Size of downloaded dataset files: 26.16 MB
- Size of the generated dataset: 154.74 MB
- Total amount of disk used: 180.90 MB
An example of 'validation' looks as follows.
This example was too long and was cropped:
{
"phase": 1,
"question": "How would you answer a second test question?",
"sql": {
"agg": 0,
"conds": {
"column_index": [2],
"condition": ["Some Entity"],
"operator_index": [0]
},
"human_readable": "SELECT Header1 FROM table WHERE Another Header = Some Entity",
"sel": 0
},
"table": "{\"caption\": \"L\", \"header\": [\"Header1\", \"Header 2\", \"Another Header\"], \"id\": \"1-10015132-9\", \"name\": \"table_10015132_11\", \"page_i..."
}
Data Fields
The data fields are the same among all splits.
default
phase: aint32feature.question: astringfeature.header: alistofstringfeatures.page_title: astringfeature.page_id: astringfeature.types: alistofstringfeatures.id: astringfeature.section_title: astringfeature.caption: astringfeature.rows: a dictionary feature containing:feature: astringfeature.
name: astringfeature.human_readable: astringfeature.sel: aint32feature.agg: aint32feature.conds: a dictionary feature containing:column_index: aint32feature.operator_index: aint32feature.condition: astringfeature.
Data Splits
| name | train | validation | test |
|---|---|---|---|
| default | 56355 | 8421 | 15878 |
Dataset Creation
Curation Rationale
Source Data
Initial Data Collection and Normalization
Who are the source language producers?
Annotations
Annotation process
Who are the annotators?
Personal and Sensitive Information
Considerations for Using the Data
Social Impact of Dataset
Discussion of Biases
Other Known Limitations
Additional Information
Dataset Curators
Licensing Information
Citation Information
@article{zhongSeq2SQL2017,
author = {Victor Zhong and
Caiming Xiong and
Richard Socher},
title = {Seq2SQL: Generating Structured Queries from Natural Language using
Reinforcement Learning},
journal = {CoRR},
volume = {abs/1709.00103},
year = {2017}
}
Contributions
Thanks to @lewtun, @ghomasHudson, @thomwolf for adding this dataset.
- Downloads last month
- 80
Repository:
github.com
Paper:
Seq2SQL: Generating Structured Queries from Natural Language using Reinforcement Learning
Size of downloaded dataset files:
26.16 MB
Total file size:
26.8 kB