HYUKI5/facebook__belebele

facebook/belebele（複製）

データの内容

122 の言語変種にそろえた、多肢選択式の機械読解のデータ。1 行が 1 問で、flores_passage に FLORES-200 の文章、question に問い、mc_answer1 から mc_answer4 に選択肢、correct_answer_num に正解の番号が入る。問題は人手で注釈され、全言語で同じ問題が並ぶ並列データのため、言語どうしの比較に向く。1 言語 900 問で学習用には少なく、評価向けの規模である。

データの概要

項目	値
行数	109,800（122 構成・122 分割の合計）
列数	11
容量	251.68 MB（ファイル 127 本）
ファイルの形式	jsonl 122、zip 1、（拡張子なし） 1、py 1
言語	af, am, ar, az, as, bm, bn, bo, bg, ca, cs, ku, da, de, el, en, es, et, eu, fi, fr, ff, om, gu, gn, ht, ha, he, hi, hr,
公開	public

構成と分割

構成（config）	分割（split）ごとの行数	列数
acm_Arab	test 900	11
afr_Latn	test 900	11
als_Latn	test 900	11
amh_Ethi	test 900	11
apc_Arab	test 900	11
arb_Arab	test 900	11
arb_Latn	test 900	11
ars_Arab	test 900	11
ary_Arab	test 900	11
arz_Arab	test 900	11
asm_Beng	test 900	11
azj_Latn	test 900	11
bam_Latn	test 900	11
ben_Beng	test 900	11
ben_Latn	test 900	11
bod_Tibt	test 900	11
bul_Cyrl	test 900	11
cat_Latn	test 900	11
ceb_Latn	test 900	11
ces_Latn	test 900	11

（ほか 102 構成。全体は HF のデータセットビューアで見られる）

列（構成 acm_Arab・分割 test。どの構成も同じ列）

列	型	先頭の行の値
link	string	https://en.wikinews.org/wiki/La_La_Land_receives…
question_number	int64	1
flores_passage	string	وحصل الفلم اللي شاركو بي رايان غوسلينغ وإيما ستو…
question	string	أي جائزة ترشحت إلها أيما ستون؟
mc_answer1	string	افضل ممثلة مساعدة
mc_answer2	string	افضل مخرج
mc_answer3	string	افضل ممثلة
mc_answer4	string	افضل مونتاج
correct_answer_num	string	3
dialect	string	acm_Arab
ds	timestamp[s]	2023-07-21T00:00:00

行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

facebook/belebele をリビジョン 7899cdfa4e1e0d733fd77c848e2c273cb1d32be2 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。

出典

• 元のデータセット: https://huggingface.co/datasets/facebook/belebele
• 複製したリビジョン: 7899cdfa4e1e0d733fd77c848e2c273cb1d32be2（2024-08-12 22:18:08+00:00）
• 元のライセンス表記: cc-by-sa-4.0

論文

• https://aclanthology.org/2024.acl-long.44
• https://aclanthology.org/S19-1012/

アノテーションの方法

（元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した）

Belebele は、122 の言語変種にまたがる多肢選択式の機械読解（MRC）データセットである。このデータセットにより、高資源・中資源・低資源の言語を対象に、単一言語モデルと多言語モデルの評価ができる。各問題には 4 つの選択肢があり、1 つだけが正解である。各問題は FLORES-200 データセットの短い文章に紐づいている。人手による注釈の手順は、汎化可能な言語理解の水準を区別できる問題を作るよう慎重に設計され、広範な品質検査で補強されている。すべての問題は文章に直接関係するものの、英語版だけでも最先端の言語モデルを苦しめるほど難しい。データセットは完全に並列なので、全言語にわたるモデル性能を直接比較できる。Belebele は、言語モデルと NLP システムの多言語能力を評価・分析する新たな道を開く。

微調整なし

• 英語の指示によるゼロショット（English instructions）
  • チャット用に微調整されたモデルには、タスクの英語の指示と、対象言語のサンプルを同じ入力に与える。
  • 本実験では、モデルに A、B、C、D のいずれかの文字を返すよう指示した。(A) のような予測も A と同じとみなすよう後処理を行った。答えが 4 つの許容される選択肢のいずれかで始まらない予測については、接頭辞 The correct answer is を取り除くこともあった。
  • 指示の例は データセットの GitHub リポジトリ にある。
• 翻訳した指示によるゼロショット（translated instructions） ^
  • 上と同じだが、指示を対象言語に翻訳し、指示とサンプルが同じ言語になるようにする。指示は人手による翻訳でも機械翻訳でもよい。
• 英語の例による少数ショットの文脈内学習（English examples）
  • 英語の訓練セット（後述）から数個（例: 5 個）のサンプルを取り、モデルに与える。その後、同じテンプレートで、文章・問い・選択肢を対象言語にして評価する。
  • 本実験では次のテンプレートを用いた: P: <passage> \n Q: <question> \n A: <mc answer 1> \n B: <mc answer 2> \n C: <mc answer 3> \n D: <mc answer 4> \n Answer: <Correct answer letter>。予測は、[A, B, C, D] の中から、他と比べて相対的に確率が最も高い答えを選ぶことで行う。
• 翻訳した例による少数ショットの文脈内学習（translated examples） ^
  • 上と同じだが、訓練セットのサンプルも対象言語に翻訳し、例と評価データが同じ言語になるようにする。訓練サンプルは人手による翻訳でも機械翻訳でもよい。

微調整に使うときの注意

• 調査メモの台帳での区分: C（NC・ND・研究専用・評価専用など、商用の利用を妨げうる記載がある）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
• Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
• 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ	節	ライセンス（記載）	確認	注記
multilingual_cjk.md	1. 大規模多言語データセット(XNLI, PAWS-X, MASSIVE, SIB-200, Belebele ほか) (L38)	cc-by-sa-4.0(GitHub は「学習セットは別ライセンスで多くが CC-BY-NC」と記載)	確認済	複数/混在 ／ 確認印なし(各ファイルの凡例により確認済扱い) ／ 原文注記: 評価向け規模。1言語 900 問のため学習用には少ない。mteb/belebele もあり(dl=3,141)

元のカード（日本語訳）

以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。

---

大規模多言語 NLU 評価のための Belebele ベンチマーク

Belebele は、122 の言語変種にまたがる多肢選択式の機械読解（MRC）データセットである。このデータセットにより、高資源・中資源・低資源の言語を対象に、単一言語モデルと多言語モデルの評価ができる。各問題には 4 つの選択肢があり、1 つだけが正解である。各問題は FLORES-200 データセットの短い文章に紐づいている。人手による注釈の手順は、汎化可能な言語理解の水準を区別できる問題を作るよう慎重に設計され、広範な品質検査で補強されている。すべての問題は文章に直接関係するものの、英語版だけでも最先端の言語モデルを苦しめるほど難しい。データセットは完全に並列なので、全言語にわたるモデル性能を直接比較できる。Belebele は、言語モデルと NLP システムの多言語能力を評価・分析する新たな道を開く。

詳しくは、ACL 2024 で発表された論文 The Belebele Benchmark: a Parallel Reading Comprehension Dataset in 122 Language Variants を参照のこと。 詳細は https://github.com/facebookresearch/belebele でも確認できる。

引用

本データを研究で用いる場合は、次を引用すること:

@inproceedings{bandarkar-etal-2024-belebele,
    title = "The Belebele Benchmark: a Parallel Reading Comprehension Dataset in 122 Language Variants",
    author = "Bandarkar, Lucas  and
      Liang, Davis  and
      Muller, Benjamin  and
      Artetxe, Mikel  and
      Shukla, Satya Narayan  and
      Husa, Donald  and
      Goyal, Naman  and
      Krishnan, Abhinandan  and
      Zettlemoyer, Luke  and
      Khabsa, Madian",
    booktitle = "Proceedings of the 62nd Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)",
    month = aug,
    year = "2024",
    address = "Bangkok, Thailand and virtual meeting",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2024.acl-long.44",
    pages = "749--775",
}

構成

• 言語変種ごとに 900 問
• 異なる文章は 488 あり、それぞれに 1〜2 問が紐づいている。
• 各問題には 4 つの選択肢があり、正解は必ず 1 つである。
• 122 の言語・言語変種（英語を含む）。
• 900 x 122 = 109,800 問。

追加の統計

• 122 の言語変種があるが、文字体系を無視すると 115 の異なる言語になる。
• 27 の語族
• 29 の文字体系
• 文章の平均単語数 = 79.1（標準偏差 = 26.2）
• 文章の平均文数 = 4.1（標準偏差 = 1.4）
• 問題の平均単語数 = 12.9（標準偏差 = 4.0）
• 選択肢の平均単語数 = 4.2（標準偏差 = 2.9）

想定される評価設定

本データセットは並列であり、課題が単純なので、言語モデルを評価できる設定は多数ある。すべての評価設定で、着目する指標は単純な正解率（正解数 / 総数）である。

英語での評価は、微調整、少数ショット、ゼロショットのいずれでも行える。他の対象言語については、網羅的ではない以下の評価設定を提案する。^ の付いた設定は、英語以外のモデル（単一言語・言語横断）の評価にも対応する。

微調整なし

• 英語の指示によるゼロショット（English instructions）
  • チャット用に微調整されたモデルには、タスクの英語の指示と、対象言語のサンプルを同じ入力に与える。
  • 本実験では、モデルに A、B、C、D のいずれかの文字を返すよう指示した。(A) のような予測も A と同じとみなすよう後処理を行った。答えが 4 つの許容される選択肢のいずれかで始まらない予測については、接頭辞 The correct answer is を取り除くこともあった。
  • 指示の例は データセットの GitHub リポジトリ にある。
• 翻訳した指示によるゼロショット（translated instructions） ^
  • 上と同じだが、指示を対象言語に翻訳し、指示とサンプルが同じ言語になるようにする。指示は人手による翻訳でも機械翻訳でもよい。
• 英語の例による少数ショットの文脈内学習（English examples）
  • 英語の訓練セット（後述）から数個（例: 5 個）のサンプルを取り、モデルに与える。その後、同じテンプレートで、文章・問い・選択肢を対象言語にして評価する。
  • 本実験では次のテンプレートを用いた: P: <passage> \n Q: <question> \n A: <mc answer 1> \n B: <mc answer 2> \n C: <mc answer 3> \n D: <mc answer 4> \n Answer: <Correct answer letter>。予測は、[A, B, C, D] の中から、他と比べて相対的に確率が最も高い答えを選ぶことで行う。
• 翻訳した例による少数ショットの文脈内学習（translated examples） ^
  • 上と同じだが、訓練セットのサンプルも対象言語に翻訳し、例と評価データが同じ言語になるようにする。訓練サンプルは人手による翻訳でも機械翻訳でもよい。

微調整あり

• 英語で微調整し、多言語で評価（English finetune & multilingual evaluation）
  • モデルを英語の訓練セットで課題に合わせて微調整する。系列分類のヘッドを付けることもある。その後、対象言語のそれぞれでモデルを個別に評価する。論文の結果は HuggingFace ライブラリ を用いて得た。
• 英語で微調整し、言語横断で評価（English finetune & cross-lingual evaluation）
  • 上と同じだが、言語横断の設定で評価する。各問題について、文章と選択肢は異なる言語で与えてもよい。たとえば、文章を言語 x、問いを言語 y、選択肢を言語 z で与えてもよい。
• 翻訳して訓練（Translate-train） ^
  • 対象言語ごとに、英語から対象言語へ機械翻訳した訓練サンプルでモデルを個別に微調整する。その後、それぞれの対象言語でモデルを評価する。
• 全言語の翻訳を使った訓練（Translate-train-all）
  • 上と似ているが、ここではすべての対象言語の翻訳サンプルを一度にまとめてモデルを訓練する。単一の微調整済みモデルを全対象言語で評価する。
• 全言語の翻訳を使った訓練と、言語横断評価（Translate-train-all & cross-lingual evaluation）
  • 上と同じだが、単一の微調整済みモデルを言語横断の設定で評価する。各問題について、文章と選択肢は異なる言語で与えてもよい。
• テスト時翻訳（Translate-test）
  • 英語の訓練データでモデルを微調整したのち、評価データを英語に機械翻訳して英語で評価する。
  • この設定は主に機械翻訳システムの品質を反映するものだが、多言語モデルとの比較に有用である。

さらに、FLORES-200 には、Belebele では問題が翻訳されていない追加の言語が 83 ある。文章はそれらの言語にも存在するので、問いと選択肢を機械翻訳すれば、それらの言語での機械読解をまずまず評価できる可能性がある。

訓練セット

論文で述べたとおり、GitHub リポジトリ にあるサンプルから組み立てた訓練セットも提供している。

Belebele は テストセットとしてのみ使うことを想定しており、訓練や検証には使わない。そのため、課題ごとの追加の訓練を必要とするモデルには、既存の英語の多肢選択式 QA データセットのサンプルから組み立てた訓練セットを代わりに使うことを提案する。多様なデータセットを検討し、最も適合すると判断したものとして RACE、SciQ、MultiRC、MCTest、MCScript2.0、ReClor を選んだ。

6 つの各データセットについて、それぞれの形式から文章と問いを展開し、再構成する。その後、適さないサンプル（たとえば正解が複数ある問い）を除外する。最終的に、データセットは 67.5k の訓練サンプルと 3.7k の開発サンプルからなり、その半分以上は RACE に由来する。誰でも課題の微調整を行えるよう、このデータセットを再構成するためのスクリプト（assemble_training_set.py）を提供している。

訓練セットは他のデータセットを組み合わせたものなので、別のライセンスの下にある。われわれは、その作業やデータセットのいずれも自らのものとは主張しない。ライセンスについては https://github.com/facebookresearch/belebele の README の「Licenses」の節を参照のこと。

Belebele の言語

FLORES-200 Code	English Name	Script	Family
acm_Arab	メソポタミア・アラビア語	Arab	アフロ・アジア語族
afr_Latn	アフリカーンス語	Latn	ゲルマン語派
als_Latn	トスク・アルバニア語	Latn	古バルカン語族
amh_Ethi	アムハラ語	Ethi	アフロ・アジア語族
apc_Arab	北レバント・アラビア語	Arab	アフロ・アジア語族
arb_Arab	現代標準アラビア語	Arab	アフロ・アジア語族
arb_Latn	現代標準アラビア語（ローマ字表記）	Latn	アフロ・アジア語族
ars_Arab	ナジュド・アラビア語	Arab	アフロ・アジア語族
ary_arab	モロッコ・アラビア語	Arab	アフロ・アジア語族
arz_Arab	エジプト・アラビア語	Arab	アフロ・アジア語族
asm_Beng	アッサム語	Beng	インド・アーリア語派
azj_Latn	北アゼルバイジャン語	Latn	テュルク語族
bam_Latn	バンバラ語	Latn	マンデ語族
ben_Beng	ベンガル語	Beng	インド・アーリア語派
ben_Latn	ベンガル語（ローマ字表記）	Latn	インド・アーリア語派
bod_Tibt	標準チベット語	Tibt	シナ・チベット語族
bul_Cyrl	ブルガリア語	Cyrl	バルト・スラヴ語派
cat_Latn	カタルーニャ語	Latn	ロマンス語族
ceb_Latn	セブアノ語	Latn	オーストロネシア語族
ces_Latn	チェコ語	Latn	バルト・スラヴ語派
ckb_Arab	中央クルド語	Arab	イラン語派
dan_Latn	デンマーク語	Latn	ゲルマン語派
deu_Latn	ドイツ語	Latn	ゲルマン語派
ell_Grek	ギリシャ語	Grek	ギリシャ語族
eng_Latn	英語	Latn	ゲルマン語派
est_Latn	エストニア語	Latn	ウラル語族
eus_Latn	バスク語	Latn	バスク語族
fin_Latn	フィンランド語	Latn	ウラル語族
fra_Latn	フランス語	Latn	ロマンス語族
fuv_Latn	ナイジェリア・フルフルデ語	Latn	ニジェール・コンゴ語族
gaz_Latn	西中央オロモ語	Latn	アフロ・アジア語族
grn_Latn	グアラニー語	Latn	トゥピ語族
guj_Gujr	グジャラート語	Gujr	インド・アーリア語派
hat_Latn	ハイチ・クレオール語	Latn	ニジェール・コンゴ語族
hau_Latn	ハウサ語	Latn	アフロ・アジア語族
heb_Hebr	ヘブライ語	Hebr	アフロ・アジア語族
hin_Deva	ヒンディー語	Deva	インド・アーリア語派
hin_Latn	ヒンディー語（ローマ字表記）	Latn	インド・アーリア語派
hrv_Latn	クロアチア語	Latn	バルト・スラヴ語派
hun_Latn	ハンガリー語	Latn	ウラル語族
hye_Armn	アルメニア語	Armn	アルメニア語族
ibo_Latn	イボ語	Latn	ニジェール・コンゴ語族
ilo_Latn	イロカノ語	Latn	オーストロネシア語族
ind_Latn	インドネシア語	Latn	オーストロネシア語族
isl_Latn	アイスランド語	Latn	ゲルマン語派
ita_Latn	イタリア語	Latn	ロマンス語族
jav_Latn	ジャワ語	Latn	オーストロネシア語族
jpn_Jpan	日本語	Jpan	日本語族
kac_Latn	ジンポー語	Latn	シナ・チベット語族
kan_Knda	カンナダ語	Knda	ドラヴィダ語族
kat_Geor	ジョージア語	Geor	カルトヴェリ語族
kaz_Cyrl	カザフ語	Cyrl	テュルク語族
kea_Latn	カーボベルデ語	Latn	ポルトガル語系クレオール語
khk_Cyrl	ハルハ・モンゴル語	Cyrl	モンゴル語族
khm_Khmr	クメール語	Khmr	オーストロアジア語族
kin_Latn	キニャルワンダ語	Latn	ニジェール・コンゴ語族
kir_Cyrl	キルギス語	Cyrl	テュルク語族
kor_Hang	韓国語	Hang	朝鮮語族
lao_Laoo	ラオ語	Laoo	カム・タイ語族
lin_Latn	リンガラ語	Latn	ニジェール・コンゴ語族
lit_Latn	リトアニア語	Latn	バルト・スラヴ語派
lug_Latn	ガンダ語	Latn	ニジェール・コンゴ語族
luo_Latn	ルオ語	Latn	ナイル・サハラ語族
lvs_Latn	標準ラトビア語	Latn	バルト・スラヴ語派
mal_Mlym	マラヤーラム語	Mlym	ドラヴィダ語族
mar_Deva	マラーティー語	Deva	インド・アーリア語派
mkd_Cyrl	マケドニア語	Cyrl	バルト・スラヴ語派
mlt_Latn	マルタ語	Latn	アフロ・アジア語族
mri_Latn	マオリ語	Latn	オーストロネシア語族
mya_Mymr	ビルマ語	Mymr	シナ・チベット語族
nld_Latn	オランダ語	Latn	ゲルマン語派
nob_Latn	ノルウェー語（ブークモール）	Latn	ゲルマン語派
npi_Deva	ネパール語	Deva	インド・アーリア語派
npi_Latn	ネパール語（ローマ字表記）	Latn	インド・アーリア語派
nso_Latn	北ソト語	Latn	ニジェール・コンゴ語族
nya_Latn	ニャンジャ語	Latn	アフロ・アジア語族
ory_Orya	オディア語	Orya	インド・アーリア語派
pan_Guru	東部パンジャーブ語	Guru	インド・アーリア語派
pbt_Arab	南部パシュトー語	Arab	インド・アーリア語派
pes_Arab	西部ペルシア語	Arab	イラン語派
plt_Latn	高原マダガスカル語	Latn	オーストロネシア語族
pol_Latn	ポーランド語	Latn	バルト・スラヴ語派
por_Latn	ポルトガル語	Latn	ロマンス語族
ron_Latn	ルーマニア語	Latn	ロマンス語族
rus_Cyrl	ロシア語	Cyrl	バルト・スラヴ語派
shn_Mymr	シャン語	Mymr	カム・タイ語族
sin_Latn	シンハラ語（ローマ字表記）	Latn	インド・アーリア語派
sin_Sinh	シンハラ語	Sinh	インド・アーリア語派
slk_Latn	スロバキア語	Latn	バルト・スラヴ語派
slv_Latn	スロベニア語	Latn	バルト・スラヴ語派
sna_Latn	ショナ語	Latn	ニジェール・コンゴ語族
snd_Arab	シンド語	Arab	インド・アーリア語派
som_Latn	ソマリ語	Latn	アフロ・アジア語族
sot_Latn	南ソト語	Latn	ニジェール・コンゴ語族
spa_Latn	スペイン語	Latn	ロマンス語族
srp_Cyrl	セルビア語	Cyrl	バルト・スラヴ語派
ssw_Latn	スワティ語	Latn	ニジェール・コンゴ語族
sun_Latn	スンダ語	Latn	オーストロネシア語族
swe_Latn	スウェーデン語	Latn	ゲルマン語派
swh_Latn	スワヒリ語	Latn	ニジェール・コンゴ語族
tam_Taml	タミル語	Taml	ドラヴィダ語族
tel_Telu	テルグ語	Telu	ドラヴィダ語族
tgk_Cyrl	タジク語	Cyrl	イラン語派
tgl_Latn	タガログ語	Latn	オーストロネシア語族
tha_Thai	タイ語	Thai	カム・タイ語族
tir_Ethi	ティグリニャ語	Ethi	アフロ・アジア語族
tsn_Latn	ツワナ語	Latn	ニジェール・コンゴ語族
tso_Latn	ツォンガ語	Latn	アフロ・アジア語族
tur_Latn	トルコ語	Latn	テュルク語族
ukr_Cyrl	ウクライナ語	Cyrl	バルト・スラヴ語派
urd_Arab	ウルドゥー語	Arab	インド・アーリア語派
urd_Latn	ウルドゥー語（ローマ字表記）	Latn	インド・アーリア語派
uzn_Latn	北ウズベク語	Latn	テュルク語族
vie_Latn	ベトナム語	Latn	オーストロアジア語族
war_Latn	ワライ語	Latn	オーストロネシア語族
wol_Latn	ウォロフ語	Latn	ニジェール・コンゴ語族
xho_Latn	コサ語	Latn	ニジェール・コンゴ語族
yor_Latn	ヨルバ語	Latn	ニジェール・コンゴ語族
zho_Hans	中国語（簡体字）	Hans	シナ・チベット語族
zho_Hant	中国語（繁体字）	Hant	シナ・チベット語族
zsm_Latn	標準マレー語	Latn	オーストロネシア語族
zul_Latn	ズールー語	Latn	ニジェール・コンゴ語族

原文（英語）

The Belebele Benchmark for Massively Multilingual NLU Evaluation

Belebele is a multiple-choice machine reading comprehension (MRC) dataset spanning 122 language variants. This dataset enables the evaluation of mono- and multi-lingual models in high-, medium-, and low-resource languages. Each question has four multiple-choice answers and is linked to a short passage from the FLORES-200 dataset. The human annotation procedure was carefully curated to create questions that discriminate between different levels of generalizable language comprehension and is reinforced by extensive quality checks. While all questions directly relate to the passage, the English dataset on its own proves difficult enough to challenge state-of-the-art language models. Being fully parallel, this dataset enables direct comparison of model performance across all languages. Belebele opens up new avenues for evaluating and analyzing the multilingual abilities of language models and NLP systems.

Please refer to our paper for more details, presented at ACL 2024: The Belebele Benchmark: a Parallel Reading Comprehension Dataset in 122 Language Variants. Or get more details at https://github.com/facebookresearch/belebele

Citation

If you use this data in your work, please cite:

@inproceedings{bandarkar-etal-2024-belebele,
    title = "The Belebele Benchmark: a Parallel Reading Comprehension Dataset in 122 Language Variants",
    author = "Bandarkar, Lucas  and
      Liang, Davis  and
      Muller, Benjamin  and
      Artetxe, Mikel  and
      Shukla, Satya Narayan  and
      Husa, Donald  and
      Goyal, Naman  and
      Krishnan, Abhinandan  and
      Zettlemoyer, Luke  and
      Khabsa, Madian",
    booktitle = "Proceedings of the 62nd Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)",
    month = aug,
    year = "2024",
    address = "Bangkok, Thailand and virtual meeting",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2024.acl-long.44",
    pages = "749--775",
}

Composition

• 900 questions per language variant
• 488 distinct passages, there are 1-2 associated questions for each.
• For each question, there is 4 multiple-choice answers, exactly 1 of which is correct.
• 122 language/language variants (including English).
• 900 x 122 = 109,800 total questions.

Further Stats

• 122 language variants, but 115 distinct languages (ignoring scripts)
• 27 language families
• 29 scripts
• Avg. words per passage = 79.1 (std = 26.2)
• Avg. sentences per passage = 4.1 (std = 1.4)
• Avg. words per question = 12.9(std = 4.0)
• Avg. words per answer = 4.2 (std = 2.9)

Pausible Evaluation Settings

Thanks to the parallel nature of the dataset and the simplicity of the task, there are many possible settings in which we can evaluate language models. In all evaluation settings, the metric of interest is simple accuracy (# correct / total).

Evaluating models on Belebele in English can be done via finetuning, few-shot, or zero-shot. For other target languages, we propose the incomprehensive list of evaluation settings below. Settings that are compatible with evaluating non-English models (monolingual or cross-lingual) are denoted with ^.

No finetuning

• Zero-shot with natural language instructions (English instructions)
  • For chat-finetuned models, we give it English instructions for the task and the sample in the target language in the same input.
  • For our experiments, we instruct the model to provide the letter A, B, C, or D. We perform post-processing steps and accept answers predicted as e.g. (A) instead of A. We sometimes additionally remove the prefix The correct answer is for predictions that do not start with one of the four accepted answers.
  • Sample instructions can be found at the dataset github repo.
• Zero-shot with natural language instructions (translated instructions) ^
  • Same as above, except the instructions are translated to the target language so that the instructions and samples are in the same language. The instructions can be human or machine-translated.
• Few-shot in-context learning (English examples)
  • A few samples (e.g. 5) are taken from the English training set (see below) and prompted to the model. Then, the model is evaluated with the same template but with the passages, questions, and answers in the target language.
  • For our experiments, we use the template: P: <passage> \n Q: <question> \n A: <mc answer 1> \n B: <mc answer 2> \n C: <mc answer 3> \n D: <mc answer 4> \n Answer: <Correct answer letter>. We perform prediction by picking the answer within [A, B, C, D] that has the highest probability relatively to the others.
• Few-shot in-context learning (translated examples) ^
  • Same as above, except the samples from the training set are translated to the target language so that the examples and evaluation data are in the same language. The training samples can be human or machine-translated.

With finetuning

• English finetune & multilingual evaluation
  • The model is finetuned to the task using the English training set, probably with a sequence classification head. Then the model is evaluated in all the target languages individually. For results presented in the paper we used the HuggingFace library.
• English finetune & cross-lingual evaluation
  • Same as above, except the model is evaluated in a cross-lingual setting, where for each question, the passage & answers could be provided in a different language. For example, passage could be in language x, question in language y, and answers in language z.
• Translate-train ^
  • For each target language, the model is individually finetuned on training samples that have been machine-translated from English to that language. Each model is then evaluated in the respective target language.
• Translate-train-all
  • Similar to above, except here the model is trained on translated samples from all target languages at once. The single finetuned model is then evaluated on all target languages.
• Translate-train-all & cross-lingual evaluation
  • Same as above, except the single finetuned model is evaluated in a cross-lingual setting, where for each question, the passage & answers could be provided in a different language.
• Translate-test
  • The model is finetuned using the English training data and then the evaluation dataset is machine-translated to English and evaluated on the English.
  • This setting is primarily a reflection of the quality of the machine translation system, but is useful for comparison to multilingual models.

In addition, there are 83 additional languages in FLORES-200 for which questions were not translated for Belebele. Since the passages exist in those target languages, machine-translating the questions & answers may enable decent evaluation of machine reading comprehension in those languages.

Training Set

As discussed in the paper, we also provide an assembled training set consisting of samples at the github repo.

The Belebele dataset is intended to be used only as a test set, and not for training or validation. Therefore, for models that require additional task-specific training, we instead propose using an assembled training set consisting of samples from pre-existing multiple-choice QA datasets in English. We considered diverse datasets, and determine the most compatible to be RACE, SciQ, MultiRC, MCTest, MCScript2.0, and ReClor.

For each of the six datasets, we unpack and restructure the passages and questions from their respective formats. We then filter out less suitable samples (e.g. questions with multiple correct answers). In the end, the dataset comprises 67.5k training samples and 3.7k development samples, more than half of which are from RACE. We provide a script (assemble_training_set.py) to reconstruct this dataset for anyone to perform task finetuning.

Since the training set is a joint sample of other datasets, it is governed by a different license. We do not claim any of that work or datasets to be our own. See the Licenses section in the README of https://github.com/facebookresearch/belebele .

Languages in Belebele

FLORES-200 Code	English Name	Script	Family
acm_Arab	Mesopotamian Arabic	Arab	Afro-Asiatic
afr_Latn	Afrikaans	Latn	Germanic
als_Latn	Tosk Albanian	Latn	Paleo-Balkanic
amh_Ethi	Amharic	Ethi	Afro-Asiatic
apc_Arab	North Levantine Arabic	Arab	Afro-Asiatic
arb_Arab	Modern Standard Arabic	Arab	Afro-Asiatic
arb_Latn	Modern Standard Arabic (Romanized)	Latn	Afro-Asiatic
ars_Arab	Najdi Arabic	Arab	Afro-Asiatic
ary_arab	Moroccan Arabic	Arab	Afro-Asiatic
arz_Arab	Egyptian Arabic	Arab	Afro-Asiatic
asm_Beng	Assamese	Beng	Indo-Aryan
azj_Latn	North Azerbaijani	Latn	Turkic
bam_Latn	Bambara	Latn	Mande
ben_Beng	Bengali	Beng	Indo-Aryan
ben_Latn	Bengali (Romanized)	Latn	Indo-Aryan
bod_Tibt	Standard Tibetan	Tibt	Sino-Tibetan
bul_Cyrl	Bulgarian	Cyrl	Balto-Slavic
cat_Latn	Catalan	Latn	Romance
ceb_Latn	Cebuano	Latn	Austronesian
ces_Latn	Czech	Latn	Balto-Slavic
ckb_Arab	Central Kurdish	Arab	Iranian
dan_Latn	Danish	Latn	Germanic
deu_Latn	German	Latn	Germanic
ell_Grek	Greek	Grek	Hellenic
eng_Latn	English	Latn	Germanic
est_Latn	Estonian	Latn	Uralic
eus_Latn	Basque	Latn	Basque
fin_Latn	Finnish	Latn	Uralic
fra_Latn	French	Latn	Romance
fuv_Latn	Nigerian Fulfulde	Latn	Atlantic-Congo
gaz_Latn	West Central Oromo	Latn	Afro-Asiatic
grn_Latn	Guarani	Latn	Tupian
guj_Gujr	Gujarati	Gujr	Indo-Aryan
hat_Latn	Haitian Creole	Latn	Atlantic-Congo
hau_Latn	Hausa	Latn	Afro-Asiatic
heb_Hebr	Hebrew	Hebr	Afro-Asiatic
hin_Deva	Hindi	Deva	Indo-Aryan
hin_Latn	Hindi (Romanized)	Latn	Indo-Aryan
hrv_Latn	Croatian	Latn	Balto-Slavic
hun_Latn	Hungarian	Latn	Uralic
hye_Armn	Armenian	Armn	Armenian
ibo_Latn	Igbo	Latn	Atlantic-Congo
ilo_Latn	Ilocano	Latn	Austronesian
ind_Latn	Indonesian	Latn	Austronesian
isl_Latn	Icelandic	Latn	Germanic
ita_Latn	Italian	Latn	Romance
jav_Latn	Javanese	Latn	Austronesian
jpn_Jpan	Japanese	Jpan	Japonic
kac_Latn	Jingpho	Latn	Sino-Tibetan
kan_Knda	Kannada	Knda	Dravidian
kat_Geor	Georgian	Geor	kartvelian
kaz_Cyrl	Kazakh	Cyrl	Turkic
kea_Latn	Kabuverdianu	Latn	Portuguese Creole
khk_Cyrl	Halh Mongolian	Cyrl	Mongolic
khm_Khmr	Khmer	Khmr	Austroasiatic
kin_Latn	Kinyarwanda	Latn	Atlantic-Congo
kir_Cyrl	Kyrgyz	Cyrl	Turkic
kor_Hang	Korean	Hang	Koreanic
lao_Laoo	Lao	Laoo	Kra-Dai
lin_Latn	Lingala	Latn	Atlantic-Congo
lit_Latn	Lithuanian	Latn	Balto-Slavic
lug_Latn	Ganda	Latn	Atlantic-Congo
luo_Latn	Luo	Latn	Nilo-Saharan
lvs_Latn	Standard Latvian	Latn	Balto-Slavic
mal_Mlym	Malayalam	Mlym	Dravidian
mar_Deva	Marathi	Deva	Indo-Aryan
mkd_Cyrl	Macedonian	Cyrl	Balto-Slavic
mlt_Latn	Maltese	Latn	Afro-Asiatic
mri_Latn	Maori	Latn	Austronesian
mya_Mymr	Burmese	Mymr	Sino-Tibetan
nld_Latn	Dutch	Latn	Germanic
nob_Latn	Norwegian Bokmål	Latn	Germanic
npi_Deva	Nepali	Deva	Indo-Aryan
npi_Latn	Nepali (Romanized)	Latn	Indo-Aryan
nso_Latn	Northern Sotho	Latn	Atlantic-Congo
nya_Latn	Nyanja	Latn	Afro-Asiatic
ory_Orya	Odia	Orya	Indo-Aryan
pan_Guru	Eastern Panjabi	Guru	Indo-Aryan
pbt_Arab	Southern Pashto	Arab	Indo-Aryan
pes_Arab	Western Persian	Arab	Iranian
plt_Latn	Plateau Malagasy	Latn	Austronesian
pol_Latn	Polish	Latn	Balto-Slavic
por_Latn	Portuguese	Latn	Romance
ron_Latn	Romanian	Latn	Romance
rus_Cyrl	Russian	Cyrl	Balto-Slavic
shn_Mymr	Shan	Mymr	Kra-Dai
sin_Latn	Sinhala (Romanized)	Latn	Indo-Aryan
sin_Sinh	Sinhala	Sinh	Indo-Aryan
slk_Latn	Slovak	Latn	Balto-Slavic
slv_Latn	Slovenian	Latn	Balto-Slavic
sna_Latn	Shona	Latn	Atlantic-Congo
snd_Arab	Sindhi	Arab	Indo-Aryan
som_Latn	Somali	Latn	Afro-Asiatic
sot_Latn	Southern Sotho	Latn	Atlantic-Congo
spa_Latn	Spanish	Latn	Romance
srp_Cyrl	Serbian	Cyrl	Balto-Slavic
ssw_Latn	Swati	Latn	Atlantic-Congo
sun_Latn	Sundanese	Latn	Austronesian
swe_Latn	Swedish	Latn	Germanic
swh_Latn	Swahili	Latn	Atlantic-Congo
tam_Taml	Tamil	Taml	Dravidian
tel_Telu	Telugu	Telu	Dravidian
tgk_Cyrl	Tajik	Cyrl	Iranian
tgl_Latn	Tagalog	Latn	Austronesian
tha_Thai	Thai	Thai	Kra-Dai
tir_Ethi	Tigrinya	Ethi	Afro-Asiatic
tsn_Latn	Tswana	Latn	Atlantic-Congo
tso_Latn	Tsonga	Latn	Afro-Asiatic
tur_Latn	Turkish	Latn	Turkic
ukr_Cyrl	Ukrainian	Cyrl	Balto-Slavic
urd_Arab	Urdu	Arab	Indo-Aryan
urd_Latn	Urdu (Romanized)	Latn	Indo-Aryan
uzn_Latn	Northern Uzbek	Latn	Turkic
vie_Latn	Vietnamese	Latn	Austroasiatic
war_Latn	Waray	Latn	Austronesian
wol_Latn	Wolof	Latn	Atlantic-Congo
xho_Latn	Xhosa	Latn	Atlantic-Congo
yor_Latn	Yoruba	Latn	Atlantic-Congo
zho_Hans	Chinese (Simplified)	Hans	Sino-Tibetan
zho_Hant	Chinese (Traditional)	Hant	Sino-Tibetan
zsm_Latn	Standard Malay	Latn	Austronesian
zul_Latn	Zulu	Latn	Atlantic-Congo