HYUKI5/CohereLabs__include-base-44

CohereLabs/include-base-44（複製）

データの内容

44 言語の、各国の学術試験と専門試験から抽出した 4 択の知識問題のデータ。1 行が 1 問で、language と country に言語と国、subject に分野、question に問題文、option_a から option_d に選択肢、answer に正解の番号（整数）が入る。運転免許や医療免許などの免許・資格の試験も含まれ、地域の知識を問う問題がある。

データの概要

項目	値
行数	23,529（44 構成・88 分割の合計）
列数	12
容量	5.60 MB（ファイル 90 本）
ファイルの形式	parquet 88
言語	sq, ar, hy, az, be, bn, eu, bg, tr, hr, nl, fa, es, et, fi, fr, de, el, ka, he, hi, hu, id, it, ja, kk, ko, lt, ml, ms,
公開	public

構成と分割

構成（config）	分割（split）ごとの行数	列数
Albanian	test 551、validation 25	12
Arabic	test 552、validation 30	12
Armenian	test 550、validation 20	12
Azerbaijani	test 548、validation 30	12
Basque	test 500、validation 5	12
Belarusian	test 550、validation 15	12
Bengali	test 548、validation 20	12
Bulgarian	test 550、validation 15	12
Chinese	test 545、validation 40	12
Croatian	test 550、validation 15	12
Dutch	test 551、validation 25	12
Estonian	test 224、validation 25	12
Finnish	test 551、validation 25	12
French	test 419、validation 25	12
Georgian	test 500、validation 5	12
German	test 139、validation 15	12
Greek	test 552、validation 35	12
Hebrew	test 550、validation 10	12
Hindi	test 547、validation 40	12
Hungarian	test 550、validation 15	12

（ほか 24 構成。全体は HF のデータセットビューアで見られる）

列（構成 Albanian・分割 test。どの構成も同じ列）

列	型	先頭の行の値
language	string	Albanian
country	string	null
domain	string	Social Science
subject	string	Sociology
regional_feature	string	region implicit
level	string	Academic
question	string	Nëse ndonjë anëtar nuk i respekton rregullat e p…
option_a	string	Besime.
option_b	string	Norma dokesh (traditash).
option_c	string	Norma ligjore.
option_d	string	Rituale.
answer	int64	1

行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

CohereLabs/include-base-44 をリビジョン d2e1f6015f67a43c02a9a68db98e2298e2d6a660 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。

出典

• 元のデータセット: https://huggingface.co/datasets/CohereLabs/include-base-44
• 複製したリビジョン: d2e1f6015f67a43c02a9a68db98e2298e2d6a660（2025-04-15 08:44:46+00:00）
• 元のライセンス表記: apache-2.0

論文

• https://arxiv.org/abs/2411.19799

アノテーションの方法

（元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した）

フランス語の法律の問題の例は次のとおり。

{
    "language": "French",
    "country": "France",
    "level": "Academic",
    "domain": "Arts & Humanities",
    "subject": "Law",
    "regional_feature": "region explicit",
    "question": "Que permet l'article 49-3 de la Constitution ?",
    "choices": ["de recourir au référendum", "au Parlement de contrôler l'action du Gouvernement", "l'adoption sans vote d'une loi", "de prononcer la dissolution de l'Assemblée nationale"],
    "answer": 2
}

微調整に使うときの注意

• 調査メモの台帳での区分: A（許諾型のライセンスだけで、疑義の注記が無い）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
• Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
• 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ	節	ライセンス（記載）	確認	注記
multilingual_cjk.md	1. 大規模多言語データセット(XNLI, PAWS-X, MASSIVE, SIB-200, Belebele ほか) (L42)	apache-2.0	確認済	確認印なし(各ファイルの凡例により確認済扱い) ／ 原文注記: 各国の試験問題ベース。lite 版: include-lite-44

元のカード（日本語訳）

以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。

---

INCLUDE-base（44 言語）

データセットの説明

• 論文: http://arxiv.org/abs/2411.19799

データセットの要約

INCLUDE は、44 言語にわたる、知識と推論を中心とした包括的なベンチマークである。多言語 LLM を、実際に展開される言語環境での性能によって評価する。 学術試験と専門試験から抽出した 22,637 問の 4 択問題（MCQ）を含み、地域の知識を含む 57 のトピックを対象とする。

より手早く評価するには、include-base-44 の部分集合で、同じ 44 言語を対象とする include-lite-44 を使える。

言語

アルバニア語、アラビア語、アルメニア語、アゼルバイジャン語、バスク語、ベラルーシ語、ベンガル語、ブルガリア語、中国語、クロアチア語、オランダ語、エストニア語、フィンランド語、フランス語、ジョージア語、ドイツ語、ギリシャ語、ヘブライ語、ヒンディー語、ハンガリー語、インドネシア語、イタリア語、日本語、カザフ語、韓国語、リトアニア語、マレー語、マラヤーラム語、ネパール語、北マケドニア語、ペルシア語、ポーランド語、ポルトガル語、ロシア語、セルビア語、スペイン語、タガログ語、タミル語、テルグ語、トルコ語、ウクライナ語、ウルドゥー語、ウズベク語、ベトナム語

トピック

• 学術: 会計、農業、人類学、建築・デザイン、芸術・人文学、生物学、経営学、ビジネス倫理、ビジネス、化学、コンピュータサイエンス、文化学、地球科学、経済学、教育学、工学、環境学・林学、家政学、金融、地理学、保健医療、歴史学、人間の身体運動とレクリエーション、産業・労使関係、国際貿易、ジャーナリズム・メディア研究・コミュニケーション、言語学、法学、図書館・博物館学、文学、論理学、経営管理、マーケティング、数学、医学、軍事学、複数の試験、舞台芸術、哲学、物理学、政治学、心理学、行政学、公共政策、品質計量学、宗教学、リスク管理・保険、ソーシャルワーク、社会学、STEM、交通、視覚芸術

• 免許・資格: 運転免許、船舶免許、医療免許、専門資格

データのスキーマ

フランス語の法律の問題の例は次のとおり。

{
    "language": "French",
    "country": "France",
    "level": "Academic",
    "domain": "Arts & Humanities",
    "subject": "Law",
    "regional_feature": "region explicit",
    "question": "Que permet l'article 49-3 de la Constitution ?",
    "choices": ["de recourir au référendum", "au Parlement de contrôler l'action du Gouvernement", "l'adoption sans vote d'une loi", "de prononcer la dissolution de l'Assemblée nationale"],
    "answer": 2
}

モデルの性能

Harness-eval フレームワークを使った、INCLUDE での各モデルの性能。

モデル	原語の指示	英語の指示
Llama3.1-70B-Instruct	70.6	70.9
Qwen2.5-14B	62.3	62.6
Aya-expanse-32b	59.1	59.5
Qwen2.5-7B	55.0	55.5
Qwen2.5-7B-Instruct	54.8	54.8
Llama-3.1-8B-Instruct	53.5	54.4
Gemma-7B	53.5	53.2
Llama-3.1-8B	51.2	51.9
Aya-expanse-8b	47.2	47.8
Mistral-7B	44.1	44.6
Mistral-7B-Instruct	44.2	44.3
Gemma-7B-Instruct	38.6	39.3

引用

@article{romanou2024include,
  title={INCLUDE: Evaluating Multilingual Language Understanding with Regional Knowledge},
  author={Romanou, Angelika and Foroutan, Negar and Sotnikova, Anna and Chen, Zeming and Nelaturu, Sree Harsha and Singh, Shivalika and Maheshwary, Rishabh and Altomare, Micol and Haggag, Mohamed A and Amayuelas, Alfonso and others},
  journal={arXiv preprint arXiv:2411.19799},
  year={2024}
}

原文（英語）

INCLUDE-base (44 languages)

Dataset Description

• Paper: http://arxiv.org/abs/2411.19799

Dataset Summary

INCLUDE is a comprehensive knowledge- and reasoning-centric benchmark across 44 languages that evaluates multilingual LLMs for performance in the actual language environments where they would be deployed. It contains 22,637 4-option multiple-choice-questions (MCQ) extracted from academic and professional exams, covering 57 topics, including regional knowledge.

For a quicker evaluation, you can use include-lite-44, which is a subset of include-base-44, covering the same 44 languages.

Languages

Albanian, Arabic, Armenian, Azerbaijani, Basque, Belarusian, Bengali, Bulgarian, Chinese, Croatian, Dutch, Estonian, Finnish, French, Georgian, German, Greek, Hebrew, Hindi, Hungarian, Indonesia, Italian, Japanese, Kazakh, Korean, Lithuanian, Malay, Malayalam, Nepali, North Macedonian, Persian, Polish, Portuguese, russian, Serbian, Spanish, Tagalog, Tamil, Telugu, Turkish, Ukrainian, Urdu, Uzbek, Vietnamese

Topics

• Academic: Accounting, Agriculture, Anthropology, Architecture and Design, Arts & Humanities, Biology, Business administration, Business ethics, Business, Chemistry, Computer Science, Culturology, Earth science, Economics, Education, Engineering, Environmental studies and forestry, Family and consumer science, Finance, Geography, Health, History, Human physical performance and recreation, Industrial and labor relations, International trade, Journalism, media studies, and communication, Language, Law, Library and museum studies, Literature, Logic, Management, Marketing, Math, Medicine, Military Sciences, Multiple exams, Performing arts, Philosophy, Physics, Political sciences, Psychology, Public Administration, Public Policy, Qualimetry, Religious studies, Risk management and insurance, Social Work, Social work, Sociology, STEM, Transportation, Visual Arts

• Licenses: Driving License, Marine License, Medical License, Professional Certifications

Data schema

An example from a French Law question looks as follows:

{
    "language": "French",
    "country": "France",
    "level": "Academic",
    "domain": "Arts & Humanities",
    "subject": "Law",
    "regional_feature": "region explicit",
    "question": "Que permet l'article 49-3 de la Constitution ?",
    "choices": ["de recourir au référendum", "au Parlement de contrôler l'action du Gouvernement", "l'adoption sans vote d'une loi", "de prononcer la dissolution de l'Assemblée nationale"],
    "answer": 2
}

Model Performance

Models performance on INCLUDE using the Harness-eval framework.

Model	Original Language instructions	English instructions
Llama3.1-70B-Instruct	70.6	70.9
Qwen2.5-14B	62.3	62.6
Aya-expanse-32b	59.1	59.5
Qwen2.5-7B	55.0	55.5
Qwen2.5-7B-Instruct	54.8	54.8
Llama-3.1-8B-Instruct	53.5	54.4
Gemma-7B	53.5	53.2
Llama-3.1-8B	51.2	51.9
Aya-expanse-8b	47.2	47.8
Mistral-7B	44.1	44.6
Mistral-7B-Instruct	44.2	44.3
Gemma-7B-Instruct	38.6	39.3

Citation

@article{romanou2024include,
  title={INCLUDE: Evaluating Multilingual Language Understanding with Regional Knowledge},
  author={Romanou, Angelika and Foroutan, Negar and Sotnikova, Anna and Chen, Zeming and Nelaturu, Sree Harsha and Singh, Shivalika and Maheshwary, Rishabh and Altomare, Micol and Haggag, Mohamed A and Amayuelas, Alfonso and others},
  journal={arXiv preprint arXiv:2411.19799},
  year={2024}
}