metadata
license: cc-by-nc-sa-4.0
language:
- zh
task_categories:
- multiple-choice
- question-answering
- text-classification
pretty_name: FinLLM Eval Sets
size_categories:
- 1K<n<10K
FinLLM Eval Sets
金融行业知识与逻辑增强大模型项目的评测数据集，共三套。用于复现模型评测结果，不用于训练。
目录结构
ceval/ C-Eval 金融 4 科（dev 20 条 / val 186 条）
college_economics/ dev.json val.json
business_administration/
accountant/
tax_accountant/
fineval/ FinEval 金融学术知识 34 科（dev 170 条 / val 1151 条）
inventory.json 每科中英文名、分组、题数
json/<subject>/ dev.json val.json
ke/ 知识抽取测试集
ke_test.jsonl 2500 条
ke_dev.jsonl 500 条，供冒烟测试
scripts/ 数据转换脚本
1. C-Eval 金融 4 科
来源：C-Eval，中文多学科评测集，52 学科 13,948 题。
本项目取其中金融相关 4 科，用于主基准评测：
| 科目 | 英文名 | dev | val |
|---|---|---|---|
| 大学经济学 | college_economics | 5 | 55 |
| 工商管理 | business_administration | 5 | 33 |
| 注册会计师 | accountant | 5 | 49 |
| 税务师 | tax_accountant | 5 | 49 |
| 合计 | 20 | 186 |
字段：id / question / A / B / C / D / answer。
使用方式：dev 前 5 条作为 few-shot 示例，val 为评测集。不使用 test——C-Eval 官方不公开 test 标签，需提交结果到官方获取准确率。
2. FinEval 金融学术知识 34 科
来源：FinEval，NAACL 2025。
FinEval 公开部分为金融学术知识 4,661 题（34 学科选择题）；金融行业知识、金融安全知识、金融代理三部分未开源，本数据集不包含。
本项目取 dev（每科 5 条，共 170）与 val（共 1,151），字段与 C-Eval 一致。
inventory.json 记录每科的中英文名、所属分组（accounting / certificate / economy / finance）与题数。
3. 知识抽取测试集
项目自建。每条由原文段落、问题与四元组标注构成，用于评测「主体 / 指标 / 时间 / 数值」四个字段的抽取能力。
| 文件 | 条数 | 用途 |
|---|---|---|
ke_test.jsonl |
2,500 | 冻结测试集 |
ke_dev.jsonl |
500 | 冒烟测试与评分器自检 |
字段：
| 字段 | 说明 |
|---|---|
id |
样本编号 |
source |
来源类型（财报 / 新闻） |
question |
抽取指令 |
paragraph |
原文 |
gold |
标准四元组 |
gold_answer_raw |
标准答案原文 |
required_fields |
本题应填字段列表 |
评测为字段级精确率 / 召回率 / F1。数值字段要求能在原文中定位。
评测口径
两套选择题基准采用同一口径：
- few-shot 5 例，取自该科
dev，顺序固定 - 单条 user 消息，无 system 消息
- assistant 起点预置「答案：」
- 贪心解码，
max_new_tokens = 16 - 解析规则：取首个前后均为噪声字符的独立大写字母 A–D
许可证
C-Eval 与 FinEval 均采用 CC BY-NC-SA 4.0（署名—非商业性使用—相同方式共享）。本数据集为两者的子集转换，沿用同一许可证：
- 使用时须注明原始基准与论文
- 不得用于商业目的
- 分发衍生作品须采用相同许可证
知识抽取测试集由本项目构建，随本数据集一同发布。
引用
@article{huang2023ceval,
title={C-Eval: A Multi-Level Multi-Discipline Chinese Evaluation Suite for Foundation Models},
author={Huang, Yuzhen and Bai, Yuzhuo and Zhu, Zhihao and Zhang, Junlei and Zhang, Jinghan and
Su, Tangjun and Liu, Junteng and Lv, Chuancheng and Zhang, Yikai and Lei, Jiayi and
Fu, Yao and Sun, Maosong and He, Junxian},
journal={arXiv preprint arXiv:2305.08322},
year={2023}
}
FinEval 引用信息见 原仓库。