Hugging Face's logo

Datasets:
USTC-KnowledgeComputingLab
/
FinLLM-EvalSets

Tasks:
Multiple Choice
Question Answering
Text Classification
Languages:
Chinese
Size:
1K<n<10K
ArXiv:
License:
Dataset card Data Studio Files
xet
 Community
FinLLM-EvalSets
File size: 4,123 Bytes
796575b
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
---
license: cc-by-nc-sa-4.0
language:
  - zh
task_categories:
  - multiple-choice
  - question-answering
  - text-classification
pretty_name: FinLLM Eval Sets
size_categories:
  - 1K<n<10K
---

# FinLLM Eval Sets

金融行业知识与逻辑增强大模型项目的评测数据集，共三套。用于复现模型评测结果，不用于训练。

## 目录结构

```
ceval/                  C-Eval 金融 4 科（dev 20 条 / val 186 条）
  college_economics/    dev.json  val.json
  business_administration/
  accountant/
  tax_accountant/
fineval/                FinEval 金融学术知识 34 科（dev 170 条 / val 1151 条）
  inventory.json        每科中英文名、分组、题数
  json/<subject>/       dev.json  val.json
ke/                     知识抽取测试集
  ke_test.jsonl         2500 条
  ke_dev.jsonl          500 条，供冒烟测试
scripts/                数据转换脚本
```

## 1. C-Eval 金融 4 科

来源：[C-Eval](https://huggingface.co/datasets/ceval/ceval-exam)，中文多学科评测集，52 学科 13,948 题。

本项目取其中金融相关 4 科，用于主基准评测：

| 科目 | 英文名 | dev | val |
|---|---|---|---|
| 大学经济学 | college_economics | 5 | 55 |
| 工商管理 | business_administration | 5 | 33 |
| 注册会计师 | accountant | 5 | 49 |
| 税务师 | tax_accountant | 5 | 49 |
| 合计 | | 20 | 186 |

字段：`id` / `question` / `A` / `B` / `C` / `D` / `answer`。

使用方式：`dev` 前 5 条作为 few-shot 示例，`val` 为评测集。**不使用 test**——C-Eval 官方不公开 test 标签，需提交结果到官方获取准确率。

## 2. FinEval 金融学术知识 34 科

来源：[FinEval](https://huggingface.co/datasets/SUFE-AIFLM-Lab/FinEval)，NAACL 2025。

FinEval 公开部分为金融学术知识 4,661 题（34 学科选择题）；金融行业知识、金融安全知识、金融代理三部分未开源，本数据集不包含。

本项目取 `dev`（每科 5 条，共 170）与 `val`（共 1,151），字段与 C-Eval 一致。

`inventory.json` 记录每科的中英文名、所属分组（accounting / certificate / economy / finance）与题数。

## 3. 知识抽取测试集

项目自建。每条由原文段落、问题与四元组标注构成，用于评测「主体 / 指标 / 时间 / 数值」四个字段的抽取能力。

| 文件 | 条数 | 用途 |
|---|---|---|
| `ke_test.jsonl` | 2,500 | 冻结测试集 |
| `ke_dev.jsonl` | 500 | 冒烟测试与评分器自检 |

字段：

| 字段 | 说明 |
|---|---|
| `id` | 样本编号 |
| `source` | 来源类型（财报 / 新闻） |
| `question` | 抽取指令 |
| `paragraph` | 原文 |
| `gold` | 标准四元组 |
| `gold_answer_raw` | 标准答案原文 |
| `required_fields` | 本题应填字段列表 |

评测为字段级精确率 / 召回率 / F1。数值字段要求能在原文中定位。

## 评测口径

两套选择题基准采用同一口径：

- few-shot 5 例，取自该科 `dev`，顺序固定
- 单条 user 消息，无 system 消息
- assistant 起点预置「答案：」
- 贪心解码，`max_new_tokens = 16`
- 解析规则：取首个前后均为噪声字符的独立大写字母 A–D

## 许可证

C-Eval 与 FinEval 均采用 **CC BY-NC-SA 4.0**（署名—非商业性使用—相同方式共享）。本数据集为两者的子集转换，沿用同一许可证：

- 使用时须注明原始基准与论文
- 不得用于商业目的
- 分发衍生作品须采用相同许可证

知识抽取测试集由本项目构建，随本数据集一同发布。

## 引用

```bibtex
@article{huang2023ceval,
  title={C-Eval: A Multi-Level Multi-Discipline Chinese Evaluation Suite for Foundation Models},
  author={Huang, Yuzhen and Bai, Yuzhuo and Zhu, Zhihao and Zhang, Junlei and Zhang, Jinghan and
          Su, Tangjun and Liu, Junteng and Lv, Chuancheng and Zhang, Yikai and Lei, Jiayi and
          Fu, Yao and Sun, Maosong and He, Junxian},
  journal={arXiv preprint arXiv:2305.08322},
  year={2023}
}
```

FinEval 引用信息见 [原仓库](https://huggingface.co/datasets/SUFE-AIFLM-Lab/FinEval)。