| --- |
| license: cc-by-nc-sa-4.0 |
| language: |
| - zh |
| task_categories: |
| - multiple-choice |
| - question-answering |
| - text-classification |
| pretty_name: FinLLM Eval Sets |
| size_categories: |
| - 1K<n<10K |
| --- |
| |
| # FinLLM Eval Sets |
|
|
| 金融行业知识与逻辑增强大模型项目的评测数据集，共三套。用于复现模型评测结果，不用于训练。 |
|
|
| ## 目录结构 |
|
|
| ``` |
| ceval/ C-Eval 金融 4 科（dev 20 条 / val 186 条） |
| college_economics/ dev.json val.json |
| business_administration/ |
| accountant/ |
| tax_accountant/ |
| fineval/ FinEval 金融学术知识 34 科（dev 170 条 / val 1151 条） |
| inventory.json 每科中英文名、分组、题数 |
| json/<subject>/ dev.json val.json |
| ke/ 知识抽取测试集 |
| ke_test.jsonl 2500 条 |
| ke_dev.jsonl 500 条，供冒烟测试 |
| scripts/ 数据转换脚本 |
| ``` |
|
|
| ## 1. C-Eval 金融 4 科 |
|
|
| 来源：[C-Eval](https://huggingface.co/datasets/ceval/ceval-exam)，中文多学科评测集，52 学科 13,948 题。 |
|
|
| 本项目取其中金融相关 4 科，用于主基准评测： |
|
|
| | 科目 | 英文名 | dev | val | |
| |---|---|---|---| |
| | 大学经济学 | college_economics | 5 | 55 | |
| | 工商管理 | business_administration | 5 | 33 | |
| | 注册会计师 | accountant | 5 | 49 | |
| | 税务师 | tax_accountant | 5 | 49 | |
| | 合计 | | 20 | 186 | |
| |
| 字段：`id` / `question` / `A` / `B` / `C` / `D` / `answer`。 |
| |
| 使用方式：`dev` 前 5 条作为 few-shot 示例，`val` 为评测集。**不使用 test**——C-Eval 官方不公开 test 标签，需提交结果到官方获取准确率。 |
| |
| ## 2. FinEval 金融学术知识 34 科 |
| |
| 来源：[FinEval](https://huggingface.co/datasets/SUFE-AIFLM-Lab/FinEval)，NAACL 2025。 |
| |
| FinEval 公开部分为金融学术知识 4,661 题（34 学科选择题）；金融行业知识、金融安全知识、金融代理三部分未开源，本数据集不包含。 |
| |
| 本项目取 `dev`（每科 5 条，共 170）与 `val`（共 1,151），字段与 C-Eval 一致。 |
| |
| `inventory.json` 记录每科的中英文名、所属分组（accounting / certificate / economy / finance）与题数。 |
| |
| ## 3. 知识抽取测试集 |
| |
| 项目自建。每条由原文段落、问题与四元组标注构成，用于评测「主体 / 指标 / 时间 / 数值」四个字段的抽取能力。 |
| |
| | 文件 | 条数 | 用途 | |
| |---|---|---| |
| | `ke_test.jsonl` | 2,500 | 冻结测试集 | |
| | `ke_dev.jsonl` | 500 | 冒烟测试与评分器自检 | |
|
|
| 字段： |
|
|
| | 字段 | 说明 | |
| |---|---| |
| | `id` | 样本编号 | |
| | `source` | 来源类型（财报 / 新闻） | |
| | `question` | 抽取指令 | |
| | `paragraph` | 原文 | |
| | `gold` | 标准四元组 | |
| | `gold_answer_raw` | 标准答案原文 | |
| | `required_fields` | 本题应填字段列表 | |
|
|
| 评测为字段级精确率 / 召回率 / F1。数值字段要求能在原文中定位。 |
|
|
| ## 评测口径 |
|
|
| 两套选择题基准采用同一口径： |
|
|
| - few-shot 5 例，取自该科 `dev`，顺序固定 |
| - 单条 user 消息，无 system 消息 |
| - assistant 起点预置「答案：」 |
| - 贪心解码，`max_new_tokens = 16` |
| - 解析规则：取首个前后均为噪声字符的独立大写字母 A–D |
|
|
| ## 许可证 |
|
|
| C-Eval 与 FinEval 均采用 **CC BY-NC-SA 4.0**（署名—非商业性使用—相同方式共享）。本数据集为两者的子集转换，沿用同一许可证： |
|
|
| - 使用时须注明原始基准与论文 |
| - 不得用于商业目的 |
| - 分发衍生作品须采用相同许可证 |
|
|
| 知识抽取测试集由本项目构建，随本数据集一同发布。 |
|
|
| ## 引用 |
|
|
| ```bibtex |
| @article{huang2023ceval, |
| title={C-Eval: A Multi-Level Multi-Discipline Chinese Evaluation Suite for Foundation Models}, |
| author={Huang, Yuzhen and Bai, Yuzhuo and Zhu, Zhihao and Zhang, Junlei and Zhang, Jinghan and |
| Su, Tangjun and Liu, Junteng and Lv, Chuancheng and Zhang, Yikai and Lei, Jiayi and |
| Fu, Yao and Sun, Maosong and He, Junxian}, |
| journal={arXiv preprint arXiv:2305.08322}, |
| year={2023} |
| } |
| ``` |
|
|
| FinEval 引用信息见 [原仓库](https://huggingface.co/datasets/SUFE-AIFLM-Lab/FinEval)。 |
|
|
