DCG / DCG_FIN /README.md
wantRP's picture
Upload folder using huggingface_hub
84a9a46 verified
|
Raw History Blame Contribute Delete
1.8 kB
# DCG_FIN 数据集说明
本目录是 Finance 数据集正式版。处理后的源数据为 `DCG_Finance_CSV_202610011220.xlsx`。
## 正式文件
| 文件 | 条数 | 用途 |
|---|---:|---|
| `DCG_FIN_SFT.json` | 1000 | 监督微调,覆盖全部 12 类 |
| `DCG_FIN_TRAIN.json` | 1083 | RL/Agent 训练 |
| `DCG_FIN_VAL.json` | 422 | 模型选择、参数和策略调整 |
| `DCG_FIN_TEST.json` | 427 | 最终评测 |
| `DCG_FIN_SPLIT_REPORT.json` | — | 划分审计报告,不是训练数据 |
| `DCG_FIN_CORPUS.json` | — | Finance 分类语料库 |
## 划分规则
- 同一来源表不跨训练侧、Val、Test;
- SFT与Train可以共享来源表,但具体记录不重复;
- 训练侧与Val/Test来源表不重叠;
- Val与Test来源表不重叠;
- 同源增广数据不跨集合;
- 数据库名和类别标签允许跨集合重复;
- Val/Test保持表级划分后的自然分布,不强制类别均衡。
## 数据关系
```text
训练侧 = DCG_FIN_SFT.json + DCG_FIN_TRAIN.json
全量数据 = 训练侧 + DCG_FIN_VAL.json + DCG_FIN_TEST.json
```
以上加法表示互不重复记录的集合并集。全量共2932条,训练侧共2083条。
## 核验结果
- SFT覆盖12/12类;
- 重复ID为0;
- 除ID外完全相同的重复记录为0;
- 同源增广组跨集合数量为0;
- 训练侧与Val/Test来源表交集为0;
- Val与Test来源表交集为0;
- `TPROJECT_INFO`共793条,均为`original`。
## 使用说明
- SFT阶段使用 `DCG_FIN_SFT.json`;
- RL/Agent阶段使用 `DCG_FIN_TRAIN.json`;
- 开发调参使用 `DCG_FIN_VAL.json`;
- 最终报告使用 `DCG_FIN_TEST.json`;
- `DCG_FIN_SPLIT_REPORT.json`只用于检查划分结果;
- 部分原始表名为`NONE`,这些数据按`(source_database_name, NONE)`保守分组。