File size: 4,562 Bytes
81cddb0 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 | # FinForesight（中文说明）
面向金融 Deep Research Agent 的评测数据集（**仅数据**）。
代码、builder、prompt 模板与评测脚本在独立代码仓库维护；本 Hub 仓库只发布标准化 ready seeds，支持按子集按需加载。
英文 Dataset Card 见 [`README.md`](./README.md)。
## Links
- **Code**: https://github.com/OpenFinMind/FinForesight
- **Dataset**: https://huggingface.co/datasets/OpenFinMind/FinForesight
任务命名：`val` / `rank_*` / `evt` / `fund` / `cf` / `calc`
（对应 Valuation / Return Ranking / Event Direction / Fundamentals / Counterfactual / Calculation）。
## 快速开始
```python
from datasets import load_dataset
# 按题型子集加载（推荐）
val = load_dataset("OpenFinMind/FinForesight", "val")
fund = load_dataset("OpenFinMind/FinForesight", "fund")
cf = load_dataset("OpenFinMind/FinForesight", "cf")
print(val["train"][0]["task_id"])
print(val["train"][0]["prompt"][:200])
# 按时间层筛选
t2 = val["train"].filter(lambda x: x["time_band"] == "T2")
```
可用 config：`val` / `rank_f` / `rank_t` / `rank_h` / `evt` / `fund` / `cf` / `calc`
默认 config 为 `val`。
### EVT / FUND 扰动题
`evt` 与 `fund` 中包含扰动题：每条都由同类别的一道原题改写而来，问的是同一个问题，
`ground_truth` 与原题完全一致，用于测量同一问题在改写后的作答稳定性。
- `variant` 为 `perturb_layout`（版式重排）/ `perturb_paraphrase`（指令同义改写）/
`perturb_numeric`（披露数字按同一因子缩放 ±1%）；其余 `variant` 为原题。
- `metadata.perturbation.base_task_id` 指向原题，`metadata.perturbation.perturbation_type`
给出扰动类型。
- 只评原题时按 `variant` 过滤即可：
```python
evt = load_dataset("OpenFinMind/FinForesight", "evt")
base = evt["train"].filter(lambda x: not x["variant"].startswith("perturb_"))
```
## 规模（v0.9.0）
| config | 任务 | ready 条数 |
|--------|------|-----------|
| `val` | Valuation (VAL) | 244 |
| `rank_f` | Return Ranking F (RANK-F) | 112 |
| `rank_t` | Return Ranking T (RANK-T) | 161 |
| `rank_h` | Return Ranking H (RANK-H) | 110 |
| `evt` | Event Direction (EVT) | 228 |
| `fund` | Fundamentals (FUND) | 384 |
| `cf` | Counterfactual (CF) | 30 |
| `calc` | Calculation (CALC) | 30 |
| **合计** | | **1299** |
### 实验身份（paper 主口径）
- `backbone_model = gpt-4.1`
- `backbone_training_cutoff = 2024-06-30`（OpenAI 仅声明 “June 2024”；本库按月末保守处理）
- `guard_days = 30` → T1 outcome ≤ `2024-05-31`，T2 origin ≥ `2024-07-30`
- `experiment_as_of = 2026-08-17`
**不兼容声明：** 旧 Hub pin（339 题 / `model_training_cutoff=2024-06-01`）为 legacy identity，不得与 v0.9 paper_band / C1 表混比。
## 字段说明
每行一条评测题（JSON object）：
| 字段 | 说明 |
|------|------|
| `task_id` | 全局唯一 ID |
| `category` | VAL / RANK / EVT / FUND / CF / CALC |
| `variant` | 子变体（如 F/T/H、earnings） |
| `cutoff_date` | 用于时间分层的截止日期 |
| `time_band` | T1 / T2 / T3（legacy；论文请用 `paper_band`） |
| `forecast_origin` | 预测时点 |
| `outcome_available_at` | 结果可用日；结合 `outcome_available_at_source` 判断是否为观测值或估计值 |
| `paper_band` | GPT-4.1 论文口径 T1 / T2 / T3 / CF / CALC |
| `status` | ready |
| `seed` | 结构化输入 |
| `prompt` | 已渲染完整 prompt |
| `expected_output` | 输出 schema 说明 |
| `ground_truth` | 评测标签 |
| `metadata` | 元信息 |
## 时间分层
本数据集按可复算规则标注 legacy `time_band`（仅按 `cutoff_date`）：
- `T1`：`cutoff_date <= model_training_cutoff`，可能存在预训练数据泄露
- `T2`：`model_training_cutoff < cutoff_date < reference_current_date`
- `T3`：`cutoff_date >= reference_current_date`，用于未来预测能力测试
默认 legacy 参数（与 paper 身份对齐 cutoff 月，但规则不同）：
- `model_training_cutoff = 2024-06-30`
- `reference_current_date = 2026-08-17`
论文实验请使用侧车 `paper_band`（见代码仓 `docs/schema.md` / `docs/c1_pairing_contract.md`），不要直接用 legacy `time_band` 做 C1。
## 仓库边界
本仓库**只包含**：
- `README.md`（英文 dataset card）
- `README_cn.md`（中文说明）
- `data/<config>/train.jsonl`（ready seeds）
**不包含**代码、scripts、prompts、原始构建 CSV、运行结果等。
## License
[CC-BY-4.0](https://creativecommons.org/licenses/by/4.0/)
|