File size: 1,863 Bytes
149da17 7135d19 e8dd8ed 5fda144 e8dd8ed 7135d19 e8dd8ed 7135d19 e8dd8ed 7135d19 e8dd8ed f2f99df e8dd8ed | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 | # TextInsightBench
[English](README.md) | **简体中文**
自然语言数据挖掘 Agent benchmark：**50 道任务、435,000 篇任务文本、944,468 篇无标签学习文本**。
每题 5,000 或 10,000 篇，Agent 自选分析条件、范围及比较对象，最多提交 3 个发现，附完整文档分类、精确引用、统计量、反例与局限。不限定分析方法。
## 包含什么
- `tasks.json`：题目与约束。
- `corpora/*.jsonl.gz`：每题完整原文。
- `learning/*/*.parquet`：可选无标签学习池。
- `output.schema.json`：输出格式。
- `protocol.json`、`release.json`、`manifest.json`：协议、数量与文件校验。
语料来自 Amazon Beauty、Android App Reviews、CFPB 和 NHTSA。任务包含 20 道群体差异、15 道时间变化、15 道复合关联。
## 使用
```bash
git clone https://github.com/erwinmsmith/TextInsightBench.git
cd TextInsightBench
python -m venv .venv
source .venv/bin/activate
pip install -e .
tib download --output data/participant
tib verify --data data/participant
```
下载使用代码仓库锁定的提交；需要学习池时加 `--with-learning`。
[接入、续跑及评分](docs/USAGE.zh-CN.md) · [数据字段](docs/DATA.md) · [代码仓库](https://github.com/erwinmsmith/TextInsightBench) · [测评资源](https://huggingface.co/datasets/CodeSoulco/TextInsightBench-Evaluation)
## 评估
本地全量检查分类、引用与算术；模型先盲检抽样原文，再评审发现质量。语义评审收费、不是全量确认，也不等于独立 ground truth。任务没有固定参考结论，按原文证据及公开规则评分。
任务与学习池 ID 不重叠，但数据此前公开，实体和来源可共享，任务并非统计独立。原文是未经核实的作者叙述，可能含个人信息。[来源与使用条款](SOURCES.md)。
|