tysgydke/Qwen3-4B-LoopIntervention-Data

Qwen3-4B LoopIntervention - Data

同一数据集也发布于 ModelScope：https://modelscope.cn/datasets/tysgydk/Qwen3-4B-LoopIntervention-Data

This repository collects the self-produced training corpora and evaluation data of the Qwen3-4B LoopIntervention experiments: eight top-level .jsonl files of training text (math reasoning, general web text, Chinese web text, self-distilled thinking chains and pollution-correction pairs), plus an eval_data_20260827/ package holding the four benchmark test sets, 72 evaluation logs and 23 per-question output dumps. All training corpora use a single text field, so they can be consumed directly as supervised fine-tuning targets. Full copies of public source datasets (GSM8K, MATH-500, fineweb, CMMLU, ...) are not included — only the subsets needed for the evaluation package are shipped.

数据集简介

本仓库收纳循环干预实验自产的训练语料与评测数据。仓库内不包含 GSM8K / fineweb / wikitext / MATH-500 / OpenThoughts / NuminaMath / CMMLU 等公开源数据的全量副本，这些请自行从原仓库下载；仓库只保留了评测包 eval_data_20260827/datasets/ 中实际用到的那几个测试集子集，以保证评测可复现。

数据构造脚本见主仓库 Qwen3-4B-LoopIntervention/scripts/build_*.py（该主仓库不在本数据集内）。

• 顶层 8 个 *.jsonl 为训练语料，每行一个 JSON 对象，主字段一律是 text（已按 Qwen3 的 <|im_start|>…<|im_end|> chat 模板拼好或为纯文本）；
• eval_data_20260827/ 为四测试集发布级复验的原始数据包，含题目、日志与逐题输出；
• 顶层 dataset_infos.json 为遗留元数据文件，只声明了一个 default 配置（problem / answer / url，test split），不足以描述本仓库的多文件结构，请勿据此用 datasets 库直接 load_dataset。

顶层训练语料

文件	实测条数	字段	内容	用途（作者原说明）
mix_v1.jsonl	14,973	text	混合语料：GSM8K + fineweb-edu + Ultra-FineWeb-zh	蓝莓（intervmix）混合数据
gen_v1.jsonl	7,500	text	fineweb-edu + Ultra-FineWeb-zh 文本域语料	文本专才（intervgen）
cot_mix_v1.jsonl	6,515	text	思维链语料（数学:通用:文本 ≈ 4:4:2），Qwen3 think 格式	思维链后训练（intervcot1536）
pollute_v1.jsonl	7,471	text, kind	污染纠错数据 v1（错解 + double-check + 正解）	草莓 v1
pollute_v1s.jsonl	7,194	text, kind	污染纠错数据 v1s（终版，修复伪迹）	草莓（intervpollute）
selfthink_v1.jsonl	1,067	text, q, gold, ntok	Qwen3-4B thinking 自蒸馏得到的正确推理链	思考专家 v1
thinkmix_v2.jsonl	1,517	text	思维体截断接真尾 + 30% GSM8K 短答案	思考专家 v2
math_corr_v1.jsonl	61	text, kind, i, gold	MATH-500 真实错误 → 修正配对	真实错误纠错（intervmathcorr）

条数均为本次实测的 jsonl 行数（逐个 JSON 对象计数）。作者原 README 将 selfthink_v1.jsonl 记为 1,069 条，与实测 1,067 条略有出入，本卡以实测为准。

字段说明

text 之外的辅助字段含义：

字段	出现于	含义
kind	pollute_v1, pollute_v1s	样本类型：clean 正确解 / polluted_final 污染最终答案 / polluted_opflip 污染中间运算
kind	math_corr_v1	固定为 math_corr
q	selfthink_v1	原始问题文本
gold	selfthink_v1, math_corr_v1	参考答案（selfthink_v1 为数值/表达式答案；math_corr_v1 为 \boxed{} 内的标准答案 LaTeX）
i	math_corr_v1	该题在 MATH-500 中的下标
ntok	selfthink_v1	该条 thinking 链的 token 数

pollute_v1s.jsonl 的 kind 分布（实测）：clean 3,738 / polluted_final 2,227 / polluted_opflip 1,229。

数据样例

pollute_v1s.jsonl（截断）：

{"text": "Every bedtime, Juwella reads a book. ... Thus, she needs to read 100 - 80 = <<100-80=20>>20 pages tonight to finish the book.\n#### 20", "kind": "clean"}

math_corr_v1.jsonl（截断）：

{"text": "<think>\n\nWe use the formulas ... Wait, let me double-check that. The correct answer is \\left( 3, \\frac{\\pi}{2} \\right).", "kind": "math_corr", "i": 0, "gold": "\\left( 3, \\frac{\\pi}{2} \\right)"}

评测数据包 eval_data_20260827/

四测试集（AIME2024 / CMMLU 抽样 200 / GSM8K / MATH-500）发布级复验的原始数据包，三层结构：

eval_data_20260827/
├── datasets/    四测试集题目
├── logs/        72 个评测日志
└── outputs/     23 个逐题详情原始输出（jsonl / json）

datasets/ —— 测试集题目

路径	条数	字段	说明
aime2024.jsonl	30	problem, answer, url	AIME 2024 题目；url 指向 AoPS wiki 题解页
cmmlu_sample200.jsonl	200	question, A~`D, answer`	CMMLU 抽样 200 题，中文四选一
math500/test.jsonl	500	problem, solution, answer, subject, level, unique_id	MATH-500 全部 500 题（该子目录另附 README.md、dataset_infos.json、eval.yaml）
gsm8k2/main/*.parquet	7,473 / 1,319	question, answer	GSM8K main 配置的 train / test（Parquet 分片，另附 README.md、eval.yaml）
gsm8k2/socratic/*.parquet	7,473 / 1,319	question, answer	GSM8K socratic 配置的 train / test

eval.yaml 是给 inspect-ai 用的评测配置，声明 field_spec（input / target 字段）、epochs: 4、epoch_reducer: pass_at_1、统一的 prompt_template（要求以 Therefore, the final answer is: $\boxed{ANSWER}$. I hope it is correct 收尾）以及 model_graded_fact scorer。

gsm8k2/ 与 math500/ 下的 README.md 是这两个公开数据集原始的上游 dataset card，为保可追溯性随包保留，其 front matter 中的 license 为上游许可（GSM8K 为 MIT），不适用于本仓库其余内容。

logs/ —— 72 个评测日志

纯文本日志，文件名形如 eval_<设置>.log。内容为逐题进度行，例如 eval_gsm8k_base.log：

1/100 ok=1 len=1971 (累计60s)
2/100 ok=2 len=874 (累计86s)
8/100 ok=8 len=8192 (累计737s)
...

即「题序 / 总题数、是否答对、生成长度、累计耗时」。文件名覆盖各消融设置，如 eval_math500_base、eval_math500_samp、eval_gsm8k_loop2x、eval_loop2x_60、eval_loop3_60、eval_corr_pollute、eval_cmmlu_base / eval_cmmlu_loop2x、eval_aime_base / eval_aime_loop2x、eval_think_on / eval_think_off、eval_base_think_on_cap64|128|256|1024|4096 等。日志本身是实验过程记录，不是权威分数表。

outputs/ —— 23 个逐题输出

逐题详情 dump，绝大多数是 .jsonl，另有少量 .json。.jsonl 每行一题：

字段	含义
i	题目下标
think	该次推理是否开启 thinking（on / off）
pred	模型预测答案
gold	参考答案
ok	是否判对（布尔）
ntok	生成长度（token）
text	模型完整原始输出（含 <think> 段）

eval_gen_results.json 是聚合结果，例如：

{"r1": {"acc": 0.7166666666666667, "n": 60}, "r2": {"acc": 0.75, "n": 60}}

即两种设置各在 60 题上的准确率（该文件不额外说明这 60 题取自哪个测试集）。

规模

项	值
文件数（blob）	120
目录数（tree）	8
仓库体积	74,044,938 字节（约 0.07 GB）
训练语料总条数	46,298（8 个顶层 jsonl 实测之和）
评测日志 / 逐题输出	72 / 23

使用方法

训练语料都是 UTF-8 的 JSON Lines，逐行读即可：

import json

with open("cot_mix_v1.jsonl", encoding="utf-8") as f:
    for line in f:
        sample = json.loads(line)
        text = sample["text"]          # 已拼好 chat 模板或纯文本
        # ... 作为 SFT 的 text 字段使用

注意：

• 各文件都是已拼接好的文本，不做输入/输出切分；若要构造 (prompt, response) 对，需按 Qwen3 的 <|im_start|>user … <|im_end|><|im_start|>assistant … 模板自行切分（cot_mix_v1、selfthink_v1 就是这种格式）。
• 评测包按「题目 → 评测 → 逐题输出」的顺序使用：datasets/ 取题（eval.yaml 给出 inspect-ai 的字段映射），运行后与 outputs/ 中同类设置的 dump 逐题对比。
• 本仓库不含 GSM8K / MATH-500 / CMMLU / fineweb 等源数据的全量副本，若需在完整数据集上训练或评测，请从各上游仓库另行下载。

已知限制与注意事项

• datasets/aime2024.jsonl、cmmlu_sample200.jsonl、gsm8k2/、math500/ 中混有公开数据集（AIME 2024 题目、CMMLU、GSM8K、MATH-500）。这些内容的版权与许可归各自上游所有，本仓库的 Apache-2.0 只覆盖作者自产的语料、日志与输出。
• 评测包内含答案，outputs/ 中含模型输出，用于训练会造成测试集泄露，请自行隔离。
• 未说明的信息：训练语料的原始来源清单与配比只在作者原 README 中作概述（如 mix_v1 为 50% GSM8K + 30% fineweb-edu + 20% Ultra-FineWeb-zh），具体抽样版本、随机种子、去重与过滤流程均未说明；gen_v1 / thinkmix_v2 的构造细节、selfthink_v1 的 1,067 条与作者所述 1,069 条之间的差异原因、outputs/ 各文件对应的完整超参设置、以及任何模型评测分数，本仓库均未给出可核验的说明。
• 顶层 dataset_infos.json 与实际内容不匹配（只描述了一个 problem/answer/url 三字段的 test 配置），使用前请忽略或按需自行改写。

引用

本数据集未附论文或 BibTeX。引用时请指向数据来源：

@misc{qwen3_4b_loopintervention_data,
  author = {我本是我沐},
  title  = {Qwen3-4B LoopIntervention - Data},
  year   = {2026},
  publisher = {ModelScope},
  url    = {https://modelscope.cn/datasets/tysgydk/Qwen3-4B-LoopIntervention-Data}
}

许可与联系

• 许可协议：Apache License 2.0（仅覆盖作者自产内容；内附的 GSM8K / MATH-500 / CMMLU / AIME 题目遵循各自上游许可）。本仓库随附许可全文 LICENSE
• 作者：我本是我沐（ModelScope: @tysgydk；Hugging Face: @tysgydke）
• 问题反馈：请在数据集页面评论区留言