Datasets:
UltraData-Stack-v3-L2
📦 UltraData 合集 | 🌐 UltraData | 📖 技术报告（即将发布）| 🤗 UltraData-Code | 🤗 UltraData-Code-L2 分类器
English | 中文
📚 简介
UltraData-Stack-v3-L2 是针对 The Stack v3 中的 11 种编程语言，经过质检清洗和 UltraData-Code-L2-Classifier 精筛得到的代码预训练语料，规模约为 240B tokens。该数据集将 UltraData-Code 提出的语言自适应 L2 精筛框架迁移到另一套源语料，用于检验文件级算法相关性筛选能否泛化到 UltraData-Code-L1 之外的数据来源。
数据构建分为两个阶段。首先，基础清洗会移除全文仅包含 URL、长度过短以及含乱码或格式异常的记录。随后，针对每种语言分别运行 L2 选择器，综合文件角色预测、算法相关性评分、EXCLUDE 否决规则与统一的代码质量约束，并为每种语言单独校准算法相关性阈值。最终数据集保留清洗后 11 语言候选池的约 **20.10%**，旨在提高具有可解释计算过程和问题求解逻辑的代码密度，同时保持广泛的语言覆盖。
📢 最新动态
- [2026.10.12] UltraData-Stack-v3-L2 数据集正式发布！🚀🚀🚀
- [2026.09.07] UltraData-Code 数据集正式发布！这是 UltraData L0-L4 分级治理体系 的完整实现，覆盖 L0 至 L3 四个代码数据状态，各层对应不同的数据构建阶段。本次开源 L2（约 400B tokens）和 L3（约 150B tokens），覆盖 11 种编程语言。🚀🚀🚀
- [2026.09.07] MiniCPM5-2B 正式发布！ 作为 MiniCPM5 系列在 MiniCPM5-1B 之后的第二款模型，这是一款沿用同一套训练配方放大的 2B 稠密 Transformer，面向端侧、本地部署与资源受限场景，达到 2B 级开源 SOTA，整体可与 4B 级模型竞争，并在代码、数学、长上下文、工具调用与 Agent 任务上相对同规模模型更具优势。UltraData-RL-2609 是 MiniCPM5-2B 的核心 RL 数据。🚀🚀🚀
- [2026.02.08] UltraData 平台正式上线，并发布 L0-L4 分级数据管理框架。🔍🔍🔍
💡 亮点
- 可迁移的算法相关性精筛： 将 UltraData-Code-L2 使用的统一选择目标和模型接口迁移至 Stack-v3-train，并针对不同语言适配识别证据与筛选阈值。
- 实验结果表现突出： 在相同的 1B 基座模型与 10B-token 持续预训练设置下，UltraData-Stack-v3-L2 在 EvalPlus 和 MultiPL-E 上的平均 pass@1 分别达到 30.00 和 22.75，而 Stack-v3-train 对应结果为 25.37 和 17.30。
📊 数据集统计
Token 数量使用技术报告实验所采用的 tokenizer 估算。
| 语言 | 清洗后文件数 | 筛选后文件数 | 保留率 | Token 占比 | Tokens |
|---|---|---|---|---|---|
| Python | 96,961,008 | 24,671,724 | 25.44% | 15.86% | 38.94B |
| Java | 165,346,828 | 41,963,467 | 25.38% | 28.76% | 70.60B |
| JavaScript | 110,967,790 | 14,521,755 | 13.09% | 12.92% | 31.73B |
| C++ | 67,981,897 | 17,990,102 | 26.46% | 12.78% | 31.38B |
| PHP | 65,565,149 | 5,500,141 | 8.39% | 10.26% | 25.19B |
| Ruby | 32,667,620 | 6,389,441 | 19.56% | 2.39% | 5.86B |
| Shell | 26,704,436 | 5,045,813 | 18.90% | 8.83% | 21.67B |
| C# | 17,309,141 | 3,548,274 | 20.50% | 3.64% | 8.93B |
| Go | 29,683,899 | 3,138,105 | 10.57% | 1.65% | 4.04B |
| Rust | 11,674,463 | 2,907,231 | 24.90% | 2.13% | 5.24B |
| R | 7,640,182 | 1,456,974 | 19.07% | 0.78% | 1.92B |
| 总计 | 632,502,413 | 127,133,027 | 20.10% | 100% | 245.50B |
📈 评测结果
10B-token 对比均使用相同的 1B 基座模型、训练设置、去污流程和评测协议。
Python 结果：在参与评测的 L2 数据中，UltraData-Stack-v3-L2-py 的 EvalPlus 平均 pass@1 位列第二，并在 L2 中取得最高的 MBPP 和 MBPP+ 分数。
多语言结果：UltraData-Stack-v3-L2 在 EvalPlus 和 MultiPL-E 上分别比 Stack-v3-train 高 4.63 和 5.45 个百分点，验证了 L2 语言自适应筛选方法的有效性。
❤️ 致谢
UltraData-Stack-v3-L2 基于 The Stack v3 构建。选择框架来自 UltraData-Code 的 UltraData-Code-L2-Classifier，文件级表示使用 Qwen3-Embedding-0.6B 计算。
感谢上述开源项目的作者与贡献者。
💳 许可证
本数据集基于 Open Data Commons Attribution License (ODC-By) v1.0 发布，与源数据集 The Stack v3 保持一致。使用 UltraData-Stack-v3-L2 中收录的全部或部分代码时，必须遵守其原始许可证的相关条款，包括适用的署名要求。
📖 引用
如果本数据集对您的研究有帮助，请考虑引用：
@misc{ultradata_code,
title = {{UltraData-Code}: From Raw Repositories to Algorithmically Dense and Task-Oriented Code Data},
author = {Chengying Tu and Hengyu Zhao and Shuaikang Xue and Zhongming Qu and Jihao Zhou and Xinle Lin and Junshao Guo and Zixuan Fu and Qiang Ma and Jie Zhou and Chaojun Xiao and Hongfei Yan and Yudong Wang and Xu Han and Zhiyuan Liu and Maosong Sun},
year = {2026},
publisher = {Hugging Face},
howpublished = {\url{https://huggingface.co/datasets/openbmb/UltraData-Code}}
}