📦 UltraData 合集 | 🌐 UltraData | 📖 技术报告（即将发布）| 🤗 UltraData-Code | 🤗 UltraData-Code-L2 分类器
English | 中文
## 📚 简介 **UltraData-Stack-v3-L2** 是针对 [The Stack v3](https://huggingface.co/datasets/HuggingFaceCode/stack-v3-train) 中的 11 种编程语言，经过质检清洗和 [UltraData-Code-L2-Classifier](https://huggingface.co/openbmb/UltraData-Code-L2-Classifier) 精筛得到的代码预训练语料，规模约为 **240B tokens**。该数据集将 *UltraData-Code* 提出的语言自适应 L2 精筛框架迁移到另一套源语料，用于检验文件级算法相关性筛选能否泛化到 UltraData-Code-L1 之外的数据来源。 数据构建分为两个阶段。首先，基础清洗会移除全文仅包含 URL、长度过短以及含乱码或格式异常的记录。随后，针对每种语言分别运行 L2 选择器，综合文件角色预测、算法相关性评分、`EXCLUDE` 否决规则与统一的代码质量约束，并为每种语言单独校准算法相关性阈值。最终数据集保留清洗后 11 语言候选池的约 **20.10%**，旨在提高具有可解释计算过程和问题求解逻辑的代码密度，同时保持广泛的语言覆盖。 ## 📢 最新动态 - **[2026.10.12]** [***UltraData-Stack-v3-L2***](https://huggingface.co/datasets/openbmb/UltraData-Stack-v3-L2) 数据集正式发布！🚀🚀🚀 - **[2026.09.07]** [***UltraData-Code***](https://huggingface.co/datasets/openbmb/UltraData-Code) 数据集正式发布！这是 [UltraData](https://ultradata.openbmb.cn/) [L0-L4 分级治理体系](https://arxiv.org/pdf/2602.09003) 的完整实现，覆盖 L0 至 L3 四个代码数据状态，各层对应不同的数据构建阶段。本次开源 **L2**（约 400B tokens）和 **L3**（约 150B tokens），覆盖 11 种编程语言。🚀🚀🚀 - **[2026.09.07]** ***[MiniCPM5-2B](https://huggingface.co/openbmb/MiniCPM5-2B) 正式发布！*** 作为 MiniCPM5 系列在 MiniCPM5-1B 之后的第二款模型，这是一款沿用同一套训练配方放大的 2B 稠密 Transformer，面向端侧、本地部署与资源受限场景，达到 **2B 级开源 SOTA**，整体可与 4B 级模型竞争，并在代码、数学、长上下文、工具调用与 Agent 任务上相对同规模模型更具优势。UltraData-RL-2609 是 MiniCPM5-2B 的核心 RL 数据。🚀🚀🚀 - **[2026.02.08]** [***UltraData***](https://ultradata.openbmb.cn/) 平台正式上线，并发布 [L0-L4 分级数据管理框架](https://arxiv.org/pdf/2602.09003)。🔍🔍🔍 ## 💡 亮点 - **可迁移的算法相关性精筛：** 将 UltraData-Code-L2 使用的统一选择目标和模型接口迁移至 Stack-v3-train，并针对不同语言适配识别证据与筛选阈值。 - **实验结果表现突出：** 在相同的 1B 基座模型与 10B-token 持续预训练设置下，UltraData-Stack-v3-L2 在 EvalPlus 和 MultiPL-E 上的平均 pass@1 分别达到 **30.00** 和 **22.75**，而 Stack-v3-train 对应结果为 **25.37** 和 **17.30**。 ## 📊 数据集统计 Token 数量使用技术报告实验所采用的 tokenizer 估算。 | 语言 | 清洗后文件数 | 筛选后文件数 | 保留率 | Token 占比 | Tokens | |:--|--:|--:|--:|--:|--:| | Python | 96,961,008 | 24,671,724 | 25.44% | 15.86% | 38.94B | | Java | 165,346,828 | 41,963,467 | 25.38% | 28.76% | 70.60B | | JavaScript | 110,967,790 | 14,521,755 | 13.09% | 12.92% | 31.73B | | C++ | 67,981,897 | 17,990,102 | 26.46% | 12.78% | 31.38B | | PHP | 65,565,149 | 5,500,141 | 8.39% | 10.26% | 25.19B | | Ruby | 32,667,620 | 6,389,441 | 19.56% | 2.39% | 5.86B | | Shell | 26,704,436 | 5,045,813 | 18.90% | 8.83% | 21.67B | | C# | 17,309,141 | 3,548,274 | 20.50% | 3.64% | 8.93B | | Go | 29,683,899 | 3,138,105 | 10.57% | 1.65% | 4.04B | | Rust | 11,674,463 | 2,907,231 | 24.90% | 2.13% | 5.24B | | R | 7,640,182 | 1,456,974 | 19.07% | 0.78% | 1.92B | | **总计** | **632,502,413** | **127,133,027** | **20.10%** | **100%** | **245.50B** | ## 📈 评测结果 10B-token 对比均使用相同的 1B 基座模型、训练设置、去污流程和评测协议。 **Python 结果：**在参与评测的 L2 数据中，UltraData-Stack-v3-L2-py 的 EvalPlus 平均 pass@1 位列第二，并在 L2 中取得最高的 MBPP 和 MBPP+ 分数。
