| # UltraData-Code |
|
|
| <div align="center"> |
| <img src="assets/ultradata-code-logo.png" width="600" alt="UltraData-Code 标志"/> |
| </div> |
|
|
| <p align="center"> |
| <a href="https://huggingface.co/collections/openbmb/ultradata">📦 UltraData 合集</a> | |
| <a href="https://ultradata.openbmb.cn/">🌐 UltraData</a> | |
| <a href="https://huggingface.co/collections/openbmb/minicpm5">🤗 MiniCPM5 系列</a> | |
| <a href="https://huggingface.co/datasets/openbmb/UltraData-Code/blob/main/tech_report/UltraData_Code_Tech_Report.pdf">📖 技术报告</a> | |
| <a href="https://huggingface.co/openbmb/UltraData-Code-L2-Classifier">🤗 UltraData-Code-L2 分类器</a> |
| </p> |
|
|
| <p align="center"><a href="https://huggingface.co/datasets/openbmb/UltraData-Code/blob/main/README.md">English</a> | 中文</p> |
|
|
| ## 📚 简介 |
|
|
| UltraData-Code 是基于 [UltraData](https://ultradata.openbmb.cn/) [L0-L4 分级治理体系](https://arxiv.org/pdf/2602.09003) 的一次完整实现，覆盖 L0 至 L3 的分级代码数据，各层对应不同的数据构建阶段。流水线从 L0 约 **1.92 亿** 个公开 GitHub 仓库出发；本次发布包含 11 种编程语言上的 **UltraData-Code-L2**（约 **400B tokens**）和 **UltraData-Code-L3**（约 **150B tokens**）。 |
|
|
| <div align="center"> |
| <img src="assets/ultradata-code-l0-l3-overview.png" width="760" alt="UltraData-Code L0-L3 construction pipeline"/> |
| </div> |
|
|
| **L0：仓库归档层。** 从约 1.92 亿个公开 [GitHub](https://github.com/) 仓库中保留默认分支上的最新版本，以及相应的代码、目录结构、文件关系和来源信息，为后续处理提供完整的原始数据和溯源记录。 |
|
|
| **L1：规范化自然代码层。** 在 L0 基础上进行规模化过滤清洗、格式规范化和近重复去重。通用规则排除过大文件、无效路径、不支持的文本和明显异常内容。随后根据语言和文件类型执行针对性的质量检查、归一化与内容清理。去重阶段按文件扩展名划分数据分区，使用 MinHash 生成签名并通过 LSH 检索候选近重复文件。相似度边用于构建连通分量。对于包含多个近重复文件的文件组，保留排名靠前的 50%。未发现近重复项的文件全部保留，最终形成标准化的自然代码语料。 |
|
|
| **L2：算法相关代码精筛层。** 面向 11 种编程语言，从 L1 中筛选约为 **400B tokens** 的算法相关代码。我们提出一种语言自适应筛选框架，将文件角色监督与语言特定启发式线索结合，学习超越显式 ALGO 文件的算法相关性。该框架在文件角色、算法相关性和代码质量模型之间复用预计算语义表征，最终结合角色与质量约束完成筛选。在相同的 1B 基座模型和 10B-token 持续预训练预算下，L2 相比 L1 在 EvalPlus 和 MultiPL-E 上分别提升 7.80 和 5.13 个百分点，相比 Stack-Edu 分别提升 4.37 和 3.05 个百分点。 |
|
|
| **L3：任务导向合成层。** 我们提出一种结构化合成协议，以 L2 中 ALGO 文件作为种子，并基于源实现生成相互对应的任务、分析、解答和测试字段。L3 覆盖相同的 11 种编程语言，规模约为 **150B tokens**。在相同的 1B 基座模型和 10B-token 持续预训练预算下，将一半 L2 训练 token 替换为 L3 后，模型在 EvalPlus 和 MultiPL-E 上较仅使用 L2 的训练分别进一步提升 8.42 和 8.07 个百分点。 |
|
|
|
|
| ## 📢 最新动态 |
|
|
| - **[2026.10.16]** [***UltraData-Code 技术报告***](https://huggingface.co/datasets/openbmb/UltraData-Code/blob/main/tech_report/UltraData_Code_Tech_Report.pdf) 正式发布！🚀🚀🚀 |
| - **[2026.10.12]** [***UltraData-Stack-v3-L2***](https://huggingface.co/datasets/openbmb/UltraData-Stack-v3-L2) 数据集正式发布！🚀🚀🚀 |
| - **[2026.09.07]** [***UltraData-Code***](https://huggingface.co/datasets/openbmb/UltraData-Code) 数据集正式发布！这是 [UltraData](https://ultradata.openbmb.cn/) [L0-L4 分级治理体系](https://arxiv.org/pdf/2602.09003) 的完整实现，覆盖 L0 至 L3 四个代码数据状态，各层对应不同的数据构建阶段。本次开源 **L2**（约 400B tokens）和 **L3**（约 150B tokens），覆盖 11 种编程语言。🚀🚀🚀 |
| - **[2026.09.07]** ***[MiniCPM5-2B](https://huggingface.co/openbmb/MiniCPM5-2B) 正式发布！*** 作为 MiniCPM5 系列在 MiniCPM5-1B 之后的第二款模型，这是一款沿用同一套训练配方放大的 2B 稠密 Transformer，面向端侧、本地部署与资源受限场景，达到 **2B 级开源 SOTA**，整体可与 4B 级模型竞争，并在代码、数学、长上下文、工具调用与 Agent 任务上相对同规模模型更具优势。UltraData-RL-2609 是 MiniCPM5-2B 的核心 RL 数据。🚀🚀🚀 |
| - **[2026.02.08]** [***UltraData***](https://ultradata.openbmb.cn/) 平台正式上线，并发布 [L0-L4 分级数据管理框架](https://arxiv.org/pdf/2602.09003)。🔍🔍🔍 |
|
|
| ## 💡 亮点 |
|
|
| > **摘要：** 代码生成已成为大语言模型（LLMs）的核心能力，而代码数据则是形成这一能力的预训练过程中的关键要素。随着获取高质量公开代码数据的难度日益增加，仅依赖语料规模扩张已难以推动模型能力持续提升。为此，分层数据管理通过对规模逐级缩减的数据池实施针对性不断增强的处理，构建适配不同训练目标的数据形态。基于这一理念，本文提出 **UltraData-Code**，其包含四个相互衔接的数据层级：L0 层的代码仓库归档、L1 层的标准化自然代码、L2 层的算法导向筛选，以及 L3 层的任务导向合成。其中，L0 层完整保留代码仓库数据及其来源信息，以支持后续再处理；L1 层通过可扩展的过滤、规范化与近重复数据消除，为通用预训练提供标准化代码数据；L2 层利用语言自适应的相关性信号与质量约束，筛选具有较高质量和算法相关性的代码文件，最终构建覆盖 11 种编程语言、规模约为 400B tokens 的 **UltraData-Code-L2**，用于面向特定能力的持续预训练；L3 层则将筛选后的代码实现转化为结构化编程练习，形成覆盖相同 11 种编程语言、规模约为 150B tokens 的 **UltraData-Code-L3**，适用于任务导向的中期训练或监督微调（SFT）。在受控实验中，我们使用 10B tokens 的数据对一个 1B 模型进行持续预训练。结果表明，与 L1 相比，L2 使模型在 EvalPlus 和 MultiPL-E 基准上的 pass@1 分别提升 **7.80** 和 **5.13** 个百分点。进一步以 L3 数据替换一半的 L2 训练 tokens 后，模型在上述两个基准上的性能分别再提升 **8.42** 和 **8.07** 个百分点。当训练预算扩展至 100B tokens 时，这两类性能增益均进一步扩大。为推动大语言模型相关研究，我们已公开所构建的数据集与分类器。 |
|
|
| - **完整的代码数据构建流水线：** 将仓库归档和规范化自然代码与细粒度精筛、结构化合成连接起来，在 11 种编程语言上分别形成约 400B tokens 的 L2 和约 150B tokens 的 L3。相关数据集现已公开发布，旨在推动大语言模型的研发与能力提升。 |
| - **细粒度算法相关代码精筛：** 我们提出一种语言自适应筛选框架，将文件角色监督与语言特定启发式线索结合，学习代码文件的算法相关性。该框架在文件角色、算法相关性和代码质量模型之间复用预计算语义表征，最终结合角色与质量约束完成筛选。 |
| - **任务导向合成：** 我们提出一种结构化合成方案，将 L2 筛选出的每个算法相关实现转化为一道编程练习，并基于同一源实现联合生成独立完整的任务、分析、解答与候选测试用例。该转换既保留了源代码的计算意图，又为代码生成引入了显式的任务监督与解答监督。 |
|
|
| ## 📈 评测结果 |
|
|
| 10B-token 对比均使用相同的 1B 基座模型、训练设置、去污流程和评测协议。 |
|
|
| ### Python 结果 |
|
|
| - **算法相关性精筛带来最强的自然代码结果。** UltraData-Code-L2-py 的 EvalPlus 平均 pass@1 比 UltraData-Code-L1-py 提升 **17.91 个百分点**，比 Stack-Edu-py 提升 **8.46 个百分点**。 |
| - **结构化合成提升等 token 混合训练效果。** UltraData-Code-L2-py 与 UltraData-Code-L3-py 的等 token 混合训练平均 pass@1 达到 **46.43**，比仅使用 L2 高 **3.30 个百分点**，比对应的 L2 + SwallowCode-v2 混合训练高 **4.46 个百分点**。 |
|
|
| <div align="center"> |
| <img src="assets/python-training-dynamics.png" alt="Python 训练动态" width="760"/> |
| </div> |
|
|
| <div align="center"> |
| <img src="assets/python_results.png" alt="Python 主结果表" width="900"/> |
| </div> |
|
|
| ### 多语言结果 |
|
|
| - **L2 精筛优于自然代码基线。** UltraData-Code-L2 相比 UltraData-Code-L1 在 EvalPlus 和 MultiPL-E 上分别提升 **7.80** 和 **5.13 个百分点**，相比 Stack-Edu 分别提升 **4.37** 和 **3.05 个百分点**。 |
| - **L3 合成带来进一步提升。** 将一半 L2 训练 token 替换为 L3 后，相比仅使用 L2 的训练，EvalPlus 和 MultiPL-E 分别提升 **8.42** 和 **8.07 个百分点**。在相同的 1:1 token 配比下，UltraData-Code-L2-L3 混合训练相比最强的合成数据基线，两个基准分别提升 **5.57** 和 **7.80 个百分点**。 |
| - **优势在规模扩展中持续存在。** 在 100B tokens 训练规模下，L2-L3 混合训练在 EvalPlus 和 MultiPL-E 上分别达到 57.06 和 39.54，相比仅使用 L2 的训练分别高 10.11 和 12.39 个百分点。 |
|
|
| <div align="center"> |
| <img src="assets/multilingual-training-dynamics.png" alt="多语言训练动态" width="760"/> |
| </div> |
|
|
| <div align="center"> |
| <img src="assets/multilingual_results.png" alt="多语言主结果表" width="900"/> |
| </div> |
|
|
| ## 🧾 数据格式 |
|
|
| ### UltraData-Code-L2 |
|
|
| 每行对应一个精筛源代码文件，字段包括： |
|
|
| - `uuid`：文件唯一标识。 |
| - `repo_name`：来源仓库名称。 |
| - `relative_path`：相对仓库根目录的文件路径。 |
| - `content`：代码文本。 |
| - `category`：预测的文件角色，如 `ALGO`、`WEB`、`TOOL`、`DATA`、`TEST`、`CONFIG`。 |
| - `algo_rel_score`：算法相关性分数，范围为 `[0, 1]`。 |
| - `quality_score`：代码质量分数，范围为 `[0, 10]`。 |
|
|
| ### UltraData-Code-L3 |
|
|
| 每行是一个基于真实实现构建的编程练习，字段包括： |
|
|
| - `uuid`：文件唯一标识。 |
| - `content`：包含 task 和 solution 字段的序列化文本。 |
| - `content_format`：`content` 的序列化格式。 |
| - `raw_content`：序列化前的原始生成记录。 |
| - `task`：生成的独立任务描述。 |
| - `analysis`：算法、边界情况与复杂度分析。 |
| - `solution`：生成的自包含参考实现。 |
| - `test`：生成的测试候选。 |
| - `full_content`：包含全部生成字段的序列化文本。 |
| - `full_content_format`：`full_content` 的序列化格式。 |
|
|
| ## ❤️ 致谢 |
|
|
| - ***UltraData-Code-L2*** 使用 [Qwen3-Embedding-0.6B](https://huggingface.co/Qwen/Qwen3-Embedding-0.6B) 计算文件级语义 embedding。 |
|
|
| 感谢这些优秀开源工作，正是开源社区的贡献让 UltraData-Code 成为可能！🙌 |
|
|
| ## 💳 许可与数据来源 |
|
|
| 本项目按 [Apache 2.0](./LICENSE) 许可证发布。***UltraData-Code*** 来自多个公开代码仓库中的代码（L2），以及基于这些文件生成的任务记录（L3）。使用者还须遵守各源仓库的 **LICENSE**。Apache 2.0 不会覆盖或取代这些条款。 |
|
|
| 仓库公开可访问不等于授予再分发、商用或训练许可。权利人可通过数据集页面的联系方式申请移除。 |
|
|
| 本数据集不应包含明文密钥或未经授权的个人数据。如发现敏感内容或需要下架，请通过同一渠道报告。 |
|
|
| **禁止未经授权的原样转载：** 未经原作者（或本组织）事先书面许可，任何机构、组织或第三方平台严禁以任何形式直接转载、镜像、重新托管，或对项目产物进行商业化重新包装后再发布。 |
|
|
| ## 📖 引用 |
|
|
| 如果 **UltraData-Code** 对您的研究有帮助，请考虑引用： |
|
|
| ```bibtex |
| @misc{ultradata_code, |
| title = {{UltraData-Code}: From Raw Repositories to Algorithmically Dense and Task-Oriented Code Data}, |
| author = {Chengying Tu and Hengyu Zhao and Shuaikang Xue and Zhongming Qu and Jihao Zhou and Xinle Lin and Junshao Guo and Zixuan Fu and Qiang Ma and Jie Zhou and Chaojun Xiao and Hongfei Yan and Yudong Wang and Xu Han and Zhiyuan Liu and Maosong Sun}, |
| year = {2026}, |
| publisher = {Hugging Face}, |
| howpublished = {\url{https://huggingface.co/datasets/openbmb/UltraData-Code}} |
| } |
| ``` |
|
|
