Blame for README_ZH.md

# UltraData-Stack-v3-L2

<div align="center">
  <img src="assets/ultradata-stack-v3-l2-logo.png" width="600" alt="UltraData-Stack-v3-L2 标志"/>
</div>

<p align="center">
<a href="https://huggingface.co/collections/openbmb/ultradata">📦 UltraData 合集</a> |
<a href="https://ultradata.openbmb.cn/">🌐 UltraData</a> |
<a href="https://arxiv.org/pdf/2610.23960">📖 技术报告</a> |
<a href="https://huggingface.co/datasets/openbmb/UltraData-Code">🤗 UltraData-Code</a> | 
<a href="https://huggingface.co/openbmb/UltraData-Code-L2-Classifier">🤗 UltraData-Code-L2 分类器</a>
</p>

<p align="center"><a href="https://huggingface.co/datasets/openbmb/UltraData-Stack-v3-L2/blob/main/README.md">English</a> | 中文</p>

## 📚 简介

**UltraData-Stack-v3-L2** 是针对 [The Stack v3](https://huggingface.co/datasets/HuggingFaceCode/stack-v3-train) 中的 11 种编程语言，经过质检清洗和 [UltraData-Code-L2-Classifier](https://huggingface.co/openbmb/UltraData-Code-L2-Classifier) 精筛得到的代码预训练语料，规模约为 **240B tokens**。该数据集将 *UltraData-Code* 提出的语言自适应 L2 精筛框架迁移到另一套源语料，用于检验文件级算法相关性筛选能否泛化到 UltraData-Code-L1 之外的数据来源。

数据构建分为两个阶段。首先，基础清洗会移除全文仅包含 URL、长度过短以及含乱码或格式异常的记录。随后，针对每种语言分别运行 L2 选择器，综合文件角色预测、算法相关性评分、`EXCLUDE` 否决规则与统一的代码质量约束，并为每种语言单独校准算法相关性阈值。最终数据集保留清洗后 11 语言候选池的约 **20.10%**，旨在提高具有可解释计算过程和问题求解逻辑的代码密度，同时保持广泛的语言覆盖。

## 📢 最新动态

- **[2026.10.16]** [***UltraData-Code 技术报告***](https://huggingface.co/datasets/openbmb/UltraData-Code/blob/main/tech_report/UltraData_Code_Tech_Report.pdf) 正式发布！🚀🚀🚀
- **[2026.10.12]** [***UltraData-Stack-v3-L2***](https://huggingface.co/datasets/openbmb/UltraData-Stack-v3-L2) 数据集正式发布！🚀🚀🚀
- **[2026.09.07]** [***UltraData-Code***](https://huggingface.co/datasets/openbmb/UltraData-Code) 数据集正式发布！这是 [UltraData](https://ultradata.openbmb.cn/) [L0-L4 分级治理体系](https://arxiv.org/pdf/2602.09003) 的完整实现，覆盖 L0 至 L3 四个代码数据状态，各层对应不同的数据构建阶段。本次开源 **L2**（约 400B tokens）和 **L3**（约 150B tokens），覆盖 11 种编程语言。🚀🚀🚀
- **[2026.09.07]** ***[MiniCPM5-2B](https://huggingface.co/openbmb/MiniCPM5-2B) 正式发布！*** 作为 MiniCPM5 系列在 MiniCPM5-1B 之后的第二款模型，这是一款沿用同一套训练配方放大的 2B 稠密 Transformer，面向端侧、本地部署与资源受限场景，达到 **2B 级开源 SOTA**，整体可与 4B 级模型竞争，并在代码、数学、长上下文、工具调用与 Agent 任务上相对同规模模型更具优势。UltraData-RL-2609 是 MiniCPM5-2B 的核心 RL 数据。🚀🚀🚀
- **[2026.02.08]** [***UltraData***](https://ultradata.openbmb.cn/) 平台正式上线，并发布 [L0-L4 分级数据管理框架](https://arxiv.org/pdf/2602.09003)。🔍🔍🔍

## 💡 亮点

- **可迁移的算法相关性精筛：** 将 UltraData-Code-L2 使用的统一选择目标和模型接口迁移至 Stack-v3-train，并针对不同语言适配识别证据与筛选阈值。
- **实验结果表现突出：** 在相同的 1B 基座模型与 10B-token 持续预训练设置下，UltraData-Stack-v3-L2 在 EvalPlus 和 MultiPL-E 上的平均 pass@1 分别达到 **30.00** 和 **22.75**，而 Stack-v3-train 对应结果为 **25.37** 和 **17.30**。

## 📊 数据集统计

Token 数量使用技术报告实验所采用的 tokenizer 估算。

| 语言 | 清洗后文件数 | 筛选后文件数 | 保留率 | Token 占比 | Tokens |
|:--|--:|--:|--:|--:|--:|
| Python | 96,961,008 | 24,671,724 | 25.44% | 15.86% | 38.94B |
| Java | 165,346,828 | 41,963,467 | 25.38% | 28.76% | 70.60B |
| JavaScript | 110,967,790 | 14,521,755 | 13.09% | 12.92% | 31.73B |
| C++ | 67,981,897 | 17,990,102 | 26.46% | 12.78% | 31.38B |
| PHP | 65,565,149 | 5,500,141 | 8.39% | 10.26% | 25.19B |
| Ruby | 32,667,620 | 6,389,441 | 19.56% | 2.39% | 5.86B |
| Shell | 26,704,436 | 5,045,813 | 18.90% | 8.83% | 21.67B |
| C# | 17,309,141 | 3,548,274 | 20.50% | 3.64% | 8.93B |
| Go | 29,683,899 | 3,138,105 | 10.57% | 1.65% | 4.04B |
| Rust | 11,674,463 | 2,907,231 | 24.90% | 2.13% | 5.24B |
| R | 7,640,182 | 1,456,974 | 19.07% | 0.78% | 1.92B |
| **总计** | **632,502,413** | **127,133,027** | **20.10%** | **100%** | **245.50B** |

## 📈 评测结果

10B-token 对比均使用相同的 1B 基座模型、训练设置、去污流程和评测协议。

**Python 结果：**在参与评测的 L2 数据中，UltraData-Stack-v3-L2-py 的 EvalPlus 平均 pass@1 位列第二，并在 L2 中取得最高的 MBPP 和 MBPP+ 分数。

<div align="center">
  <img src="assets/python_results.png" alt="Python main results table" width="900"/>
</div>

**多语言结果：**UltraData-Stack-v3-L2 在 EvalPlus 和 MultiPL-E 上分别比 Stack-v3-train 高 4.63 和 5.45 个百分点，验证了 L2 语言自适应筛选方法的有效性。

<div align="center">
  <img src="assets/multilingual_results.png" alt="Multilingual main results table" width="900"/>
</div>

## ❤️ 致谢

UltraData-Stack-v3-L2 基于 [The Stack v3](https://huggingface.co/datasets/HuggingFaceCode/stack-v3-train) 构建。选择框架来自 [UltraData-Code](https://huggingface.co/datasets/openbmb/UltraData-Code) 的 [UltraData-Code-L2-Classifier](https://huggingface.co/openbmb/UltraData-Code-L2-Classifier)，文件级表示使用 [Qwen3-Embedding-0.6B](https://huggingface.co/Qwen/Qwen3-Embedding-0.6B) 计算。

感谢上述开源项目的作者与贡献者。

## 💳 许可证

本数据集基于 [Open Data Commons Attribution License (ODC-By) v1.0](https://opendatacommons.org/licenses/by/1-0/) 发布，与源数据集 [The Stack v3](https://huggingface.co/datasets/HuggingFaceCode/stack-v3-train) 保持一致。使用 UltraData-Stack-v3-L2 中收录的全部或部分代码时，必须遵守其原始许可证的相关条款，包括适用的署名要求。

## 📖 引用

如果本数据集对您的研究有帮助，请考虑引用：

```bibtex
@article{tu2026ultradata,
  title={{UltraData-Code}: From Raw Repositories to Algorithmically Dense and Task-Oriented Code Data},
  author={Tu, Chengying and Zhao, Hengyu and Xue, Shuaikang and Qu, Zhongming and Zhou, Jihao and Lin, Xinle and Guo, Junshao and Fu, Zixuan and Ma, Qiang and Zhou, Jie and others},
  journal={arXiv preprint arXiv:2610.23960},
  year={2026}
}
```