File size: 9,215 Bytes
f764cdf
 
917c16d
f764cdf
 
 
 
917c16d
f764cdf
917c16d
 
f764cdf
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
917c16d
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
370fed4
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
f764cdf
 
 
 
 
 
 
 
 
 
 
02ebb32
f764cdf
 
 
 
 
 
 
 
 
 
02ebb32
f764cdf
 
02ebb32
 
 
 
 
 
 
 
 
 
 
 
 
 
5cfbbe8
 
 
f764cdf
 
8c9d5ac
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
f764cdf
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
# stackgo

`stackgo` 是 The Stack v2 代码数据流水线和仓库级上下文样本工具。它把数据获取、星数区间筛选、正文下载、多区间合并导出和样本生成拆成可复现的阶段,并将 `stackbuild` 作为同一项目中的仓库扫描与样本生成库。

## 流程

1. 下载 The Stack v2 的 repository-grouped file ID 索引(不含源码正文)。
2. 从索引物化任意严格星数区间,例如 `star_events_count > 10` 或 `1 < star_events_count < 11`。
3. 从 Software Heritage 按 `blob_id` 下载并 SHA-1 校验正文。
4. 将一个或多个正文下载目录合并成统一布局,并按 `(shard, blob_id)` 去重。
5. 将每个仓库快照传入 `stackbuild`,使用固定 DeepSeek V4 Flash Base tokenizer 和原生 repo/file 边界,生成真实 8K token 预算的 ZSTD Parquet 依赖上下文样本。

星数是索引快照中的 `star_events_count`,不是实时 GitHub star;`> 10` 不包含等于 10。索引没有 commit、issue 或 PR 历史。正文下载遵守 The Stack 和 Software Heritage 的访问条款,并保留原始许可信息。

上游说明:[The Stack v2 IDs](https://huggingface.co/datasets/bigcode/the-stack-v2-train-full-ids) 和 [官方正文下载流程](https://github.com/bigcode-project/the-stack-v2/blob/main/the_stack/2_download_files/get_file_contents.py)。批量访问 Software Heritage 前应遵守其条款并按上游要求联系 `datasets@softwareheritage.org`;匿名 S3 可访问不代表免除条款。完整数据预估约 143 GiB 原始索引长度,建议为 Parquet、状态库和临时文件预留至少约 200 GiB。

## 安装

```bash
cd stackgo
python -m venv .venv
.venv/bin/pip install -e '.[test]'
```

## 获取数据

```bash
stackgo-download-index --output-dir /mnt/data/the-stack-v2-train-full-ids
stackgo-filter-star10 \
  --input-dir /mnt/data/the-stack-v2-train-full-ids \
  --output-dir /mnt/data/the-stack-v2-train-full-ids-star-gt10
stackgo-download-contents \
  --index-dir /mnt/data/the-stack-v2-train-full-ids-star-gt10 \
  --output-dir /mnt/data/the-stack-v2-contents-star-gt10 \
  --already-filtered --workers 16
stackgo-export \
  --source /mnt/data/the-stack-v2-contents-star-gt10 \
  --output /mnt/data/the-stack-go
```

任意区间筛选使用 `stackgo-filter-stars`;正文下载器也支持相同的严格上下界:

```bash
stackgo-filter-stars \
  --input-dir /mnt/data/the-stack-v2-train-full-ids \
  --output-dir /mnt/data/the-stack-v2-train-full-ids-star-2-10 \
  --min-stars-exclusive 1 --max-stars-exclusive 11

stackgo-download-contents \
  --index-dir /mnt/data/the-stack-v2-train-full-ids-star-2-10 \
  --output-dir /mnt/data/the-stack-v2-contents-star-2-10 \
  --already-filtered --workers 16
```

### 构建 `star_events_count > 1`

如果已有 `>10` 数据,可增量下载 `2–9` 和精确 `10`,再合并,避免重下 `>10` 正文:

```bash
# 精确 10 星:9 < star_events_count < 11
stackgo-download-contents \
  --index-dir /mnt/data/the-stack-v2-train-full-ids \
  --output-dir /mnt/data/the-stack-v2-contents-star-10 \
  --min-stars-exclusive 9 --max-stars-exclusive 11 --workers 8

stackgo-export \
  --source /mnt/data/the-stack-v2-contents-star-gt10 \
  --source /mnt/data/the-stack-v2-contents-star-2-9 \
  --source /mnt/data/the-stack-v2-contents-star-10 \
  --output /mnt/data/the-stack-go-ge2 \
  --star-events-count-exclusive 1 \
  --expected-repositories 3246224 \
  --expected-files 81112563

stackgo-build-samples --root /mnt/data/the-stack-go-ge2 --jobs 4
```

合并导出会检查各来源是否下载完成、星数区间是否连续、仓库是否重复,并校验最终仓库数和文件引用数。`stackgo-export --source` 可重复传入;只有一个来源时仍保持原有的硬链接导出模式。

也可以用一个可恢复入口完成“等待下载、合并校验、样本生成”:

```bash
stackgo-build-ge2 --wait --jobs 4
```

默认读取 `the-stack-v2-contents-star-gt10`、`the-stack-v2-contents-star-2-9` 和 `the-stack-v2-contents-star-10`,输出 `the-stack-go-ge2/`。合并阶段中断后可重跑,已完成且来源身份一致的分片会跳过;样本阶段同样会跳过已完成分片。

### 任意 star 规则端到端构建

`stackgo-build-dataset` 从原始索引开始串联索引下载(缺失时)、区间过滤、正文下载、有限/无限区间导出,并可继续生成样本:

```bash
stackgo-build-dataset \
  --min-stars-exclusive 5 \
  --max-stars-exclusive 11 \
  --output /mnt/data/the-stack-go-stars-6-10 \
  --workers 64 \
  --with-samples --jobs 32
```

不传 `--max-stars-exclusive` 表示只有严格下界,例如 `--min-stars-exclusive 1` 表示 `>1`。已有索引时可加 `--skip-index-download` 复用 `--index-dir`。冒烟测试可以限制源分片和正文请求:

```bash
stackgo-build-dataset \
  --min-stars-exclusive 10000 \
  --max-stars-exclusive 20000 \
  --output /tmp/stackgo-smoke \
  --skip-index-download --max-source-shards 1 --max-files 3 \
  --with-samples --jobs 1 --sample-max-repositories 1
```

The index is gated on Hugging Face: accept its dataset terms and configure `HF_TOKEN` or `hf auth login` first. `STACKGO_DATA_ROOT` changes defaults when explicit paths are omitted.

所有步骤都可安全重启。正文下载器按 blob 去重、原子发布 Parquet、记录 SQLite 状态,并验证正文 SHA-1。`--status` 查看状态,`--index-only` 只建立正文下载队列;Software Heritage 暂不可用的对象可在确认来源后使用 `stackgo-recover-contents` 尝试精确 revision 的 GitHub fallback。

`stackgo-export` 将已下载数据拆成两个目录:`repo-meta/<shard>/repositories.parquet` 保存仓库、文件路径、revision 和许可等元数据;`repo-contents/<shard>/*.parquet` 保存 `blob_id`、正文和长度。两者通过 shard 名和 `blob_id` 关联。默认使用硬链接,不额外占用正文空间;跨文件系统时使用 `--mode copy`,或用 `--mode symlink` 建立绝对链接。输出的 `manifest.json` 记录来源 manifest 哈希、布局和统计。

导出目录会自动生成根目录、`repo-meta/` 和 `repo-contents/` 三份 README,说明字段和关联方式,适合直接作为 Hugging Face dataset repository 的数据说明。项目代码本身就在 `the-stack-go/stackgo/` 中维护,不由导出器复制或刷新。

## 生成样本

```python
from stackbuild import BuildConfig, build_samples, write_parquet

samples = build_samples(
    repo,
    config=BuildConfig(
        max_tokens=8192,
        target_context=True,
        max_targets_per_repo=32,
        max_dependency_depth=3,
    ),
)
write_parquet(samples, "repository-samples.parquet")
```

默认 tokenizer 固定为 `deepseek-ai/DeepSeek-V4-Flash-Base` revision
`8855555deef230a27a21a8d6f294b7b7497759b6`。优先读取同级
`../tokenizers/deepseek-v4-flash-base/`,也可用 `STACKBUILD_TOKENIZER_PATH` 指定本地目录。
全量生成使用本地 tokenizer,不会在扫描中下载模型或 tokenizer:

```bash
python -m stackgo.scripts.build_stack_samples --root /mnt/data/the-stack-go --jobs 8
```

输出为 `samples/train-xxxxx-of-00064.parquet`,使用 ZSTD 压缩和 2048 行 row group。
`manifest.json` 记录 tokenizer revision、SHA-256 和预算;安全重启会跳过配置一致且已完成的分片。
中断的 `.parquet.part` 会重新生成。默认并行构建 8 个源 shard,每处理 100 个仓库打印进度;
内存较小的机器可用 `--jobs 1` 降低并发。

每个仓库在独立的可杀死 runner 中构建。默认单仓库超过 **1800 秒**时,
只终止并降级当前仓库到 regex,其他仓库和后续分片继续优先使用 tree-sitter。

`dependency` 样本覆盖仓库全部文件;`target_context` 样本优先放置直接和传递依赖,再放 README、manifest 和构建文件。二进制、vendor 和 generated 文件默认只保留元数据。完整 API 说明见 [`stackbuild/README.md`](stackbuild/README.md)。

## 读取样本

样本是标准 Parquet 文件,推荐流式读取。仓库提供了可运行示例:

```bash
PYTHONPATH=. python examples/read_samples.py ../samples/train-*.parquet --limit 3
PYTHONPATH=. python examples/read_samples.py ../samples \
  --repo owner/project --kind dependency --limit 5
```

PyArrow 流式读取:

```python
import json
import pyarrow.dataset as ds

dataset = ds.dataset("samples", format="parquet")
scanner = dataset.scanner(
    columns=["sample_id", "repo_id", "kind", "text", "files", "token_count", "metadata_json"],
    filter=ds.field("kind") == "dependency",
    batch_size=512,
)
for batch in scanner.to_batches():
    for row in batch.to_pylist():
        print(row["repo_id"], row["token_count"])
        print([item["path"] for item in row["files"]])
        print(json.loads(row["metadata_json"]))
```

完整示例见 [`examples/README.md`](examples/README.md),包括 Hugging Face
`datasets` 流式加载、按仓库/kind 过滤和文件 provenance 读取。

## 测试

```bash
PYTHONPATH=. pytest -q
```

数据目录不放在 Git 工作区;用 manifest、revision、过滤条件和生成配置记录每次数据版本。