Upload 打包说明.md
Browse files
打包说明.md
ADDED
|
@@ -0,0 +1,65 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# swebase 打包说明
|
| 2 |
+
|
| 3 |
+
本压缩包是 `D:\code\swebase` 的项目快照（2026-10-05 打包），**不含 Python 环境和下载缓存**。
|
| 4 |
+
|
| 5 |
+
## 包含内容
|
| 6 |
+
|
| 7 |
+
```
|
| 8 |
+
swebase/
|
| 9 |
+
├── 打包说明.md # 本文件
|
| 10 |
+
├── doc/ # 方案、建议与执行计划文档
|
| 11 |
+
└── swe-base-probe-v2/
|
| 12 |
+
├── pyproject.toml / uv.lock # 依赖锁定，用于重建环境
|
| 13 |
+
├── sources.lock.json # 所有数据源的 revision 锁定
|
| 14 |
+
├── README.md / spec.md
|
| 15 |
+
├── sbp/ # 源码
|
| 16 |
+
└── data/ # 已构建好的数据（A / R / Rpm / subsets / canary / checks / MANIFEST.json）
|
| 17 |
+
```
|
| 18 |
+
|
| 19 |
+
## 未打包的内容
|
| 20 |
+
|
| 21 |
+
| 路径 | 大小 | 说明 |
|
| 22 |
+
| --- | --- | --- |
|
| 23 |
+
| `swe-base-probe-v2/.venv/` | — | uv 虚拟环境，用 `uv sync` 重建 |
|
| 24 |
+
| `**/__pycache__/` | — | Python 字节码缓存 |
|
| 25 |
+
| `swe-base-probe-v2/cache/` | 约 4.0 GB | 下载和中间缓存，可重新生成，明细见下 |
|
| 26 |
+
|
| 27 |
+
`cache/` 明细：
|
| 28 |
+
|
| 29 |
+
| 路径 | 大小 | 来源 / 用途 |
|
| 30 |
+
| --- | --- | --- |
|
| 31 |
+
| `cache/raw/nvidia__Open-SWE-Traces/` | 约 3.6 GB | `python -m sbp.fetch_hf open_swe_traces` 下载的轨迹 |
|
| 32 |
+
| `cache/raw/ScaleAI__SWE-bench_Pro/` | 约 6 MB | `python -m sbp.fetch_hf pro_v2` |
|
| 33 |
+
| `cache/raw/SWE-bench__SWE-bench_Multilingual/` | 约 2 MB | `python -m sbp.fetch_hf multilingual` |
|
| 34 |
+
| `cache/raw/inclusionAI__Ling-3.0-flash-base/` | 约 12 MB | Ling-3.0 tokenizer（只用于测长度、分档），`sbp.lingtok` 首次使用时会自动下载 |
|
| 35 |
+
| `cache/raw/experiments/` | 约 2 MB | SWE-bench/experiments 的 sparse checkout（见下方命令） |
|
| 36 |
+
| `cache/raw/pro_os/` | 很小 | scaleapi 官方 `create_problem_statement.py`，`sbp.build_r` 运行时会自动下载 |
|
| 37 |
+
| `cache/hf/` | 约 226 MB | huggingface_hub 下载缓存（Open-SWE-Traces） |
|
| 38 |
+
| `cache/http/` | 约 143 MB | `sbp.common` 中 HTTP GET 的磁盘缓存 |
|
| 39 |
+
| `cache/a_pool_rules-v1_a-v1.json` | 约 1.4 MB | `sbp.build_a --reuse-pool` 复用的 pass1/pass2 结果；没有它就重新计算 |
|
| 40 |
+
| `cache/*.log` | 很小 | fetch / build 的运行日志 |
|
| 41 |
+
|
| 42 |
+
## 重建
|
| 43 |
+
|
| 44 |
+
**数据已在 `data/` 里，只跑评测时只需第 1 步。** 只有要从头重建数据时才需要重新生成 `cache/`。
|
| 45 |
+
|
| 46 |
+
```bash
|
| 47 |
+
cd swe-base-probe-v2
|
| 48 |
+
|
| 49 |
+
# 1. 重建环境
|
| 50 |
+
uv sync
|
| 51 |
+
|
| 52 |
+
# 2. 重新下载原始数据（约 3.8 GB）
|
| 53 |
+
python -m sbp.fetch_hf pro_v2 multilingual open_swe_traces
|
| 54 |
+
git clone --filter=blob:none --no-checkout https://github.com/SWE-bench/experiments cache/raw/experiments
|
| 55 |
+
git -C cache/raw/experiments sparse-checkout set evaluation/multilingual
|
| 56 |
+
git -C cache/raw/experiments checkout 40f164d5b8f1d249bf95a6df8b74b577fd8e519d
|
| 57 |
+
|
| 58 |
+
# 3. 重建数据
|
| 59 |
+
python -m sbp.build_r
|
| 60 |
+
python -m sbp.build_a
|
| 61 |
+
python -m sbp.build_rpm
|
| 62 |
+
python -m sbp.finalize
|
| 63 |
+
```
|
| 64 |
+
|
| 65 |
+
国内网络可以先设 `export HF_ENDPOINT=https://hf-mirror.com` 再下载。完整说明见 `swe-base-probe-v2/README.md`。
|