File size: 5,206 Bytes
63fac28 63c2b5d 63fac28 63c2b5d 63fac28 63c2b5d 63fac28 63c2b5d 63fac28 63c2b5d 63fac28 63c2b5d 63fac28 63c2b5d 63fac28 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 | ---
language:
- zh
tags:
- finance
- quant-lab
- parquet
- a-share
configs:
- config_name: daily_features
data_files:
- split: train
path: features/daily_features.parquet
- config_name: margin_summary
data_files:
- split: train
path: margin/summary/**/*.parquet
---
# Quant Lab · 共享行情数据
配套代码：[yanlutao-scut/quant-lab](https://github.com/yanlutao-scut/quant-lab)。
本仓库保存可下载的行情快照，数据源为 NumCat；下载接口返回值经过脚本解析、校验并转成 Parquet。
本仓库不授予原始行情的额外使用或转售许可，使用及共享范围以数据源授权为准。
## 内容与覆盖范围
本次快照：15,063 个数据文件，6.016 GB（十进制）。
| 数据 | 日期范围 | 有数据的交易日 | 行数 |
| --- | --- | ---: | ---: |
| 全市场日 K | 2024-07-15 — 2026-09-11 | 527 | 2,858,821 |
| 复权因子 | 2024-07-15 — 2026-09-11 | 527 | 2,931,150 |
| 两融汇总 | 2025-08-27 — 2026-09-07 | 250 | 750 |
| 两融明细 | 2025-08-27 — 2026-09-07 | 250 | 1,079,096 |
| 逐笔 | 20260105 — 20260724 | 80 | 401,835,082 |
逐笔日期并不连续，也不代表每只股票都有上述全部日期。
| 目录 | 内容 |
| --- | --- |
| `market/` | 全市场日线、成交量额、后复权 OHLC、复权因子与估值字段 |
| `margin/` | 交易所两融汇总和证券两融明细 |
| `raw/trades/` | 已下载股票/日期的逐笔原始字段，每页转为 Parquet；不代表全市场逐笔完整覆盖 |
| `features/daily_features.parquet` | 从本地指标表单独导出的资金日指标，保留因子与数据版本 |
| `reference/` | 股票代码、名称目录缓存 |
| `dataset_manifest.json` | 本次完整快照的文件列表、SHA-256、行数、容量与日期覆盖 |
行情、两融和资金指标的覆盖范围不同，以清单为准；新上市/停牌/退市等原因可能造成个股日期缺失。
日期有分区不代表每个字段都有效；源数据中的空值和零价格原样保留，不用前值冒充成交价。
回测必须检查价格有效性、成交量及可交易状态，不能把停牌或缺失记录当成可成交行情。
逐笔只保留下载时请求的字段，不包含账户或席位身份；不能据此识别同一账户。
没有包含个人 SQLite、策略定义、标注、回测记录、API Key、日志或运行锁。
预览器中的 `train` 只是文件集合名称，不表示已经划分训练集/测试集。
## 接入 Quant Lab
在代码仓库的 `numcat_active_buy/` 下配置 `.env`：
```dotenv
APP_DATA_DIR=/你的本地数据目录
HF_TOKEN=<your-hf-token>
HF_DATASET_REPO=lutaoyan/quant-data
```
安装 `uv sync --locked --extra data-sync`。首次下载可执行下面的 Python 代码；
`REVISION` 推荐填本仓库某个已完成快照的 commit SHA，避免下载期间版本变化。
```python
from app.config import Settings
from huggingface_hub import snapshot_download
settings = Settings.from_env() # 同时加载本机 .env
repo = "lutaoyan/quant-data"
revision = "<发布完整清单的 commit SHA>" # 使用发布命令输出的 Published revision
snapshot_download(repo, repo_type="dataset", revision=revision,
local_dir=settings.data_dir,
allow_patterns=["market/**", "margin/**", "raw/**", "features/**",
"reference/**", "dataset_manifest.json"])
```
在下载完成后（将校验目录替换成自己的数据总路径）：
```bash
uv run --extra data-sync python scripts/share_hf_data.py verify --directory /你的本地数据目录
uv run --extra data-sync python scripts/share_hf_data.py import-features
make setup
make run
```
导入只增加本机没有的指标行，保留已有指标、策略与标注。下载会更新同名共享行情文件；
请先停止本地行情更新任务，迁移到已有环境时保留备份。
只做日线研究时可以移除 `raw/**`，节省大部分下载量；完整清单校验会提示未下载逐笔，属预期。
## 后续发布与版本
由一台主机更新 NumCat 数据，执行 `make data-prepare`，再执行 `make data-push`。
本仓库为公开仓库，发布者已确认可公开共享；上传时需显式执行
`make data-push HF_UPLOAD_FLAGS=--allow-public`。私有仓库不需要这个参数。
脚本按白名单准备独立副本，上传数据后核对远端文件，再发布完整清单；可中断重跑。
后续执行 `make data-sync HF_UPLOAD_FLAGS=--allow-public` 会重新生成清单，按内容校验值
对比远端，只传新增或变化的文件；不会重复上传整个历史，也不会删除远端额外文件。
可先执行 `make data-prepare && make data-plan` 查看本次增量文件数与字节数。
上传独立副本时可以继续下载行情；下载结束且当前上传完成后，再执行一次 `data-sync` 发布新数据。
快照发布包含多次提交，**以发布清单的最终提交作为可使用版本**，不要选择上传中间提交。
已有文件可能被更新，旧版本可以通过 commit SHA 下载；多个协作者各自保留自己的 SQLite。
|