| --- |
| language: |
| - zh |
| tags: |
| - finance |
| - quant-lab |
| - parquet |
| - a-share |
| configs: |
| - config_name: daily_features |
| data_files: |
| - split: train |
| path: features/daily_features.parquet |
| - config_name: margin_summary |
| data_files: |
| - split: train |
| path: margin/summary/**/*.parquet |
| --- |
| |
| # Quant Lab · 共享行情数据 |
|
|
| 配套代码：[yanlutao-scut/quant-lab](https://github.com/yanlutao-scut/quant-lab)。 |
| 本仓库保存可下载的行情快照，数据源为 NumCat；下载接口返回值经过脚本解析、校验并转成 Parquet。 |
| 本仓库不授予原始行情的额外使用或转售许可，使用及共享范围以数据源授权为准。 |
|
|
| ## 内容与覆盖范围 |
|
|
| 本次快照：15,063 个数据文件，6.016 GB（十进制）。 |
|
|
| | 数据 | 日期范围 | 有数据的交易日 | 行数 | |
| | --- | --- | ---: | ---: | |
| | 全市场日 K | 2024-07-15 — 2026-09-11 | 527 | 2,858,821 | |
| | 复权因子 | 2024-07-15 — 2026-09-11 | 527 | 2,931,150 | |
| | 两融汇总 | 2025-08-27 — 2026-09-07 | 250 | 750 | |
| | 两融明细 | 2025-08-27 — 2026-09-07 | 250 | 1,079,096 | |
| | 逐笔 | 20260105 — 20260724 | 80 | 401,835,082 | |
|
|
| 逐笔日期并不连续，也不代表每只股票都有上述全部日期。 |
|
|
| | 目录 | 内容 | |
| | --- | --- | |
| | `market/` | 全市场日线、成交量额、后复权 OHLC、复权因子与估值字段 | |
| | `margin/` | 交易所两融汇总和证券两融明细 | |
| | `raw/trades/` | 已下载股票/日期的逐笔原始字段，每页转为 Parquet；不代表全市场逐笔完整覆盖 | |
| | `features/daily_features.parquet` | 从本地指标表单独导出的资金日指标，保留因子与数据版本 | |
| | `reference/` | 股票代码、名称目录缓存 | |
| | `dataset_manifest.json` | 本次完整快照的文件列表、SHA-256、行数、容量与日期覆盖 | |
|
|
| 行情、两融和资金指标的覆盖范围不同，以清单为准；新上市/停牌/退市等原因可能造成个股日期缺失。 |
| 日期有分区不代表每个字段都有效；源数据中的空值和零价格原样保留，不用前值冒充成交价。 |
| 回测必须检查价格有效性、成交量及可交易状态，不能把停牌或缺失记录当成可成交行情。 |
| 逐笔只保留下载时请求的字段，不包含账户或席位身份；不能据此识别同一账户。 |
| 没有包含个人 SQLite、策略定义、标注、回测记录、API Key、日志或运行锁。 |
| 预览器中的 `train` 只是文件集合名称，不表示已经划分训练集/测试集。 |
|
|
| ## 接入 Quant Lab |
|
|
| 在代码仓库的 `numcat_active_buy/` 下配置 `.env`： |
|
|
| ```dotenv |
| APP_DATA_DIR=/你的本地数据目录 |
| HF_TOKEN=<your-hf-token> |
| HF_DATASET_REPO=lutaoyan/quant-data |
| ``` |
|
|
| 安装 `uv sync --locked --extra data-sync`。首次下载可执行下面的 Python 代码； |
| `REVISION` 推荐填本仓库某个已完成快照的 commit SHA，避免下载期间版本变化。 |
|
|
| ```python |
| from app.config import Settings |
| from huggingface_hub import snapshot_download |
| |
| settings = Settings.from_env() # 同时加载本机 .env |
| repo = "lutaoyan/quant-data" |
| revision = "<发布完整清单的 commit SHA>" # 使用发布命令输出的 Published revision |
| snapshot_download(repo, repo_type="dataset", revision=revision, |
| local_dir=settings.data_dir, |
| allow_patterns=["market/**", "margin/**", "raw/**", "features/**", |
| "reference/**", "dataset_manifest.json"]) |
| ``` |
|
|
| 在下载完成后（将校验目录替换成自己的数据总路径）： |
|
|
| ```bash |
| uv run --extra data-sync python scripts/share_hf_data.py verify --directory /你的本地数据目录 |
| uv run --extra data-sync python scripts/share_hf_data.py import-features |
| make setup |
| make run |
| ``` |
|
|
| 导入只增加本机没有的指标行，保留已有指标、策略与标注。下载会更新同名共享行情文件； |
| 请先停止本地行情更新任务，迁移到已有环境时保留备份。 |
| 只做日线研究时可以移除 `raw/**`，节省大部分下载量；完整清单校验会提示未下载逐笔，属预期。 |
|
|
| ## 后续发布与版本 |
|
|
| 由一台主机更新 NumCat 数据，执行 `make data-prepare`，再执行 `make data-push`。 |
| 本仓库为公开仓库，发布者已确认可公开共享；上传时需显式执行 |
| `make data-push HF_UPLOAD_FLAGS=--allow-public`。私有仓库不需要这个参数。 |
| 脚本按白名单准备独立副本，上传数据后核对远端文件，再发布完整清单；可中断重跑。 |
| 后续执行 `make data-sync HF_UPLOAD_FLAGS=--allow-public` 会重新生成清单，按内容校验值 |
| 对比远端，只传新增或变化的文件；不会重复上传整个历史，也不会删除远端额外文件。 |
| 可先执行 `make data-prepare && make data-plan` 查看本次增量文件数与字节数。 |
| 上传独立副本时可以继续下载行情；下载结束且当前上传完成后，再执行一次 `data-sync` 发布新数据。 |
| 快照发布包含多次提交，**以发布清单的最终提交作为可使用版本**，不要选择上传中间提交。 |
| 已有文件可能被更新，旧版本可以通过 commit SHA 下载；多个协作者各自保留自己的 SQLite。 |
|
|
