--- language: - zh tags: - finance - quant-lab - parquet - a-share configs: - config_name: daily_features data_files: - split: train path: features/daily_features.parquet - config_name: margin_summary data_files: - split: train path: margin/summary/**/*.parquet --- # Quant Lab · 共享行情数据 配套代码:[yanlutao-scut/quant-lab](https://github.com/yanlutao-scut/quant-lab)。 本仓库保存可下载的行情快照,数据源为 NumCat;下载接口返回值经过脚本解析、校验并转成 Parquet。 本仓库不授予原始行情的额外使用或转售许可,使用及共享范围以数据源授权为准。 ## 内容与覆盖范围 本次快照:15,063 个数据文件,6.016 GB(十进制)。 | 数据 | 日期范围 | 有数据的交易日 | 行数 | | --- | --- | ---: | ---: | | 全市场日 K | 2024-07-15 — 2026-09-11 | 527 | 2,858,821 | | 复权因子 | 2024-07-15 — 2026-09-11 | 527 | 2,931,150 | | 两融汇总 | 2025-08-27 — 2026-09-07 | 250 | 750 | | 两融明细 | 2025-08-27 — 2026-09-07 | 250 | 1,079,096 | | 逐笔 | 20260105 — 20260724 | 80 | 401,835,082 | 逐笔日期并不连续,也不代表每只股票都有上述全部日期。 | 目录 | 内容 | | --- | --- | | `market/` | 全市场日线、成交量额、后复权 OHLC、复权因子与估值字段 | | `margin/` | 交易所两融汇总和证券两融明细 | | `raw/trades/` | 已下载股票/日期的逐笔原始字段,每页转为 Parquet;不代表全市场逐笔完整覆盖 | | `features/daily_features.parquet` | 从本地指标表单独导出的资金日指标,保留因子与数据版本 | | `reference/` | 股票代码、名称目录缓存 | | `dataset_manifest.json` | 本次完整快照的文件列表、SHA-256、行数、容量与日期覆盖 | 行情、两融和资金指标的覆盖范围不同,以清单为准;新上市/停牌/退市等原因可能造成个股日期缺失。 日期有分区不代表每个字段都有效;源数据中的空值和零价格原样保留,不用前值冒充成交价。 回测必须检查价格有效性、成交量及可交易状态,不能把停牌或缺失记录当成可成交行情。 逐笔只保留下载时请求的字段,不包含账户或席位身份;不能据此识别同一账户。 没有包含个人 SQLite、策略定义、标注、回测记录、API Key、日志或运行锁。 预览器中的 `train` 只是文件集合名称,不表示已经划分训练集/测试集。 ## 接入 Quant Lab 在代码仓库的 `numcat_active_buy/` 下配置 `.env`: ```dotenv APP_DATA_DIR=/你的本地数据目录 HF_TOKEN= HF_DATASET_REPO=lutaoyan/quant-data ``` 安装 `uv sync --locked --extra data-sync`。首次下载可执行下面的 Python 代码; `REVISION` 推荐填本仓库某个已完成快照的 commit SHA,避免下载期间版本变化。 ```python from app.config import Settings from huggingface_hub import snapshot_download settings = Settings.from_env() # 同时加载本机 .env repo = "lutaoyan/quant-data" revision = "<发布完整清单的 commit SHA>" # 使用发布命令输出的 Published revision snapshot_download(repo, repo_type="dataset", revision=revision, local_dir=settings.data_dir, allow_patterns=["market/**", "margin/**", "raw/**", "features/**", "reference/**", "dataset_manifest.json"]) ``` 在下载完成后(将校验目录替换成自己的数据总路径): ```bash uv run --extra data-sync python scripts/share_hf_data.py verify --directory /你的本地数据目录 uv run --extra data-sync python scripts/share_hf_data.py import-features make setup make run ``` 导入只增加本机没有的指标行,保留已有指标、策略与标注。下载会更新同名共享行情文件; 请先停止本地行情更新任务,迁移到已有环境时保留备份。 只做日线研究时可以移除 `raw/**`,节省大部分下载量;完整清单校验会提示未下载逐笔,属预期。 ## 后续发布与版本 由一台主机更新 NumCat 数据,执行 `make data-prepare`,再执行 `make data-push`。 本仓库为公开仓库,发布者已确认可公开共享;上传时需显式执行 `make data-push HF_UPLOAD_FLAGS=--allow-public`。私有仓库不需要这个参数。 脚本按白名单准备独立副本,上传数据后核对远端文件,再发布完整清单;可中断重跑。 后续执行 `make data-sync HF_UPLOAD_FLAGS=--allow-public` 会重新生成清单,按内容校验值 对比远端,只传新增或变化的文件;不会重复上传整个历史,也不会删除远端额外文件。 可先执行 `make data-prepare && make data-plan` 查看本次增量文件数与字节数。 上传独立副本时可以继续下载行情;下载结束且当前上传完成后,再执行一次 `data-sync` 发布新数据。 快照发布包含多次提交,**以发布清单的最终提交作为可使用版本**,不要选择上传中间提交。 已有文件可能被更新,旧版本可以通过 commit SHA 下载;多个协作者各自保留自己的 SQLite。