quant-data / README.md
lutaoyan's picture
Publish verified Quant Lab dataset manifest and guide
63c2b5d verified
|
Raw History Blame Contribute Delete
5.21 kB
metadata
language:
  - zh
tags:
  - finance
  - quant-lab
  - parquet
  - a-share
configs:
  - config_name: daily_features
    data_files:
      - split: train
        path: features/daily_features.parquet
  - config_name: margin_summary
    data_files:
      - split: train
        path: margin/summary/**/*.parquet

Quant Lab · 共享行情数据

配套代码:yanlutao-scut/quant-lab。 本仓库保存可下载的行情快照,数据源为 NumCat;下载接口返回值经过脚本解析、校验并转成 Parquet。 本仓库不授予原始行情的额外使用或转售许可,使用及共享范围以数据源授权为准。

内容与覆盖范围

本次快照:15,063 个数据文件,6.016 GB(十进制)。

数据 日期范围 有数据的交易日 行数
全市场日 K 2024-07-15 — 2026-09-11 527 2,858,821
复权因子 2024-07-15 — 2026-09-11 527 2,931,150
两融汇总 2025-08-27 — 2026-09-07 250 750
两融明细 2025-08-27 — 2026-09-07 250 1,079,096
逐笔 20260105 — 20260724 80 401,835,082

逐笔日期并不连续,也不代表每只股票都有上述全部日期。

目录 内容
market/ 全市场日线、成交量额、后复权 OHLC、复权因子与估值字段
margin/ 交易所两融汇总和证券两融明细
raw/trades/ 已下载股票/日期的逐笔原始字段,每页转为 Parquet;不代表全市场逐笔完整覆盖
features/daily_features.parquet 从本地指标表单独导出的资金日指标,保留因子与数据版本
reference/ 股票代码、名称目录缓存
dataset_manifest.json 本次完整快照的文件列表、SHA-256、行数、容量与日期覆盖

行情、两融和资金指标的覆盖范围不同,以清单为准;新上市/停牌/退市等原因可能造成个股日期缺失。 日期有分区不代表每个字段都有效;源数据中的空值和零价格原样保留,不用前值冒充成交价。 回测必须检查价格有效性、成交量及可交易状态,不能把停牌或缺失记录当成可成交行情。 逐笔只保留下载时请求的字段,不包含账户或席位身份;不能据此识别同一账户。 没有包含个人 SQLite、策略定义、标注、回测记录、API Key、日志或运行锁。 预览器中的 train 只是文件集合名称,不表示已经划分训练集/测试集。

接入 Quant Lab

在代码仓库的 numcat_active_buy/ 下配置 .env:

APP_DATA_DIR=/你的本地数据目录
HF_TOKEN=<your-hf-token>
HF_DATASET_REPO=lutaoyan/quant-data

安装 uv sync --locked --extra data-sync。首次下载可执行下面的 Python 代码; REVISION 推荐填本仓库某个已完成快照的 commit SHA,避免下载期间版本变化。

from app.config import Settings
from huggingface_hub import snapshot_download

settings = Settings.from_env()  # 同时加载本机 .env
repo = "lutaoyan/quant-data"
revision = "<发布完整清单的 commit SHA>"  # 使用发布命令输出的 Published revision
snapshot_download(repo, repo_type="dataset", revision=revision,
                  local_dir=settings.data_dir,
                  allow_patterns=["market/**", "margin/**", "raw/**", "features/**",
                                  "reference/**", "dataset_manifest.json"])

在下载完成后(将校验目录替换成自己的数据总路径):

uv run --extra data-sync python scripts/share_hf_data.py verify --directory /你的本地数据目录
uv run --extra data-sync python scripts/share_hf_data.py import-features
make setup
make run

导入只增加本机没有的指标行,保留已有指标、策略与标注。下载会更新同名共享行情文件; 请先停止本地行情更新任务,迁移到已有环境时保留备份。 只做日线研究时可以移除 raw/**,节省大部分下载量;完整清单校验会提示未下载逐笔,属预期。

后续发布与版本

由一台主机更新 NumCat 数据,执行 make data-prepare,再执行 make data-push。 本仓库为公开仓库,发布者已确认可公开共享;上传时需显式执行 make data-push HF_UPLOAD_FLAGS=--allow-public。私有仓库不需要这个参数。 脚本按白名单准备独立副本,上传数据后核对远端文件,再发布完整清单;可中断重跑。 后续执行 make data-sync HF_UPLOAD_FLAGS=--allow-public 会重新生成清单,按内容校验值 对比远端,只传新增或变化的文件;不会重复上传整个历史,也不会删除远端额外文件。 可先执行 make data-prepare && make data-plan 查看本次增量文件数与字节数。 上传独立副本时可以继续下载行情;下载结束且当前上传完成后,再执行一次 data-sync 发布新数据。 快照发布包含多次提交,以发布清单的最终提交作为可使用版本,不要选择上传中间提交。 已有文件可能被更新,旧版本可以通过 commit SHA 下载;多个协作者各自保留自己的 SQLite。