Dataset Viewer

The dataset viewer should be available soon. Please retry later.

Quanthus Base 2.5.1 DWD

面向远程按需查询的中国 A 股证券数据快照。包含 33 张标准 DWD 表,覆盖行情、证券身份、交易日历、财务、公司行动、公告、估值和持股观测。

原生 Parquet 按表、时间及频率分区保留。可直接用 DuckDB SQL 或 PyArrow 读取需要的文件、列和 row group;计算在查询端执行,HF 提供相应数据块。完整 DWD 为 76,369 个文件、17,008,326,054 字节(约 15.84 GiB)。

版本与范围

  • 业务版本:Base 2.5.1;数据起始日:1990-12-19;业务截止日:2026-10-31;业务时区:Asia/Shanghai。
  • 时间覆盖:交易日历与指数行情自 1990-12-19 起;个股行情 dwd_security_bar(日线与 5 分钟)自 2020-01-02 起;最后行情观测日 2026-10-30,业务截止日 2026-10-31。
  • 本仓库发布 DWD、契约和封存证据;ODS 通过独立备份保存。
  • 其余表(财务、公告、身份、持股等)起始日期与可用范围各异,见各表及封存清单。
  • 固定数据提交:1923c874b43d47e69190a6dc9546e6fd8f3d1ca3。
  • DWD manifest SHA256:8cd966be87fce02168c54e77c23e05f491c4afb204c4cbace42a2024eee1cdef。

表与字段索引 · 在线读取验收 · 封存清单

DuckDB:直接远程计算

pip install huggingface_hub duckdb pyarrow
import duckdb
from huggingface_hub import HfFileSystem

fs = HfFileSystem(token=False)  # public access
db = duckdb.connect()
db.register_filesystem(fs)

base = "hf://datasets/rv192/quanthus-base25-sealed@1923c874b43d47e69190a6dc9546e6fd8f3d1ca3/DWD"
bars = base + "/payload/dwd_security_bar/interval_size=1d/observation_start_year=2026/observation_start_month=10/*.parquet"

result = db.execute("""
    SELECT CAST(observation_start AT TIME ZONE 'Asia/Shanghai' AS DATE) AS market_date,
           count(*) AS bars, sum(volume) AS volume,
           min(close) AS min_close, max(close) AS max_close
    FROM read_parquet(?, hive_partitioning=false)
    GROUP BY 1 ORDER BY 1
""", [bars]).fetchall()
print(result)

固定年月分区可减少文件枚举和扫描。SQL 也支持跨文件聚合、过滤和关联。各表 schema 不同,按单表建立视图;Hive 路径分区与物理列并存时,示例使用 hive_partitioning=false 保持物理类型。

PyArrow:仅读取指定列和 row group

import pyarrow.parquet as pq
from huggingface_hub import HfFileSystem

fs = HfFileSystem(token=False)
path = "datasets/rv192/quanthus-base25-sealed@1923c874b43d47e69190a6dc9546e6fd8f3d1ca3/DWD/payload/dwd_security_bar/interval_size=5m/observation_start_year=2026/observation_start_month=7/part-000159.parquet"
with fs.open(path, "rb", block_size=65536) as stream:
    parquet = pq.ParquetFile(stream)
    table = parquet.read_row_group(
        0, columns=["listing_id", "observation_start", "close", "volume"]
    )
print(table.num_rows)  # 122880

上述大文件约 127,896,186 字节、47 个 row group。实际测试读取第 0 个 row group 的 4 列,共 122,880 行,只传输 1,039,162 字节(约 0.81% 文件大小),与封存源表逐值一致。

在线读取与运算验收

2026-11-10 已使用 DuckDB 1.5.6 和 HF 文件系统完成:

用例 结果
2026 年 9–10 月多文件精确小数聚合 193,867 行,与封存源计算一致
按日期过滤并分组计算成交量、价格范围 与封存源计算一致
行情与上市身份按知识时间区间关联 193,867 行,匹配缺失 0,与封存源计算一致
5 分钟大文件的 4 列、单 row group 读取 122,880 行,Arrow Table 逐值一致

四项合计收到 23,500,257 字节 的 Parquet 范围响应,磁盘新增 Parquet 文件数为 0。这些数字对应固定测试文件;更大的查询会读取更多相关数据块。

完整验证程序 可在本机或其他节点重复执行:

python examples/online_validation.py \
  --index table-index.json --output online-result.json --anonymous

每张表都有对应的 Hugging Face dataset config;默认 config 为 dwd_trading_calendar。也可显式使用 Parquet 路径进行 streaming。

公开后已使用无 token 访问重新运行上述四项检查,结果与封存 DWD 完全一致;本文 DuckDB 与 PyArrow 示例也已匿名实跑通过。

数据类型、时间与质量口径

  • 价格与数量保留 DECIMAL(38,10),示例聚合保留小数精度。
  • 行情 price_basis=UNADJUSTED;复权因子和输入证据保存在独立表。
  • 时间戳以 UTC 类型存储;中国交易日期按 Asia/Shanghai 解释。
  • observation_start / effective_from 记录业务时点;knowledge_from / knowledge_to 记录知识有效区间。
  • 来源通过 record_source、source_revision、source_artifact_sha256 追溯。
  • 已登记的质量限制保存在 DWD/manifest.json 的 assessment.limitations;缺口和例外分别见 dwd_observation_gap、dwd_quality_exception,原有 869 个 held 窗口的证据随封存记录保留。
  • 运行治理字段保留 consumer_admission=NOT_GRANTED、execution_authorized=false。

数据源和第三方材料沿用各自的原有使用条款,来源与使用范围以仓库中的契约和证据为准。

表目录

表 Parquet 文件数 大小 MiB
dwd_adjustment_factor 1 8.07
dwd_adjustment_factor_input 1 6.49
dwd_company_identifier 2 0.21
dwd_company_industry_membership 1 1.91
dwd_corporate_action 817 16.08
dwd_corporate_action_term 105 14.48
dwd_disclosure 31,537 530.56
dwd_disclosure_subject 31,537 526.90
dwd_financial_concept 1 0.12
dwd_financial_fact 9,383 4195.07
dwd_financial_report 37 87.96
dwd_index_bar 471 5.26
dwd_industry_node 1 0.01
dwd_industry_scheme 1 0.00
dwd_listed_company 2 0.30
dwd_listing 2 0.31
dwd_listing_status_interval 1 0.40
dwd_market_index 1 0.00
dwd_observation_gap 330 220.13
dwd_price_limit_regime 1 0.16
dwd_quality_exception 2 0.17
dwd_security 2 0.28
dwd_security_bar 164 8133.74
dwd_security_identifier 2 0.28
dwd_security_status_interval 1 0.72
dwd_security_valuation 230 1072.96
dwd_share_capital_observation 133 5.24
dwd_shareholder_count_observation 16 28.25
dwd_shareholding_change 986 29.47
dwd_shareholding_observation 8 16.69
dwd_tradability_state 474 909.94
dwd_trading_calendar 41 1.21
dwd_trading_venue 1 0.00

完整性

封存 DWD 已按完整成员集合核对:缺失、额外成员和不匹配均为 0。76,302 个 LFS 对象核验 SHA256,67 个 Git 文件核验 blob 身份;本地成员 SHA256 与封存清单相符。

DWD/ 中的封存数据保持原字节,仓库说明、表索引及查询示例独立更新。

Downloads last month
139