The dataset viewer should be available soon. Please retry later.
Quanthus Base 2.5.1 DWD
面向远程按需查询的中国 A 股证券数据快照。包含 33 张标准 DWD 表,覆盖行情、证券身份、交易日历、财务、公司行动、公告、估值和持股观测。
原生 Parquet 按表、时间及频率分区保留。可直接用 DuckDB SQL 或 PyArrow 读取需要的文件、列和 row group;计算在查询端执行,HF 提供相应数据块。完整 DWD 为 76,369 个文件、17,008,326,054 字节(约 15.84 GiB)。
版本与范围
- 业务版本:Base 2.5.1;数据起始日:1990-12-19;业务截止日:2026-10-31;业务时区:Asia/Shanghai。
- 时间覆盖:交易日历与指数行情自 1990-12-19 起;个股行情
dwd_security_bar(日线与 5 分钟)自 2020-01-02 起;最后行情观测日 2026-10-30,业务截止日 2026-10-31。 - 本仓库发布 DWD、契约和封存证据;ODS 通过独立备份保存。
- 其余表(财务、公告、身份、持股等)起始日期与可用范围各异,见各表及封存清单。
- 固定数据提交:
1923c874b43d47e69190a6dc9546e6fd8f3d1ca3。 - DWD manifest SHA256:
8cd966be87fce02168c54e77c23e05f491c4afb204c4cbace42a2024eee1cdef。
DuckDB:直接远程计算
pip install huggingface_hub duckdb pyarrow
import duckdb
from huggingface_hub import HfFileSystem
fs = HfFileSystem(token=False) # public access
db = duckdb.connect()
db.register_filesystem(fs)
base = "hf://datasets/rv192/quanthus-base25-sealed@1923c874b43d47e69190a6dc9546e6fd8f3d1ca3/DWD"
bars = base + "/payload/dwd_security_bar/interval_size=1d/observation_start_year=2026/observation_start_month=10/*.parquet"
result = db.execute("""
SELECT CAST(observation_start AT TIME ZONE 'Asia/Shanghai' AS DATE) AS market_date,
count(*) AS bars, sum(volume) AS volume,
min(close) AS min_close, max(close) AS max_close
FROM read_parquet(?, hive_partitioning=false)
GROUP BY 1 ORDER BY 1
""", [bars]).fetchall()
print(result)
固定年月分区可减少文件枚举和扫描。SQL 也支持跨文件聚合、过滤和关联。各表 schema 不同,按单表建立视图;Hive 路径分区与物理列并存时,示例使用 hive_partitioning=false 保持物理类型。
PyArrow:仅读取指定列和 row group
import pyarrow.parquet as pq
from huggingface_hub import HfFileSystem
fs = HfFileSystem(token=False)
path = "datasets/rv192/quanthus-base25-sealed@1923c874b43d47e69190a6dc9546e6fd8f3d1ca3/DWD/payload/dwd_security_bar/interval_size=5m/observation_start_year=2026/observation_start_month=7/part-000159.parquet"
with fs.open(path, "rb", block_size=65536) as stream:
parquet = pq.ParquetFile(stream)
table = parquet.read_row_group(
0, columns=["listing_id", "observation_start", "close", "volume"]
)
print(table.num_rows) # 122880
上述大文件约 127,896,186 字节、47 个 row group。实际测试读取第 0 个 row group 的 4 列,共 122,880 行,只传输 1,039,162 字节(约 0.81% 文件大小),与封存源表逐值一致。
在线读取与运算验收
2026-11-10 已使用 DuckDB 1.5.6 和 HF 文件系统完成:
| 用例 | 结果 |
|---|---|
| 2026 年 9–10 月多文件精确小数聚合 | 193,867 行,与封存源计算一致 |
| 按日期过滤并分组计算成交量、价格范围 | 与封存源计算一致 |
| 行情与上市身份按知识时间区间关联 | 193,867 行,匹配缺失 0,与封存源计算一致 |
| 5 分钟大文件的 4 列、单 row group 读取 | 122,880 行,Arrow Table 逐值一致 |
四项合计收到 23,500,257 字节 的 Parquet 范围响应,磁盘新增 Parquet 文件数为 0。这些数字对应固定测试文件;更大的查询会读取更多相关数据块。
完整验证程序 可在本机或其他节点重复执行:
python examples/online_validation.py \
--index table-index.json --output online-result.json --anonymous
每张表都有对应的 Hugging Face dataset config;默认 config 为 dwd_trading_calendar。也可显式使用 Parquet 路径进行 streaming。
公开后已使用无 token 访问重新运行上述四项检查,结果与封存 DWD 完全一致;本文 DuckDB 与 PyArrow 示例也已匿名实跑通过。
数据类型、时间与质量口径
- 价格与数量保留
DECIMAL(38,10),示例聚合保留小数精度。 - 行情
price_basis=UNADJUSTED;复权因子和输入证据保存在独立表。 - 时间戳以 UTC 类型存储;中国交易日期按
Asia/Shanghai解释。 observation_start/effective_from记录业务时点;knowledge_from/knowledge_to记录知识有效区间。- 来源通过
record_source、source_revision、source_artifact_sha256追溯。 - 已登记的质量限制保存在
DWD/manifest.json的assessment.limitations;缺口和例外分别见dwd_observation_gap、dwd_quality_exception,原有 869 个 held 窗口的证据随封存记录保留。 - 运行治理字段保留
consumer_admission=NOT_GRANTED、execution_authorized=false。
数据源和第三方材料沿用各自的原有使用条款,来源与使用范围以仓库中的契约和证据为准。
表目录
| 表 | Parquet 文件数 | 大小 MiB |
|---|---|---|
dwd_adjustment_factor |
1 | 8.07 |
dwd_adjustment_factor_input |
1 | 6.49 |
dwd_company_identifier |
2 | 0.21 |
dwd_company_industry_membership |
1 | 1.91 |
dwd_corporate_action |
817 | 16.08 |
dwd_corporate_action_term |
105 | 14.48 |
dwd_disclosure |
31,537 | 530.56 |
dwd_disclosure_subject |
31,537 | 526.90 |
dwd_financial_concept |
1 | 0.12 |
dwd_financial_fact |
9,383 | 4195.07 |
dwd_financial_report |
37 | 87.96 |
dwd_index_bar |
471 | 5.26 |
dwd_industry_node |
1 | 0.01 |
dwd_industry_scheme |
1 | 0.00 |
dwd_listed_company |
2 | 0.30 |
dwd_listing |
2 | 0.31 |
dwd_listing_status_interval |
1 | 0.40 |
dwd_market_index |
1 | 0.00 |
dwd_observation_gap |
330 | 220.13 |
dwd_price_limit_regime |
1 | 0.16 |
dwd_quality_exception |
2 | 0.17 |
dwd_security |
2 | 0.28 |
dwd_security_bar |
164 | 8133.74 |
dwd_security_identifier |
2 | 0.28 |
dwd_security_status_interval |
1 | 0.72 |
dwd_security_valuation |
230 | 1072.96 |
dwd_share_capital_observation |
133 | 5.24 |
dwd_shareholder_count_observation |
16 | 28.25 |
dwd_shareholding_change |
986 | 29.47 |
dwd_shareholding_observation |
8 | 16.69 |
dwd_tradability_state |
474 | 909.94 |
dwd_trading_calendar |
41 | 1.21 |
dwd_trading_venue |
1 | 0.00 |
完整性
封存 DWD 已按完整成员集合核对:缺失、额外成员和不匹配均为 0。76,302 个 LFS 对象核验 SHA256,67 个 Git 文件核验 blob 身份;本地成员 SHA256 与封存清单相符。
DWD/ 中的封存数据保持原字节,仓库说明、表索引及查询示例独立更新。
- Downloads last month
- 139