ThermoBench_pure / README.md
ThermoBench's picture
Upload README.md with huggingface_hub
139039e verified
|
Raw History Blame Contribute Delete
6.54 kB
---
license: cc-by-nc-4.0
license_details: >
Density and orbit data from the TU Delft thermosphere density
database (v02/v02c), CC BY 4.0. Space environment indices
(Kp, ap, Ap, SN, F10.7) from the GFZ German Research Centre for
Geosciences; the sunspot number (SN) column is CC BY-NC 4.0.
The dataset files contain the SN column and are therefore
distributed as a whole under CC BY-NC 4.0.
task_categories:
- time-series-forecasting
tags:
- thermosphere
- atmospheric-density
- satellite
- time-series
- benchmark
- space-weather
size_categories:
- 1M<n<10M
configs:
- config_name: CHAMP
data_files:
- split: data
path: data/CHAMP.parquet
- split: segments
path: segments/CHAMP_segments.parquet
- split: segments_active
path: segments/active/CHAMP_segments.parquet
- split: segments_quiet
path: segments/quiet/CHAMP_segments.parquet
- config_name: GRACE_A
data_files:
- split: data
path: data/GRACE_A.parquet
- split: segments
path: segments/GRACE_A_segments.parquet
- split: segments_active
path: segments/active/GRACE_A_segments.parquet
- split: segments_quiet
path: segments/quiet/GRACE_A_segments.parquet
- config_name: GRACE_B
data_files:
- split: data
path: data/GRACE_B.parquet
- split: segments
path: segments/GRACE_B_segments.parquet
- split: segments_active
path: segments/active/GRACE_B_segments.parquet
- split: segments_quiet
path: segments/quiet/GRACE_B_segments.parquet
- config_name: GRACE_FO
data_files:
- split: data
path: data/GRACE_FO.parquet
- split: segments
path: segments/GRACE_FO_segments.parquet
- split: segments_active
path: segments/active/GRACE_FO_segments.parquet
- split: segments_quiet
path: segments/quiet/GRACE_FO_segments.parquet
- config_name: GOCE
data_files:
- split: data
path: data/GOCE.parquet
- split: segments
path: segments/GOCE_segments.parquet
- split: segments_active
path: segments/active/GOCE_segments.parquet
- split: segments_quiet
path: segments/quiet/GOCE_segments.parquet
---
# ThermoBench
多卫星**热层大气密度序列 benchmark**:5 颗低轨卫星(CHAMP、GRACE_A/B、
GRACE_FO、GOCE,2000–2025 年)的校准密度观测与空间环境指数,
统一预处理为 5 分钟分辨率的等栅格序列,附带防泄漏的段表与数据划分,
用于序列模型(密度预报 / 时序建模 / 分布偏移评测)的训练与公平比较。
## 数据内容
`data/{SAT}.parquet` —— 每行一个 5 min 采样点,15 列:
| 列 | 单位 | 说明 |
|---|---|---|
| `date` | UTC | 采样时刻(对齐 5 min 网格,秒为 0) |
| `altitude_m` | m | 轨道高度 |
| `longitude_deg` / `latitude_deg` | deg | 星下点经纬度 |
| `lst_h` | h | 地方太阳时 |
| `arglat_deg` | deg | argument of latitude(轨道相位) |
| `Kp`, `ap`, `Ap` | -, nT, nT | 地磁活动指数(GFZ) |
| `SN` | - | 太阳黑子数(GFZ,**CC BY-NC 4.0**,见 License) |
| `F10.7obs`, `F10.7adj` | sfu | 太阳射电流量 F10.7(观测值/校准值,GFZ) |
| `rho_x_kg_m3` | kg/m³ | 校准后的大气密度 |
| `log10_rho_x` | log10(kg/m³) | 密度对数(**推荐建模目标**) |
| `dt_since_prev_s` | s | 与前一采样点的时间间隔(显式 gap 标记) |
## 预处理流程
1. **删缺失**:观测列任一 NaN 或 `rho_x ≤ 0` 的行整行删除(不插值)
2. **降采样**:10 s 原始数据按绝对 5 min 网格分 bin,每 bin 取首点,
时间戳对齐 bin 起点;F10.7 前向填充
3. **切段**:相邻点间隔 > 30 min 即断段,防止模型跨数据断档学习虚假连续性
4. **划分**:段按时间排序后按 80/10/10 划为 train/val/test(无时间泄漏)
5. **排除泄漏列**:轨道平均密度 `rho_mean` 含未来信息,未收录
## 段表
`segments/{SAT}_segments.parquet`(全量赛道)与
`segments/active|quiet/`(era 赛道,见下):
| 列 | 说明 |
|---|---|
| `seg_id` | 段编号(段内从 0 连续) |
| `start_row` / `end_row` | 该段在 `data/{SAT}.parquet` 中的闭区间行号 |
| `length` | 段内点数(×5 min 即时长) |
| `t_start` / `t_end` | 段起止时刻 |
| `duration_h` | 段时长(小时) |
| `n_internal_gaps` | 段内 5~30 min 小缺口数 |
| `split` | train / val / test |
| `parent_seg_id` | 仅 era 段表:所属母段 id(跨界拆分子段共用) |
**窗口采样必须限制在单段行号区间内**(`start_row + offset`),
否则会跨数据断档拼接序列。
## era 赛道(活跃/平静年代子集)
按太阳周期年代在段级划分,用于评测模型在分布偏移下的泛化:
- **active**:2000–2005、2011–2017、2022–2026
- **quiet**:2006–2010、2018–2021
era 段表零复制:行号直接索引共享的 `data/{SAT}.parquet`;
split 与归一化均独立于全量赛道。两子集存在真实分布漂移
(中位 F10.7:active 111–155 sfu vs quiet 71–77 sfu)。
**注意**:
- GRACE_FO/quiet 与 GOCE/quiet 无 val(train/test 二分,无早停依据,
请用固定 epoch 或 train 指标)
- 全量赛道 test 与 era 赛道 train 时间段必然重叠——两赛道的模型
与统计量**禁止混用**
## 统计
| 卫星 | 5min 行数 | 段数 | 时间跨度 |
|---|---|---|---|
| CHAMP | 981,418 | 292 | 2000-07 ~ 2010-09 |
| GRACE_A | 1,439,680 | 520 | 2002-04 ~ 2017-10 |
| GRACE_B | 1,313,978 | 902 | 2002-04 ~ 2017-05 |
| GRACE_FO | 793,673 | 28 | 2018-05 ~ 2025-12 |
| GOCE | 366,747 | 35 | 2009-11 ~ 2013-10 |
全量合计约 489.5 万采样点。era 赛道:active 292 万行 / 1,099 段(59.6%)、
quiet 198 万行 / 683 段(40.4%)。
## 快速上手
```python
import pandas as pd
df = pd.read_parquet("data/CHAMP.parquet")
seg = pd.read_parquet("segments/CHAMP_segments.parquet")
train_seg = seg[seg["split"] == "train"]
# 窗口采样示例:段内取 96 点(8 h)窗口
import numpy as np
row = train_seg.iloc[0]
x = df.iloc[row.start_row: row.start_row + 96]
```
评估指标建议:在 `log10_rho_x` 域计算 RMSE/MAE,
换算回线性域报告相对误差 |ρ̂-ρ|/ρ。
## License
- 密度与轨道数据:来自 TU Delft thermosphere 密度数据库 (v02/v02c),
**CC BY 4.0**
- 空间环境指数(Kp、ap、Ap、SN、F10.7):来自 the GFZ German
Research Centre for Geosciences,其中 **SN(太阳黑子数)列为
CC BY-NC 4.0**,仅限非商业使用
- 本数据集文件包含 SN 列,因此**整体按 CC BY-NC 4.0 分发**