DaftJun commited on
Commit
b02763e
·
verified ·
1 Parent(s): e06e959

Add complete RF training data usage guide and NumPy reader

Browse files
compact_uint16/USAGE.md ADDED
@@ -0,0 +1,79 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # RFWM 完整训练数据使用说明
2
+
3
+ 本仓库 `compact_uint16/` 提供完整 uint16 NumPy 训练包。每条 `.tar.gz` 包含 RSS、同步三路视觉、状态、动作、材料和配置;不需要从另一个仓库补齐内容。
4
+
5
+ ## 下载与解压
6
+
7
+ 安装客户端:`pip install huggingface_hub numpy`。下载发布清单,再按清单路径下载需要的样本:
8
+
9
+ ```python
10
+ import hashlib
11
+ import json
12
+ from pathlib import Path
13
+ from huggingface_hub import HfApi, hf_hub_download
14
+
15
+ repo = "DaftJun/RFWM"
16
+ revision = HfApi().repo_info(repo, repo_type="dataset").sha
17
+ manifest = hf_hub_download(repo, "compact_uint16/manifests/train.jsonl",
18
+ repo_type="dataset", revision=revision)
19
+ rows = [json.loads(line) for line in Path(manifest).read_text().splitlines() if line]
20
+ row = rows[0] # 发布过程中清单会增长;可循环下载所有行。
21
+ archive = hf_hub_download(repo, row["path"], repo_type="dataset", revision=revision)
22
+ assert Path(archive).stat().st_size == row["bytes"]
23
+ digest = hashlib.sha256()
24
+ with open(archive, "rb") as stream:
25
+ for block in iter(lambda: stream.read(8 * 1024 * 1024), b""):
26
+ digest.update(block)
27
+ assert digest.hexdigest() == row["sha256"]
28
+ print(archive)
29
+ ```
30
+
31
+ 将打印出的归档解压到独立目录,例如 `tar -xzf sample.tar.gz -C extracted_sample`。不要把不同样本解压到同一个目录。每个包内都有 `read_sample.py`,可从样本目录导入,也可下载仓库中的 `compact_uint16/read_sample.py`。
32
+
33
+ ## RSS 编码与读取
34
+
35
+ `rss_dbm_uint16.npy` 的逻辑轴为 `[time,height,y,x]`,通常是 `[30,24,512,512]`。Fortran 是磁盘存储顺序,不改变逻辑轴。高度逐样本变化,读取 `heights_m.npy`。时间读取 `timestamps_s.npy`,通常为 0–29 秒、间隔 1 秒。
36
+
37
+ ```python
38
+ from read_sample import load_rss
39
+ rss_dbm = load_rss("extracted_sample", frames=slice(0, 5))
40
+ # 返回 C 连续 float32,单位 dBm,无效位置 NaN。
41
+ ```
42
+
43
+ `quantization.json` 明确规定:步长 0.01 dB,整数偏移 32768,无效码 0。解码必须先转为有符号整数:
44
+
45
+ ```python
46
+ import numpy as np
47
+ q = np.load("extracted_sample/rss_dbm_uint16.npy", mmap_mode="r", allow_pickle=False)
48
+ rss_dbm = (q.astype(np.int32) - 32768).astype(np.float32) * np.float32(0.01)
49
+ rss_dbm[q == 0] = np.nan
50
+ ```
51
+
52
+ 这一编码可精确恢复现有 centi-dBm 训练数组,无额外量化损失,不截断有效值;并不声称恢复 RT 输出量化之前的连续值。完整解码约需 720 MiB,训练时建议按帧或片段加载。无效位置不代表真实接收功率为零,损失函数应使用有效掩码排除 NaN。
53
+
54
+ ## 视觉、状态和动作
55
+
56
+ - `visual/bs/`:基站位置广角第一视角,不是无人机机载视角。
57
+ - `visual/topdown/`:俯视图。
58
+ - `visual/elevated/`:高位侧向斜视图。
59
+ - 每路 30 张 PNG,共 90 张;`visual/synchronization.json` 保留帧时间、相机参数、UAV 标注与视觉质量诊断。可能被遮挡的视角按原样保留并标注。
60
+ - `states.npz` 用 NumPy 读取,键名保持原 HDF5 路径。`array_schema.json` 保留字段映射、属性与类型说明。
61
+ - `metadata.json` 保留来源版本、城市、`physical_episode_group`、控制协议、QA 协议和训练用途。
62
+ - `config.json`、`state_schema.json` 以及源样本提供的 `actions.json`、`scene_metadata.json` 同包保存。
63
+
64
+ ```python
65
+ import numpy as np
66
+ with np.load("extracted_sample/states.npz", allow_pickle=False) as state:
67
+ print(state.files)
68
+ uav_position_m = state["state/uav_position_m"]
69
+ ```
70
+
71
+ 区域约为 1 km × 1 km,水平网格 512 × 512;具体坐标与范围以样本元数据为准。控制方式可能随历史版本变化,读取 `control_schedule`,不要假设所有样本都只在固定帧切换动作。
72
+
73
+ ## 训练分组与数据范围
74
+
75
+ `manifests/dynamic_rf_train.jsonl` 是含动态 UAV RF 实体的主训练清单,`legacy_aux_train.jsonl` 是历史辅助清单。后者新增的光学 UAV 不意味着原 RF 已包含机体遮挡或反射。所有发布记录按用户要求归入训练集;不提供独立测试集。后续评估应按 `physical_episode_group` 分组,避免共享场景泄漏。
76
+
77
+ 地图主要为真实建筑轮廓挤出几何,部分建筑高度为估计。视觉是合成渲染,材料参数含合成分组与动态变化,不是逐栋实测材料。固定预算单次 RT 样本不做统计置信度检查;保留每条样本真实的 `qa_protocol` 与 `confidence_evaluated`。
78
+
79
+ 源仓库为 [PATIENTHZ/low-altitude-rf-worldmodel](https://huggingface.co/datasets/PATIENTHZ/low-altitude-rf-worldmodel)。两个仓库相同 record_id 的完整归档应有相同 SHA256,不要合并重复计数。新包会持续发布,清单只统计已提交的完整包;看到 README 不代表全量上传已完成。本仓库不上传原始重型 RF 归档、地图网格或旧版 float32 存储副本。
compact_uint16/read_sample.py ADDED
@@ -0,0 +1,39 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ """Read one extracted NumPy RF episode; returned RSS values are float32 dBm."""
2
+ import argparse
3
+ import json
4
+ from pathlib import Path
5
+
6
+ import numpy as np
7
+
8
+
9
+ def load_rss(directory, frames=slice(None)):
10
+ directory = Path(directory)
11
+ metadata = json.loads((directory / "metadata.json").read_text())
12
+ stored = np.load(directory / metadata["training_file"], mmap_mode="r", allow_pickle=False)
13
+ selected = stored[frames]
14
+ quantization_file = metadata.get("quantization_file")
15
+ if quantization_file:
16
+ encoding = json.loads((directory / quantization_file).read_text())
17
+ if encoding["schema"] != "uint16_centi_dbm_v1" or stored.dtype != np.dtype("uint16"):
18
+ raise ValueError("Unsupported RSS encoding")
19
+ values = (selected.astype(np.int32) - encoding["integer_offset"]).astype(np.float32)
20
+ values *= np.float32(encoding["step_db"])
21
+ values[selected == encoding["invalid_code"]] = np.nan
22
+ else:
23
+ if stored.dtype != np.dtype("float32"):
24
+ raise ValueError("Expected direct float32 RSS")
25
+ values = selected
26
+ return np.ascontiguousarray(values)
27
+
28
+
29
+ if __name__ == "__main__":
30
+ parser = argparse.ArgumentParser(description=__doc__)
31
+ parser.add_argument("directory", type=Path)
32
+ parser.add_argument("--frame", type=int, default=0)
33
+ args = parser.parse_args()
34
+ rss = load_rss(args.directory, args.frame)
35
+ valid = rss[np.isfinite(rss)]
36
+ print(json.dumps(dict(unit="dBm", shape=list(rss.shape), dtype=str(rss.dtype),
37
+ valid_voxels=int(valid.size),
38
+ min_dbm=float(valid.min()) if valid.size else None,
39
+ max_dbm=float(valid.max()) if valid.size else None)))