--- pretty_name: DeepTelecom UAV Dataset v1 library_name: webdataset viewer: false tags: - wireless - ray-tracing - uav - micro-doppler - webdataset size_categories: - 10K 这是基于 Sionna RT 的运动点散射体与单站回波近似数据,不是实测飞行数据,也不是带真实无人机网格/RCS 的全波电磁仿真。 ## 快速入口 / Quick links - [中文项目首页](https://kygoyuan2004.github.io/DeepTelecom_Partial/) - [English project page](https://kygoyuan2004.github.io/DeepTelecom_Partial/en/) - [真实样本与对应关键参数 / Verified samples and paired key parameters](https://kygoyuan2004.github.io/DeepTelecom_Partial/gallery/) - [生成方法与扩展教程 / Generation method](https://kygoyuan2004.github.io/DeepTelecom_Partial/generation/) - [GitHub 文档、工具与开源生成器](https://github.com/kygoyuan2004/DeepTelecom_Partial) - [冻结数据版本 `v1.0.0`](https://huggingface.co/datasets/KYGOYUAN/DeepTelecom_Partial/tree/v1.0.0) ## 数据概况 / At a glance | 内容 / Item | v1.0.0 | |---|---:| | 正式样本 / accepted samples | **44,988** | | 连续公开 ID / public IDs | `DTUAV-V1-000001`–`DTUAV-V1-044988` | | WebDataset 分片 / shards | **140** | | TAR 成员 / members | **134,964**(每样本 3 个) | | TAR 总字节数 / bytes | **148,989,562,880** | | 张量格式 / tensor schemas | 44,948 × 32-key;40 × legacy 24-key | | 预定义 split | 无 / none | Hugging Face 的通用 Dataset Viewer 已主动关闭:本版本没有预定义 split,且 NPZ 中包含无法由通用 Arrow 预览器无损表示的复数张量。这不影响数据下载或流式读取;请使用下方的 WebDataset 示例或项目加载工具。 / The generic Dataset Viewer is intentionally disabled because this split-free WebDataset contains complex-valued NPZ tensors that cannot be represented losslessly by its Arrow preview. Use the WebDataset example or the project loaders below. ## 四类工况不是四个难懂的代码 | 人类可读名称 | `class_id` | 生成条件 | 散射点 | 样本数 | |---|---|---|---:|---:| | 水平悬停 / Level hover | `level_v0` | 倾斜 0°,机体平移 0 m/s;旋翼仍转动 | 25 | 11,249 | | 30° 倾斜飞行 / 30° pitched flight | `pitch30_v10` | 绕仿真 y 轴倾斜 30°,沿轨迹 10 m/s | 25 | 11,236 | | 45° 倾斜飞行 / 45° pitched flight | `pitch45_v10` | 绕仿真 y 轴倾斜 45°,沿轨迹 10 m/s | 25 | 11,219 | | 单叶片基准 / Isolated blade baseline | `single_blade_v0` | 一个旋转叶尖散射点,中心平移 0 m/s | 1 | 11,284 | 标签中的 `pitchNN` 表示生成器中的倾斜角(度),`vNN` 表示机体/轨迹速度(m/s),不是旋翼速度。正角通过 y 轴旋转实现,因此这里只写“倾斜”,不推断机头上仰或下俯。`single_blade_v0` 是隔离叶片效应的控制模型,不代表一架“单桨无人机”。 普通三类的 25 个点由 **1 个机体点 + 4 旋翼 × 2 叶片 × 每叶片 3 个径向点**组成。 ## 真实频谱示例 / Verified release examples 以下 PNG 均来自最终发布 TAR;其源文件、TAR 成员和全局 manifest 的 SHA-256 已三方核验。图像横向是时间,纵向是多普勒频移,颜色表示相对谱强度。精确的 `t_axis`、`f_axis` 和 `S_dB` 在同名 NPZ 中。
Level-hover micro-Doppler spectrogram
水平悬停
DTUAV-V1-000007
0° · 0 m/s · 25 points
30-degree pitched-flight micro-Doppler spectrogram
30° 倾斜飞行
DTUAV-V1-011252
30° · 10 m/s · 25 points
45-degree pitched-flight micro-Doppler spectrogram
45° 倾斜飞行
DTUAV-V1-022488
45° · 10 m/s · 25 points
Isolated-blade baseline micro-Doppler spectrogram
单叶片基准
DTUAV-V1-033705
0° · 0 m/s · 1 blade-tip
[画廊页面](https://kygoyuan2004.github.io/DeepTelecom_Partial/gallery/)列出每个示例的分片、旋翼频率、叶片半径、载频、采样率、快照和 STFT 参数。 ## 场景与飞行轨迹 / Scene and flight paths Sionna RT Étoile scene with the base station and configured UAV flight corridor 场景图由正式生成器直接渲染 Sionna RT 2.0.1 内置 Étoile 资产:橙色点是 `(78.9293, 32.0468, 28.9687) m` 的基站,青色点列是高度 70 m、全长 88.914 m 的完整三次 Bézier 配置走廊。它用于解释场景和完整配置,不表示单个 0.1024 s 样本走完了整条轨迹。 Four verified UAV body paths drawn from release NPZ arrays 第二张图直接读取上述四个正式 NPZ 的 `uav_positions_m` 数组。两个 10 m/s 样本在观测窗口内分别运动约 1.024 m;水平悬停和单叶片基准的机体中心保持定点,但旋翼或叶尖散射点仍在运动。绝对起终点和图像校验值见[机器可读画廊清单](https://github.com/kygoyuan2004/DeepTelecom_Partial/blob/c125baacc9851561317e3e3f9ab23c62e6e82fb5/site/data/gallery.json)。 ## 每个样本包含什么 / Sample contract 每个连续公开 ID 在一个分片中恰好对应三个同名成员: ```text DTUAV-V1-000001.npz # channel, echo, motion, scatterer, STFT, and scene arrays DTUAV-V1-000001.png # paired 512 × 512 spectrogram preview DTUAV-V1-000001.json # normalized class, schema, checksum, and provenance metadata ``` JSON sidecar 遵循 [`schemas/v1/sample.schema.json`](https://huggingface.co/datasets/KYGOYUAN/DeepTelecom_Partial/resolve/v1.0.0/schemas/v1/sample.schema.json)。`all_samples.jsonl` 是分配与 provenance 清单,不是 sidecar 本身。 44,948 个样本使用 `dtuav-etoile-32key-v1` 张量,40 个早期正式样本使用 `dtuav-floor-wall-24key-v1`。外层 NPZ + PNG + JSON 合同完全一致;`tensor_schema_id` 决定内部数组合同,早期样本缺少的数组没有被人为伪造。 ## 从分散输出到统一发布 / Curation path 1. 对三套计算环境做只读清点并冻结候选清单。 2. 在冻结前排除 39,240 份本地物理副本、1 个零字节无效样本、1,077 条未完成记录和 5,109 条测试/日志/非正式记录。 3. 依据内容哈希做全局核验。70 组旧编号冲突包含 144 条不同内容,全部保留并获得不同全局 ID。 4. 将 44,988 个正式样本重编号为 `DTUAV-V1-XXXXXX`,建立统一三成员合同。 5. 构建并逐一核验 140 个确定性 TAR、SHA-256、LFS 对象与提交链。 39,240 表示同一数据在本地目录中的重复存储,并不表示删除了 39,240 个独立训练样本。冻结候选中跨来源内容重复删除数为 0,待决冲突为 0。公开路径不按计算设备分组;来源只保存在 provenance 字段中。 ## 下载 / Download 使用当前 `hf` CLI 下载冻结版本: ```bash hf download KYGOYUAN/DeepTelecom_Partial \ --repo-type dataset \ --revision v1.0.0 \ --include "data/v1/shards/*.tar" \ --include "manifests/v1/*" \ --include "schemas/v1/*" \ --include "checksums/v1/SHA256SUMS" \ --local-dir DeepTelecom_Partial ``` 只下载一个分片做测试: ```bash hf download KYGOYUAN/DeepTelecom_Partial \ data/v1/shards/shard-00000.tar \ manifests/v1/all_samples.jsonl.gz \ schemas/v1/sample.schema.json \ --repo-type dataset --revision v1.0.0 \ --local-dir DeepTelecom_Partial ``` ## 流式读取 / Stream with WebDataset ```python import io import json import numpy as np import webdataset as wds base = ( "https://huggingface.co/datasets/KYGOYUAN/DeepTelecom_Partial/" "resolve/v1.0.0/data/v1/shards" ) urls = base + "/shard-{00000..00139}.tar" dataset = wds.WebDataset(urls, shardshuffle=False).to_tuple("__key__", "npz", "png", "json") for sample_id, npz_bytes, png_bytes, json_bytes in dataset: metadata = json.loads(json_bytes) with np.load(io.BytesIO(npz_bytes), allow_pickle=False) as tensor: print(sample_id, metadata["class_id"], tensor.files) break ``` 本项目 GitHub 还提供带范围下载、断点续传、深度校验和安全 NPZ 读取的[辅助脚本](https://github.com/kygoyuan2004/DeepTelecom_Partial/tree/main/scripts)。 ## 完整性校验 / Integrity 在下载仓库根目录执行: ```bash grep ' data/v1/shards/' checksums/v1/SHA256SUMS | sha256sum -c - ``` `SHA256SUMS` 覆盖 140 个 TAR 与发布元数据(不自我包含)。实验应固定到 [`v1.0.0`](https://huggingface.co/datasets/KYGOYUAN/DeepTelecom_Partial/tree/v1.0.0) 或完整 commit [`de7fc35cb41af3d9c5b2f52dab5483e3ceb623b3`](https://huggingface.co/datasets/KYGOYUAN/DeepTelecom_Partial/tree/de7fc35cb41af3d9c5b2f52dab5483e3ceb623b3),不要依赖会继续更新文档的 `main`。 ## 开源生成器 / Open-source generator [GitHub `generator/`](https://github.com/kygoyuan2004/DeepTelecom_Partial/tree/main/generator) 提供清理后的核心代码、固定依赖、配置、预检与小型冒烟测试。生成路径为: ```text attitude/speed + trajectory → moving body/blade scatterer probes → per-snapshot Sionna RT one-way CIR → weighted coherent monostatic-return approximation + AWGN → STFT → NPZ + PNG + metadata ``` 当前配置支持增加每叶片径向散射点、调整叶片数、直线轨迹和一段三次 Bézier 轨迹。当前拓扑固定为四旋翼;任意旋翼布局、waypoint/CSV 和多段轨迹属于后续扩展,不作为现成功能宣传。完整教程见[生成方法页](https://kygoyuan2004.github.io/DeepTelecom_Partial/generation/)。 ## Split、组织与许可 / Split, organization, and license - v1.0.0 不预设 train/validation/test split;请依据任务从连续全局 ID 构造并记录自己的划分。 - 项目由[浙江大学信息与电子工程学院(ISEE)](https://www.isee.zju.edu.cn/)团队整理发布。此说明用于识别项目组织,不额外暗示未声明的机构背书。 - GitHub 仓库中的代码与文档采用 Apache-2.0。该代码许可证不自动构成数据 payload 的独立授权;当前数据许可字段为 `null`,使用前请联系数据发布者确认适用条款。 ## English summary DeepTelecom UAV Dataset v1 contains 44,988 ray-tracing-derived UAV wireless-sensing samples in 140 deterministic WebDataset shards. Each public ID maps to one source-preserved NPZ tensor, one paired PNG spectrogram, and one normalized JSON sidecar. Four balanced conditions cover level hover, 30° and 45° pitched motion at 10 m/s, and an isolated rotating blade-tip baseline. The public namespace is source-neutral, while provenance remains available in metadata. The project publishes a verified sample gallery, an exact checksum manifest, helper scripts, and a cleaned generator built on Sionna RT. Please read the modeling boundary above: these are point-scatterer monostatic-return approximations, not full-wave or measured-aircraft ground truth. For experiments, pin `v1.0.0` or the exact release commit, create a task-appropriate split, record the tensor schema ID, and verify downloaded shards before use.