File size: 12,743 Bytes
d694646
de7fc35
1ce4d84
f54dea0
de7fc35
 
 
 
1ce4d84
de7fc35
 
 
d694646
de7fc35
 
 
1ce4d84
de7fc35
1ce4d84
de7fc35
1ce4d84
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
f54dea0
 
1ce4d84
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
de7fc35
1ce4d84
de7fc35
1ce4d84
de7fc35
1ce4d84
 
 
 
 
de7fc35
 
1ce4d84
 
 
de7fc35
 
1ce4d84
 
 
 
 
de7fc35
1ce4d84
 
 
 
 
de7fc35
1ce4d84
de7fc35
1ce4d84
de7fc35
1ce4d84
de7fc35
1ce4d84
 
 
 
 
 
 
 
 
 
 
 
de7fc35
 
1ce4d84
 
 
 
 
 
de7fc35
 
1ce4d84
de7fc35
 
1ce4d84
 
 
de7fc35
 
1ce4d84
 
 
de7fc35
1ce4d84
 
de7fc35
1ce4d84
 
 
 
 
de7fc35
 
1ce4d84
 
 
 
 
de7fc35
 
 
 
 
1ce4d84
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
de7fc35
1ce4d84
de7fc35
1ce4d84
 
 
de7fc35
1ce4d84
de7fc35
1ce4d84
de7fc35
1ce4d84
de7fc35
1ce4d84
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
---
pretty_name: DeepTelecom UAV Dataset v1
library_name: webdataset
viewer: false
tags:
- wireless
- ray-tracing
- uav
- micro-doppler
- webdataset
size_categories:
- 10K<n<100K
---

# DeepTelecom UAV Dataset v1

**中文数据卡|An English summary follows the Chinese data card.**

DeepTelecom v1 是一个面向无人机无线传播与微多普勒研究的、由射线追踪仿真产生的数据集。项目团队将三套计算环境中的分散输出统一清点、清洗、核验和重新编号,最终发布 **44,988 个正式样本**、**140 个 WebDataset TAR 分片**和 **138.76 GiB** 数据。

> 这是基于 Sionna RT 的运动点散射体与单站回波近似数据,不是实测飞行数据,也不是带真实无人机网格/RCS 的全波电磁仿真。

## 快速入口 / Quick links

- [中文项目首页](https://kygoyuan2004.github.io/DeepTelecom_Partial/)
- [English project page](https://kygoyuan2004.github.io/DeepTelecom_Partial/en/)
- [真实样本与对应关键参数 / Verified samples and paired key parameters](https://kygoyuan2004.github.io/DeepTelecom_Partial/gallery/)
- [生成方法与扩展教程 / Generation method](https://kygoyuan2004.github.io/DeepTelecom_Partial/generation/)
- [GitHub 文档、工具与开源生成器](https://github.com/kygoyuan2004/DeepTelecom_Partial)
- [冻结数据版本 `v1.0.0`](https://huggingface.co/datasets/KYGOYUAN/DeepTelecom_Partial/tree/v1.0.0)

## 数据概况 / At a glance

| 内容 / Item | v1.0.0 |
|---|---:|
| 正式样本 / accepted samples | **44,988** |
| 连续公开 ID / public IDs | `DTUAV-V1-000001`–`DTUAV-V1-044988` |
| WebDataset 分片 / shards | **140** |
| TAR 成员 / members | **134,964**(每样本 3 个) |
| TAR 总字节数 / bytes | **148,989,562,880** |
| 张量格式 / tensor schemas | 44,948 × 32-key;40 × legacy 24-key |
| 预定义 split | 无 / none |

Hugging Face 的通用 Dataset Viewer 已主动关闭:本版本没有预定义 split,且 NPZ 中包含无法由通用 Arrow 预览器无损表示的复数张量。这不影响数据下载或流式读取;请使用下方的 WebDataset 示例或项目加载工具。 / The generic Dataset Viewer is intentionally disabled because this split-free WebDataset contains complex-valued NPZ tensors that cannot be represented losslessly by its Arrow preview. Use the WebDataset example or the project loaders below.

## 四类工况不是四个难懂的代码

| 人类可读名称 | `class_id` | 生成条件 | 散射点 | 样本数 |
|---|---|---|---:|---:|
| 水平悬停 / Level hover | `level_v0` | 倾斜 0°,机体平移 0 m/s;旋翼仍转动 | 25 | 11,249 |
| 30° 倾斜飞行 / 30° pitched flight | `pitch30_v10` | 绕仿真 y 轴倾斜 30°,沿轨迹 10 m/s | 25 | 11,236 |
| 45° 倾斜飞行 / 45° pitched flight | `pitch45_v10` | 绕仿真 y 轴倾斜 45°,沿轨迹 10 m/s | 25 | 11,219 |
| 单叶片基准 / Isolated blade baseline | `single_blade_v0` | 一个旋转叶尖散射点,中心平移 0 m/s | 1 | 11,284 |

标签中的 `pitchNN` 表示生成器中的倾斜角(度),`vNN` 表示机体/轨迹速度(m/s),不是旋翼速度。正角通过 y 轴旋转实现,因此这里只写“倾斜”,不推断机头上仰或下俯。`single_blade_v0` 是隔离叶片效应的控制模型,不代表一架“单桨无人机”。

普通三类的 25 个点由 **1 个机体点 + 4 旋翼 × 2 叶片 × 每叶片 3 个径向点**组成。

## 真实频谱示例 / Verified release examples

以下 PNG 均来自最终发布 TAR;其源文件、TAR 成员和全局 manifest 的 SHA-256 已三方核验。图像横向是时间,纵向是多普勒频移,颜色表示相对谱强度。精确的 `t_axis`、`f_axis` 和 `S_dB` 在同名 NPZ 中。

<table>
  <tr>
    <td align="center"><img src="https://raw.githubusercontent.com/kygoyuan2004/DeepTelecom_Partial/c125baacc9851561317e3e3f9ab23c62e6e82fb5/site/assets/images/samples/DTUAV-V1-000007.png" width="330" alt="Level-hover micro-Doppler spectrogram"><br><b>水平悬停</b><br><code>DTUAV-V1-000007</code><br>0° · 0 m/s · 25 points</td>
    <td align="center"><img src="https://raw.githubusercontent.com/kygoyuan2004/DeepTelecom_Partial/c125baacc9851561317e3e3f9ab23c62e6e82fb5/site/assets/images/samples/DTUAV-V1-011252.png" width="330" alt="30-degree pitched-flight micro-Doppler spectrogram"><br><b>30° 倾斜飞行</b><br><code>DTUAV-V1-011252</code><br>30° · 10 m/s · 25 points</td>
  </tr>
  <tr>
    <td align="center"><img src="https://raw.githubusercontent.com/kygoyuan2004/DeepTelecom_Partial/c125baacc9851561317e3e3f9ab23c62e6e82fb5/site/assets/images/samples/DTUAV-V1-022488.png" width="330" alt="45-degree pitched-flight micro-Doppler spectrogram"><br><b>45° 倾斜飞行</b><br><code>DTUAV-V1-022488</code><br>45° · 10 m/s · 25 points</td>
    <td align="center"><img src="https://raw.githubusercontent.com/kygoyuan2004/DeepTelecom_Partial/c125baacc9851561317e3e3f9ab23c62e6e82fb5/site/assets/images/samples/DTUAV-V1-033705.png" width="330" alt="Isolated-blade baseline micro-Doppler spectrogram"><br><b>单叶片基准</b><br><code>DTUAV-V1-033705</code><br>0° · 0 m/s · 1 blade-tip</td>
  </tr>
</table>

[画廊页面](https://kygoyuan2004.github.io/DeepTelecom_Partial/gallery/)列出每个示例的分片、旋翼频率、叶片半径、载频、采样率、快照和 STFT 参数。

## 场景与飞行轨迹 / Scene and flight paths

<img src="https://raw.githubusercontent.com/kygoyuan2004/DeepTelecom_Partial/c125baacc9851561317e3e3f9ab23c62e6e82fb5/site/assets/images/scenes/etoile-trajectory-overview.png" width="900" alt="Sionna RT Étoile scene with the base station and configured UAV flight corridor">

场景图由正式生成器直接渲染 Sionna RT 2.0.1 内置 Étoile 资产:橙色点是 `(78.9293, 32.0468, 28.9687) m` 的基站,青色点列是高度 70 m、全长 88.914 m 的完整三次 Bézier 配置走廊。它用于解释场景和完整配置,不表示单个 0.1024 s 样本走完了整条轨迹。

<img src="https://raw.githubusercontent.com/kygoyuan2004/DeepTelecom_Partial/c125baacc9851561317e3e3f9ab23c62e6e82fb5/site/assets/images/trajectories/representative-trajectories.png" width="900" alt="Four verified UAV body paths drawn from release NPZ arrays">

第二张图直接读取上述四个正式 NPZ 的 `uav_positions_m` 数组。两个 10 m/s 样本在观测窗口内分别运动约 1.024 m;水平悬停和单叶片基准的机体中心保持定点,但旋翼或叶尖散射点仍在运动。绝对起终点和图像校验值见[机器可读画廊清单](https://github.com/kygoyuan2004/DeepTelecom_Partial/blob/c125baacc9851561317e3e3f9ab23c62e6e82fb5/site/data/gallery.json)。

## 每个样本包含什么 / Sample contract

每个连续公开 ID 在一个分片中恰好对应三个同名成员:

```text
DTUAV-V1-000001.npz   # channel, echo, motion, scatterer, STFT, and scene arrays
DTUAV-V1-000001.png   # paired 512 × 512 spectrogram preview
DTUAV-V1-000001.json  # normalized class, schema, checksum, and provenance metadata
```

JSON sidecar 遵循 [`schemas/v1/sample.schema.json`](https://huggingface.co/datasets/KYGOYUAN/DeepTelecom_Partial/resolve/v1.0.0/schemas/v1/sample.schema.json)。`all_samples.jsonl` 是分配与 provenance 清单,不是 sidecar 本身。

44,948 个样本使用 `dtuav-etoile-32key-v1` 张量,40 个早期正式样本使用 `dtuav-floor-wall-24key-v1`。外层 NPZ + PNG + JSON 合同完全一致;`tensor_schema_id` 决定内部数组合同,早期样本缺少的数组没有被人为伪造。

## 从分散输出到统一发布 / Curation path

1. 对三套计算环境做只读清点并冻结候选清单。
2. 在冻结前排除 39,240 份本地物理副本、1 个零字节无效样本、1,077 条未完成记录和 5,109 条测试/日志/非正式记录。
3. 依据内容哈希做全局核验。70 组旧编号冲突包含 144 条不同内容,全部保留并获得不同全局 ID。
4. 将 44,988 个正式样本重编号为 `DTUAV-V1-XXXXXX`,建立统一三成员合同。
5. 构建并逐一核验 140 个确定性 TAR、SHA-256、LFS 对象与提交链。

39,240 表示同一数据在本地目录中的重复存储,并不表示删除了 39,240 个独立训练样本。冻结候选中跨来源内容重复删除数为 0,待决冲突为 0。公开路径不按计算设备分组;来源只保存在 provenance 字段中。

## 下载 / Download

使用当前 `hf` CLI 下载冻结版本:

```bash
hf download KYGOYUAN/DeepTelecom_Partial \
  --repo-type dataset \
  --revision v1.0.0 \
  --include "data/v1/shards/*.tar" \
  --include "manifests/v1/*" \
  --include "schemas/v1/*" \
  --include "checksums/v1/SHA256SUMS" \
  --local-dir DeepTelecom_Partial
```

只下载一个分片做测试:

```bash
hf download KYGOYUAN/DeepTelecom_Partial \
  data/v1/shards/shard-00000.tar \
  manifests/v1/all_samples.jsonl.gz \
  schemas/v1/sample.schema.json \
  --repo-type dataset --revision v1.0.0 \
  --local-dir DeepTelecom_Partial
```

## 流式读取 / Stream with WebDataset

```python
import io
import json
import numpy as np
import webdataset as wds

base = (
    "https://huggingface.co/datasets/KYGOYUAN/DeepTelecom_Partial/"
    "resolve/v1.0.0/data/v1/shards"
)
urls = base + "/shard-{00000..00139}.tar"

dataset = wds.WebDataset(urls, shardshuffle=False).to_tuple("__key__", "npz", "png", "json")
for sample_id, npz_bytes, png_bytes, json_bytes in dataset:
    metadata = json.loads(json_bytes)
    with np.load(io.BytesIO(npz_bytes), allow_pickle=False) as tensor:
        print(sample_id, metadata["class_id"], tensor.files)
    break
```

本项目 GitHub 还提供带范围下载、断点续传、深度校验和安全 NPZ 读取的[辅助脚本](https://github.com/kygoyuan2004/DeepTelecom_Partial/tree/main/scripts)。

## 完整性校验 / Integrity

在下载仓库根目录执行:

```bash
grep '  data/v1/shards/' checksums/v1/SHA256SUMS | sha256sum -c -
```

`SHA256SUMS` 覆盖 140 个 TAR 与发布元数据(不自我包含)。实验应固定到 [`v1.0.0`](https://huggingface.co/datasets/KYGOYUAN/DeepTelecom_Partial/tree/v1.0.0) 或完整 commit [`de7fc35cb41af3d9c5b2f52dab5483e3ceb623b3`](https://huggingface.co/datasets/KYGOYUAN/DeepTelecom_Partial/tree/de7fc35cb41af3d9c5b2f52dab5483e3ceb623b3),不要依赖会继续更新文档的 `main`。

## 开源生成器 / Open-source generator

[GitHub `generator/`](https://github.com/kygoyuan2004/DeepTelecom_Partial/tree/main/generator) 提供清理后的核心代码、固定依赖、配置、预检与小型冒烟测试。生成路径为:

```text
attitude/speed + trajectory
  → moving body/blade scatterer probes
  → per-snapshot Sionna RT one-way CIR
  → weighted coherent monostatic-return approximation + AWGN
  → STFT
  → NPZ + PNG + metadata
```

当前配置支持增加每叶片径向散射点、调整叶片数、直线轨迹和一段三次 Bézier 轨迹。当前拓扑固定为四旋翼;任意旋翼布局、waypoint/CSV 和多段轨迹属于后续扩展,不作为现成功能宣传。完整教程见[生成方法页](https://kygoyuan2004.github.io/DeepTelecom_Partial/generation/)。

## Split、组织与许可 / Split, organization, and license

- v1.0.0 不预设 train/validation/test split;请依据任务从连续全局 ID 构造并记录自己的划分。
- 项目由[浙江大学信息与电子工程学院(ISEE)](https://www.isee.zju.edu.cn/)团队整理发布。此说明用于识别项目组织,不额外暗示未声明的机构背书。
- GitHub 仓库中的代码与文档采用 Apache-2.0。该代码许可证不自动构成数据 payload 的独立授权;当前数据许可字段为 `null`,使用前请联系数据发布者确认适用条款。

## English summary

DeepTelecom UAV Dataset v1 contains 44,988 ray-tracing-derived UAV wireless-sensing samples in 140 deterministic WebDataset shards. Each public ID maps to one source-preserved NPZ tensor, one paired PNG spectrogram, and one normalized JSON sidecar. Four balanced conditions cover level hover, 30° and 45° pitched motion at 10 m/s, and an isolated rotating blade-tip baseline. The public namespace is source-neutral, while provenance remains available in metadata.

The project publishes a verified sample gallery, an exact checksum manifest, helper scripts, and a cleaned generator built on Sionna RT. Please read the modeling boundary above: these are point-scatterer monostatic-return approximations, not full-wave or measured-aircraft ground truth.

For experiments, pin `v1.0.0` or the exact release commit, create a task-appropriate split, record the tensor schema ID, and verify downloaded shards before use.