Datasets:

HapticSensingLab commited on
Commit
3866307
·
verified ·
1 Parent(s): 7a6e242

Upload README.md

Browse files
Files changed (1) hide show
  1. README.md +664 -0
README.md ADDED
@@ -0,0 +1,664 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # Fixed 数据集说明与处理记录
2
+
3
+ 本文档记录Fixed数据的整理规范与处理结果。第1至第8节说明`s2`的CSV处理步骤和检查标准;第9节记录`s1`及其对应真机数据,第10节记录`digit`及其对应真机数据。
4
+
5
+ > 图片合并分别记录在第9.6节和第10.5节;位移域60帧对齐规则见第3.6节。
6
+
7
+ ## 1. 当前数据集内容
8
+
9
+ `s2` 是第二类传感器的抓取、下压及抬升实验数据。当前数据按照“物体条件 → 按压深度 → 运动阶段”组织。
10
+
11
+ - 物体形状:`柱`、`球`
12
+ - 颜色:`白`、`粉`、`褐`、`青`、`黄`
13
+ - 尺寸:`10`、`12.5`、`15`、`17.5`、`20`
14
+ - 共 `2 × 5 × 5 = 50` 个物体条件文件夹,例如 `s2-球白10`、`s2-柱褐17.5`
15
+ - 每个物体条件包含 `press_depth_01` 至 `press_depth_10`,共 10 个按压深度
16
+ - 每个按压深度包含:
17
+ - `up`:抬升/上行阶段
18
+ - `down`:下压、下行或滑移阶段
19
+
20
+ 因此,正常情况下共有:
21
+
22
+ - 500 个 `press_depth_*` 文件夹
23
+ - 500 个 `up` 阶段
24
+ - 500 个 `down` 阶段
25
+ - 合计 1000 个运动阶段
26
+
27
+ 标准目录结构如下:
28
+
29
+ ```text
30
+ s2/
31
+ └── s2-球白10/
32
+ ├── press_depth_01/
33
+ │ ├── up/
34
+ │ │ ├── multimodal_aligned_data.csv
35
+ │ │ ├── franka_data.csv
36
+ │ │ ├── simulation_data.csv
37
+ │ │ ├── real_sim_motion_alignment.csv
38
+ │ │ └── fem_node.csv
39
+ │ └── down/
40
+ │ ├── multimodal_aligned_data.csv
41
+ │ ├── franka_data.csv
42
+ │ ├── simulation_data.csv
43
+ │ ├── real_sim_motion_alignment.csv
44
+ │ └── fem_node.csv
45
+ ├── press_depth_02/
46
+ └── ...
47
+ ```
48
+
49
+ ## 2. 五个 CSV 分别记录什么数据
50
+
51
+ ### 2.1 `multimodal_aligned_data.csv`
52
+
53
+ 这是以相机帧为中心完成时间同步的真机多模态数据。精简后统一为 120 列、60 个数据行。
54
+
55
+ 主要包含:
56
+
57
+ - 相机输出序号、相机时间戳、图像相对路径、图像宽高
58
+ - 相机与任务、机器人、夹爪数据之间的时间对齐信息
59
+ - 任务状态、失败原因、机器人模式和通信状态
60
+ - Franka 末端实际位姿与指令位姿
61
+ - XJC 六维力/力矩的清零值、标定值和在线基线
62
+ - Franka 估计的末端六维力/力矩
63
+ - 机械臂 7 个关节的位置、速度、测量力矩和外部力矩
64
+ - 夹爪两个手指关节的位置、速度、力以及总宽度
65
+
66
+ 该文件适合需要同时使用相机、机器人、夹爪和力传感器信息的任务。
67
+
68
+ ### 2.2 `franka_data.csv`
69
+
70
+ 这是以真机任务/控制周期为中心的 Franka 实验数据。原始文件存在63列和64列两种表头,精简后已统一为56列、60个数据行。
71
+
72
+ 主要包含:
73
+
74
+ - 任务序号以及 ROS、机器人、传感器时间戳
75
+ - Franka 机器人模式、控制成功率、故障和通信状态
76
+ - 夹爪指令宽度与实际宽度
77
+ - 末端实际位姿和指令位姿
78
+ - XJC 原始、校正及基线六维力/力矩
79
+ - Franka 估计的六维力/力矩
80
+ - 上行/下行方向力、控制参考力和脱离检测状态
81
+ - 指令 Z 方向速度与加速度
82
+
83
+ 该文件是当前数据集中推荐作为“真机 Franka 数据”的主表。
84
+
85
+ ### 2.3 `simulation_data.csv`
86
+
87
+ 这是仿真侧每帧的整体力/力矩曲线,一般为 18 列、60 个数据行。
88
+
89
+ 主要字段包括:
90
+
91
+ - `frame`、`time_s`、`phase`
92
+ - `command_travel_m`:仿真指令位移,也是60帧位移域对齐的基准列
93
+ - `Fx_N`、`Fy_N`、`Fz_N`:整体三轴力
94
+ - `Mx_Nm`、`My_Nm`、`Mz_Nm`:整体三轴力矩
95
+ - `delta_F*`、`delta_M*`:相对基准的力/力矩变化量
96
+ - `delta_force_norm_N`、`delta_moment_norm_Nm`:变化量的合力与合力矩模长
97
+
98
+ 该文件在重命名前的名称随阶段不同:
99
+
100
+ - `up`:原名为 `lift_force_curve.csv`,表示抬升阶段仿真力曲线
101
+ - `down`:原名为 `down_slip_force_curve.csv`,表示下行/滑移阶段仿真力曲线
102
+
103
+ ### 2.4 `real_sim_motion_alignment.csv`
104
+
105
+ 这是真机运动与仿真运动之间的对应表。删除无分析价值的来源行号后,统一为22列、60个数据行。
106
+
107
+ 主要包含:
108
+
109
+ - 帧号、时间、阶段、来源行号和相机时间戳
110
+ - 真机末端相对位移 `real_dx_m`、`real_dy_m`、`real_dz_m`
111
+ - Isaac TCP 相对位移
112
+ - IPC 接触区域中心点相对位移
113
+ - 真机末端、Isaac TCP、IPC 中心点各自的绝对三维坐标
114
+
115
+ 该文件是“真机—仿真运动映射表”,不应当作为纯仿真力数据使用。
116
+
117
+ ### 2.5 `fem_node.csv`
118
+
119
+ 这是有限元/IPC 仿真的逐节点数据,一般为 12 列。
120
+
121
+ 字段包括:
122
+
123
+ - `frame`、`time_s`、`node_id`
124
+ - 节点坐标 `x_m`、`y_m`、`z_m`
125
+ - 节点位移 `ux_m`、`uy_m`、`uz_m`
126
+ - 节点受力 `fx_N`、`fy_N`、`fz_N`
127
+
128
+ 该文件与其他四个 CSV 的行数规则不同:其他文件是一帧一行,因此对齐后为60行;`fem_node.csv` 是一帧包含多个节点行。对齐后应检查的是 **60个唯一 `frame`**,而不是60个数据行。例如一个阶段有316个节点时,文件会有 `60 × 316 = 18,960` 个数据行。
129
+
130
+ ## 3. 已经完成的数据处理
131
+
132
+ 以下步骤是本文件夹从原始数据整理为当前结构时实际采用的处理顺序。
133
+
134
+ ### 3.1 展开 `attempt_01_depth_01` 层级
135
+
136
+ 原始数据中的部分目录包含额外的 `attempt_01_depth_01` 层。处理时将该文件夹内的所有内容移动到对应的 `press_depth_*` 目录中,然后删除空的 `attempt_01_depth_01` 文件夹。
137
+
138
+ 处理前:
139
+
140
+ ```text
141
+ press_depth_01/attempt_01_depth_01/up/...
142
+ press_depth_01/attempt_01_depth_01/down/...
143
+ ```
144
+
145
+ 处理后:
146
+
147
+ ```text
148
+ press_depth_01/up/...
149
+ press_depth_01/down/...
150
+ ```
151
+
152
+ ### 3.2 只保留十个按压深度目录
153
+
154
+ 在每个物体条件文件夹中,只保留:
155
+
156
+ ```text
157
+ press_depth_01
158
+ press_depth_02
159
+ ...
160
+ press_depth_10
161
+ ```
162
+
163
+ 同层级的其他文件和文件夹均已删除。
164
+
165
+ ### 3.3 展开 `simulation_ipc` 层级
166
+
167
+ 原始 `up` 或 `down` 中的仿真结果可能位于 `simulation_ipc` 子文件夹。处理时将其中的文件移动到对应的 `up` 或 `down` 目录,然后删除空的 `simulation_ipc` 文件夹。
168
+
169
+ 处理前:
170
+
171
+ ```text
172
+ up/simulation_ipc/*.csv
173
+ down/simulation_ipc/*.csv
174
+ ```
175
+
176
+ 处理后:
177
+
178
+ ```text
179
+ up/*.csv
180
+ down/*.csv
181
+ ```
182
+
183
+ ### 3.4 删除不需要的辅助文件
184
+
185
+ 在各阶段目录中删除了以下元数据、日志、统计和可视化文件:
186
+
187
+ ```text
188
+ camera_60hz_metadata.json
189
+ down_slip_sensor_fz.png
190
+ down_slip_summary.json
191
+ real_motion_alignment.png
192
+ run.log
193
+ task_stage_metadata.json
194
+ ```
195
+
196
+ 另外,在 `up` 文件夹中删除了:
197
+
198
+ ```text
199
+ lift_sensor_fz.png
200
+ lift_summary.json
201
+ ```
202
+
203
+ 这些删除只针对上述明确文件名。迁移处理时不要使用会误删 CSV 或实验数据的宽泛通配规则。
204
+
205
+ ### 3.5 重命名有限元节点文件
206
+
207
+ 将:
208
+
209
+ ```text
210
+ sensor_surface_history.csv
211
+ ```
212
+
213
+ 重命名为:
214
+
215
+ ```text
216
+ fem_node.csv
217
+ ```
218
+
219
+ 只更改文件名,不改变字段和节点数据。
220
+
221
+ ### 3.6 按位移对齐为60帧
222
+
223
+ `up` 和 `down` 分开处理,每个阶段都在位移域中选取60个位置,而不是简单按原始行号截取前60行,也不是仅按时间均匀抽样。
224
+
225
+ 本次处理的核心规则如下:
226
+
227
+ 1. 使用仿真力曲线中的 `command_travel_m` 作为位移基准。
228
+ 2. 从该阶段的起始位移到结束位移生成60个等间隔目标位移,包含首尾位置。
229
+ 3. 对每个目标位移选择原始数据中位移最接近的帧;保留原始数据值,不额外生成虚构的力、位姿或节点值。
230
+ 4. 将同一组仿真帧选择结果同步应用到:
231
+ - 仿真力曲线
232
+ - 真机—仿真运动对应表
233
+ - 有限元节点数据
234
+ 5. 根据所选对应表中的相机时间戳,在真机多模态表中选择对应/最近的相机帧;Franka 表使用对应的任务时间戳或最近时间戳进行同步。
235
+ 6. 四个“一帧一行”的 CSV 最终均保留60个数据行。
236
+ 7. `fem_node.csv` 对每个被选中的帧保留该帧的全部节点行,最终必须具有60个唯一帧。
237
+ 8. 对齐后的仿真帧统一重新编号为 `0` 至 `59`;节点文件中的帧号必须与仿真表一致。
238
+ 9. 保持帧的运动先后顺序。若最近邻选择遇到位移平台,允许相邻目标位移对应同一个原始采样位置,但不得打乱运动顺序。
239
+
240
+ 对齐后的标准结果:
241
+
242
+ | 文件 | 对齐后要求 |
243
+ |---|---:|
244
+ | `multimodal_aligned_data.csv` | 60个数据行 |
245
+ | `franka_data.csv` | 60个数据行 |
246
+ | `simulation_data.csv` | 60个数据行,`frame=0..59` |
247
+ | `real_sim_motion_alignment.csv` | 60个数据行,和仿真帧一一对应 |
248
+ | `fem_node.csv` | 60个唯一帧,每帧保留全部节点 |
249
+
250
+ ### 3.7 最终 CSV 文件名标准化
251
+
252
+ 完成60帧对齐后,按下表统一重命名:
253
+
254
+ | 原文件名 | 最终文件名 |
255
+ |---|---|
256
+ | `camera_xjc_franka_aligned_60hz.csv` | `multimodal_aligned_data.csv` |
257
+ | `franka_force_width_cycle_aligned.csv` | `franka_data.csv` |
258
+ | `up/lift_force_curve.csv` | `up/simulation_data.csv` |
259
+ | `down/down_slip_force_curve.csv` | `down/simulation_data.csv` |
260
+ | `real_motion_alignment.csv` | `real_sim_motion_alignment.csv` |
261
+ | `sensor_surface_history.csv` | `fem_node.csv` |
262
+
263
+ 注意:`up` 和 `down` 的仿真力曲线原始含义不同,但最终都统一命名为 `simulation_data.csv`,应通过所在目录和 `phase` 字段区分阶段。
264
+
265
+ ### 3.8 精简 CSV 列
266
+
267
+ 在完成60帧对齐和文件名标准化后,对CSV列进行了保守精简。精简原则是删除重复的对齐诊断、运行故障字符串、通信状态和常量名称列,同时完整保留科研分析需要的物理量。
268
+
269
+ #### `multimodal_aligned_data.csv`
270
+
271
+ 该文件由150列精简为120列。以下重要数据全部保留:
272
+
273
+ - 相机帧号、相机时间戳、帧类型、图像路径和图像尺寸
274
+ - 任务、机器人、XJC和夹爪时间戳
275
+ - Franka实际位姿、指令位姿和机器人末端位姿
276
+ - 7个机械臂关节的位置、速度、测量力矩和外部力矩
277
+ - 指令夹爪宽��、测量夹爪宽度、两个手指关节的位置/速度/力
278
+ - XJC清零六维力、标定六维力及在线六维基线
279
+ - Franka估计六维力、基座六维力和刚度坐标系六维力
280
+ - 方向力、参考力、脱离状态、Z方向指令速度和加速度
281
+
282
+ 删除的30个诊断或重复字段为:
283
+
284
+ ```text
285
+ camera_source_a_sequence
286
+ camera_source_a_time_ns
287
+ camera_source_b_sequence
288
+ camera_source_b_time_ns
289
+ camera_interpolation_alpha
290
+ task_alignment_valid
291
+ robot_alignment_valid
292
+ gripper_alignment_valid
293
+ camera_minus_task_time_ns
294
+ task_xjc_alignment_error_ns
295
+ task_failure_reason
296
+ task_franka_control_command_success_rate
297
+ task_franka_robot_mode
298
+ task_franka_current_errors
299
+ task_franka_communication_paused
300
+ xjc_sensor_valid
301
+ camera_minus_robot_time_ns
302
+ robot_mode
303
+ robot_control_command_success_rate
304
+ robot_current_errors
305
+ arm_joint_1_name
306
+ arm_joint_2_name
307
+ arm_joint_3_name
308
+ arm_joint_4_name
309
+ arm_joint_5_name
310
+ arm_joint_6_name
311
+ arm_joint_7_name
312
+ camera_minus_gripper_time_ns
313
+ finger_joint_1_name
314
+ finger_joint_2_name
315
+ ```
316
+
317
+ #### `franka_data.csv`
318
+
319
+ 该文件精简后统一为56列。以下数据全部保留:
320
+
321
+ - 序号以及ROS、机器人、XJC传感器时间戳
322
+ - 任务状态和循环序号
323
+ - 指令夹爪宽度和测量夹爪宽度
324
+ - Franka实际末端位置/四元数姿态
325
+ - Franka指令末端位置/四元数姿态
326
+ - XJC处理后六维力、原始六维力和六维基线
327
+ - Franka估计六维力
328
+ - 方向力、控制力、参考力和脱离状态
329
+ - Z方向指令速度和加速度
330
+
331
+ 删除的诊断字段为:
332
+
333
+ ```text
334
+ alignment_error_ns
335
+ failure_reason
336
+ franka_control_command_success_rate
337
+ franka_robot_mode
338
+ franka_current_errors
339
+ franka_communication_paused
340
+ sensor_valid
341
+ ```
342
+
343
+ 部分原始表中还存在单独的 `corrected_fz_N` 辅助列。该列只在420个文件中出现,且标准XJC六维力中的 `xjc_fz_N`、原始值和基线值均已保留,因此也删除该非统一辅助列,使全部1000个 `franka_data.csv` 使用同一表头。
344
+
345
+ #### 其余三个 CSV
346
+
347
+ - `simulation_data.csv`:18列全部保留,仿真位移、六维力/力矩及变化量未删除。
348
+ - `real_sim_motion_alignment.csv`:仅删除中间处理使用的 `source_row`,其余22列全部保留。
349
+ - `fem_node.csv`:12列全部保留,节点坐标、位移和三维节点力未删除。
350
+
351
+ 列精简不能改变数据行数、帧顺序、数值内容和单位。处理其他原始数据时,应先完成60帧对齐,再按上述字段规则精简。
352
+
353
+ ## 4. 在另一台电脑上处理同类原始数据的推荐顺序
354
+
355
+ 为避免覆盖、误删和错位,建议严格按以下顺序执行:
356
+
357
+ 1. 完整备份原始数据,所有操作在副本上进行。
358
+ 2. 统计物体条件、`press_depth_*`、`up`、`down` 的数量,并保存处理前清单。
359
+ 3. 展开 `attempt_01_depth_01`,移动内容后确认没有同名冲突,再删除空目录。
360
+ 4. 每个物体条件只保留 `press_depth_01` 至 `press_depth_10`。
361
+ 5. 展开每个阶段中的 `simulation_ipc`,移动内容后确认没有同名冲突,再删除空目录。
362
+ 6. 删除第3.4节列出的辅助文件。
363
+ 7. 将 `sensor_surface_history.csv` 改为 `fem_node.csv`。
364
+ 8. 以 `command_travel_m` 为位移基准,对每个 `up/down` 阶段完成60帧对齐。
365
+ 9. 完成第3.7节的最终文件名标准化。
366
+ 10. 按第3.8节精简CSV列,并验证关键字段完整。
367
+ 11. 执行第5节的完整性检查。检查通过后再将数据交给训练或分析程序。
368
+
369
+ 不要在对齐前先删除位移基准表或运动对应表;不要只对其中一个 CSV 取60行,否则五个文件会失去帧间对应关系。
370
+
371
+ ## 5. 处理完成后的检查标准
372
+
373
+ 每个完整的 `up` 或 `down` 目录应满足:
374
+
375
+ - 只存在以下5个标准 CSV 名称:
376
+ - `multimodal_aligned_data.csv`
377
+ - `franka_data.csv`
378
+ - `simulation_data.csv`
379
+ - `real_sim_motion_alignment.csv`
380
+ - `fem_node.csv`
381
+ - 前4个 CSV 各有60个数据行。
382
+ - `multimodal_aligned_data.csv` 应为120列。
383
+ - `franka_data.csv` 应为56列。
384
+ - `simulation_data.csv` 应为18列。
385
+ - `real_sim_motion_alignment.csv` 应为22列。
386
+ - `fem_node.csv` 应为12列。
387
+ - `simulation_data.csv` 的 `frame` 为 `0..59`。
388
+ - `real_sim_motion_alignment.csv` 与 `simulation_data.csv` 帧数一致。
389
+ - `fem_node.csv` 有60个唯一 `frame`,并且每个帧的节点数量一致。
390
+ - `multimodal_aligned_data.csv` 的相机时间戳与运动对应表相匹配。
391
+ - `franka_data.csv` 的任务时间戳与多模态表中的任务数据相匹配。
392
+ - 不再存在以下旧名称:
393
+ - `camera_xjc_franka_aligned_60hz.csv`
394
+ - `franka_force_width_cycle_aligned.csv`
395
+ - `lift_force_curve.csv`
396
+ - `down_slip_force_curve.csv`
397
+ - `real_motion_alignment.csv`
398
+ - `sensor_surface_history.csv`
399
+ - 不再存在 `attempt_01_depth_01` 或 `simulation_ipc` 中间层。
400
+
401
+ 建议最终同时记录以下统计量:物体条件数、按压深度数、阶段数、每种 CSV 的文件数、每个阶段的数据行数、`fem_node.csv` 的唯一帧数,以及缺失或异常目录清单。
402
+
403
+ ## 6. 当前 s2 数据的文件数量
404
+
405
+ 当前整理结果为:
406
+
407
+ | 文件名 | up | down | 合计 |
408
+ |---|---:|---:|---:|
409
+ | `multimodal_aligned_data.csv` | 500 | 500 | 1000 |
410
+ | `franka_data.csv` | 500 | 500 | 1000 |
411
+ | `simulation_data.csv` | 500 | 500 | 1000 |
412
+ | `real_sim_motion_alignment.csv` | 500 | 500 | 1000 |
413
+ | `fem_node.csv` | 500 | 500 | 1000 |
414
+
415
+ ## 7. 已补齐的阶段
416
+
417
+ 以下6个阶段曾缺少仿真侧的3个 CSV,现已使用对应的真实补采数据,严格按照第3节记录的流程完成位移域60帧对齐、文件名标准化和列精简:
418
+
419
+ ```text
420
+ s2-柱白10/press_depth_10/down
421
+ s2-柱粉10/press_depth_01/up
422
+ s2-柱褐15/press_depth_04/down
423
+ s2-柱褐15/press_depth_08/down
424
+ s2-柱褐17.5/press_depth_08/down
425
+ s2-柱褐20/press_depth_03/down
426
+ ```
427
+
428
+ 当前完整阶段数量为1000;不完整阶段数量为0。每个阶段均包含5个标准 CSV,补齐阶段未通过复制其他阶段或生成空表来伪造数据。
429
+
430
+ ## 8. 重要注意事项
431
+
432
+ - 文件名中的 `60hz` 表示原始同步数据的采样/对齐背景;当前最终数据的核心要求是按位移选取60帧,不应误解为简单截取1秒的60个时间采样。
433
+ - `fem_node.csv` 是逐节点长表,不能用“数据行数必须等于60”检查。
434
+ - 所有 CSV 中的长度单位主要为米 `m`,力单位为牛顿 `N`,力矩单位为牛米 `Nm`,时间戳可能为秒 `s` 或纳秒 `ns`。处理时不要无说明地更改单位。
435
+ - 重命名不能改变表头、列顺序和数据内容。
436
+ - 若目标文件已经存在,应停止并人工检查,不能直接覆盖,以免把两种不同数据错误合并。
437
+ - 对不完整阶段应保留缺失记录并在训练前决定跳过或补采,不要把缺失当作正常的五文件目录。
438
+
439
+ ## 9. s1 与 s1zhenji 处理结果(2026-10-31)
440
+
441
+ `s1` 与 `s1zhenji` 已按照本文第3至第5节的规则完成处理。两套数据使用相同的1000个阶段配对清单和相同的位移域60帧选择结果。
442
+
443
+ ### 9.1 最终目录结构
444
+
445
+ - 物体条件:50个
446
+ - 每个物体包含 `press_depth_01` 至 `press_depth_10`
447
+ - 每个按压深度包含 `up` 和 `down`
448
+ - 合计1000个阶段
449
+ - `attempt_01_depth_01` 和 `simulation_ipc` 中间层均已删除
450
+ - 物体目录已改为英文,例如:
451
+ - `s1-柱白10` → `cylinder_PLA_10`
452
+ - `s1-球褐17.5` → `ball_0050_17.5`
453
+
454
+ ### 9.2 s1
455
+
456
+ `s1` 包含配对的真机CSV与仿真CSV。每个阶段包含:
457
+
458
+ ```text
459
+ multimodal_aligned_data.csv
460
+ franka_data.csv
461
+ simulation_data.csv
462
+ real_sim_motion_alignment.csv
463
+ fem_node.csv
464
+ ```
465
+
466
+ 五种CSV各有1000份。前四种CSV各有60个数据行;`fem_node.csv` 具有60个唯一帧且每帧节点数一致。
467
+
468
+ `s1` 各阶段的 `camera_frames_60hz` 已补入节点表60帧所引用的相机图片,可直接使用本阶段多模态表中的 `camera_image_path` 读取,详见第9.6节。全部原始相机图片仍保留在 `s1zhenji` 对应阶段。
469
+
470
+ ### 9.3 s1zhenji
471
+
472
+ `s1zhenji` 是纯真机副本,每个阶段包含:
473
+
474
+ ```text
475
+ multimodal_aligned_data.csv
476
+ franka_data.csv
477
+ ```
478
+
479
+ 两种CSV各有1000份,每份均为60个数据行。它们与 `s1` 中对应的真机CSV通过SHA-256逐文件校验一致。仿真数据未复制到 `s1zhenji`,以避免重复占用空间。
480
+
481
+ ### 9.4 列数与验证结果
482
+
483
+ | 文件 | 列数 | s1数量 | s1zhenji数量 |
484
+ |---|---:|---:|---:|
485
+ | `multimodal_aligned_data.csv` | 120 | 1000 | 1000 |
486
+ | `franka_data.csv` | 56 | 1000 | 1000 |
487
+ | `simulation_data.csv` | 18 | 1000 | 0 |
488
+ | `real_sim_motion_alignment.csv` | 22 | 1000 | 0 |
489
+ | `fem_node.csv` | 12 | 1000 | 0 |
490
+
491
+ 最终验证结果:1000/1000个配对阶段通过;没有旧CSV名称、`.partial` 文件或未展开的中间目录。
492
+
493
+ ### 9.5 本次实际执行与备份验收记录
494
+
495
+ 2026-10-31,本次依据磁盘上的原始目录重新执行处理,并在完成后独立核验上述结果。
496
+
497
+ - 原始备份目录:`/home/hsl/event_touch/Fixed_backup_s1_s1zhenji_20261031_015308/`。
498
+ - `s1` 与 `s1zhenji` 共备份1,267,100个原始数据文件,合计146,743,075,026字节。处理前已完成所有文件的内容校验,并逐文件确认备份与原文件具有独立inode,不是硬链接快照。原始README和处理脚本也已备份。
499
+ - 先完成一个物体的20个阶段并独立复核,再完成全部1000个阶段。
500
+ - 全量处理失败数为0。清理前核对输出表头、行数、仿真帧号、节点ID集合,以及两套真机CSV的SHA-256一致性。
501
+ - 清理旧CSV、辅助图、日志及配置前,逐项校验其内容与备份一致;补充ZIP、`fig`目录和其他非阶段文件均完整保留在原始备份中。活动数据目录中的中间层、旧文件及辅助文件已清理。
502
+ - 最终验收从原始备份独立验证全部1000个阶段的位移最近邻选择、真机时间戳最近邻选择及四张逐帧表保留的全部数值;位移平台出现多个同距原始帧时,允许选取其中保持运动顺序的一帧,不固定要求平台中的第一帧。
503
+ - 每个`fem_node.csv`具有60个唯一帧,各帧��点ID集合一致且没有重复节点。
504
+ - 多模态表与运动对应表的相机时间戳最大误差为0纳秒;Franka表与多模态表的任务时间戳最大误差为0纳秒。
505
+ - `s1zhenji`的相机图片共1,251,037张、91,945,510,023字节(约85.631 GiB)。全部1000个阶段的图片相对文件名、大小、修改时间和inode在处理前后逐项一致;对齐选中的图片路径全部存在。
506
+ - 上述CSV整理步骤保持了`s1zhenji`中的全部原始相机图片,当时未向`s1`复制,也未生成`camera_frames_60hz.tar`。随后已按第9.6节补入`s1`所需的对齐图片;两套CSV中的`camera_image_path`相对路径始终保持原值。
507
+
508
+ 处理日志、处理前图片清单、备份校验结果和最终验收报告均保存在备份目录中,主要文件包括:
509
+
510
+ ```text
511
+ before_inventory.json
512
+ backup_verified.json
513
+ sample_processing.log
514
+ full_processing.log
515
+ finalize.log
516
+ final_validation.json
517
+ final_validation.log
518
+ process_s1_dataset.final.py
519
+ audit_s1_dataset.py
520
+ ```
521
+
522
+ 数据阶段目录中没有额外放置日志或验收报告。`s2`本次未修改。
523
+
524
+ ### 9.6 将节点表60帧对应图片补入s1(2026-10-31)
525
+
526
+ 已对全部1000个阶段,将节点表对应的相机图片从`s1zhenji`独立复制到`s1`的同名物体、按压深度和运动阶段目录。
527
+
528
+ 对应关系如下:节点表的`frame=0..59` → 运动对应表的同号`frame` → 多模态表按顺序排列的60个数据行 → `camera_image_path`。复制前已逐阶段确认节点表恰有60个唯一帧,运动对应表和仿真表帧号均为`0..59`,相机时间戳及任务时间戳精确匹配。
529
+
530
+ 图片放置示例:
531
+
532
+ ```text
533
+ s1/ball_0010_10/press_depth_01/down/
534
+ ├── fem_node.csv
535
+ ├── franka_data.csv
536
+ ├── multimodal_aligned_data.csv
537
+ ├── real_sim_motion_alignment.csv
538
+ ├── simulation_data.csv
539
+ └── camera_frames_60hz/
540
+ └── DOWN_FORCE_DETACH/
541
+ └── camera_00002811_1791270127022698785_real.jpg
542
+ ```
543
+
544
+ - 共60,000帧图片引用,实际复制59,989张独立图片,合计4,392,782,243字节。
545
+ - 989个阶段各有60张独立图片;11个阶段各有59张独立图片,这是因为其中两帧引用同一张原始相机图片。全部60,000帧引用均能在`s1`本阶段找到对应图片,没有缺图。
546
+ - 图片保留原始文件名、阶段子目录及文件内容,没有改变CSV中的图片路径,也没有重新生成或修改图片。
547
+ - 全部复制图片均通过SHA-256校验,与`s1zhenji`来源图片逐文件一致,且为独立副本,不是来源文件的硬链接。
548
+ - 全部5000个`s1` CSV以及2000个`s1zhenji` CSV在复制前后的SHA-256一致。节点、仿真、真机数据及原有60帧对齐关系均保持原值。
549
+ - `s1zhenji`中的全部原始图片继续保留。本步骤没有修改`s2`。
550
+
551
+ 本步骤的逐阶段图片SHA-256清单、汇总结果、日志和复制脚本保存在原始备份目录:
552
+
553
+ ```text
554
+ s1_aligned_images_merge.json
555
+ s1_aligned_images_merge.log
556
+ merge_s1_aligned_images.py
557
+ README.before_image_merge.md
558
+ ```
559
+
560
+ 第9.5节的`final_validation.json`记录CSV整理完成时的状态;图片补入后的当前状态以本节及`s1_aligned_images_merge.json`为准。
561
+
562
+ ## 10. digit 与 digitzhenji 处理结果(2026-10-31)
563
+
564
+ 已按与`s1`相同的位移域60帧规则,完成全部1000个阶段的真机、仿真及节点数据整理,并将对应图片复制到`digit`。本次未修改`s1`、`s1_finished`、`s1zhenji`或`s2`中的数据文件。
565
+
566
+ ### 10.1 原始备份与输入来源
567
+
568
+ 原始备份目录:
569
+
570
+ ```text
571
+ /home/hsl/event_touch/Fixed_backup_digit_digitzhenji_20261031_042546/
572
+ ```
573
+
574
+ 共备份1,419,668个原始数据文件,合计130,898,484,693字节。备份已通过全部文件的内容校验,并逐文件确认与原文件具有独立inode,不是硬链接快照;原始README和处理脚本另行保留。
575
+
576
+ 补充数据采用以下来源映射,处理前没有覆盖原始CSV:
577
+
578
+ - 柱白20的`press_depth_08`至`press_depth_10`,共6个`up/down`阶段,使用`digitzhenji`中补采的真机数据和对应补充仿真。旧批次及原来只有表头的真机表保留在备份中。
579
+ - 补充时放在柱青10深度10目录下的两份仿真,经核对实际为柱青15:仿真`size_mm=30`,输入真机表及相机时间戳与柱青15完全一致。因此用于柱青15深度10的`up/down`。
580
+ - 柱青10深度10使用`digit`原有的真机表和匹配仿真;该仿真`size_mm=20`,对应的原始图片仍完整存在于`digitzhenji`,本次据此恢复两套数据的一致对应关系。
581
+ - 其余阶段沿用匹配的原始真机与仿真数据。所有被选中的相机帧均通过任务、机器人及夹爪对齐有效性检查,未修改原始无效标记。
582
+
583
+ 逐阶段原始输入路径、所选仿真帧号、相机行号和Franka行号记录在备份中的`input_manifest.json`。
584
+
585
+ ### 10.2 目录整理
586
+
587
+ 两套数据均包含50个英文物体目录、500个按压深度目录、1000个运动阶段。目录名采用第9节相同的形状、材质和尺寸映射,例如`digit-柱白20`改为`cylinder_PLA_20`。`attempt_01_depth_01`和`simulation_ipc`中间层均已移除。
588
+
589
+ 已核验备份后清理旧CSV、日志、配置及辅助图;补充ZIP和其他辅助内容均可从原始备份恢复。原先没有相机目录的柱白20深度09、10四个阶段已建立目标目录并补入对应图片。
590
+
591
+ ```text
592
+ digit/cylinder_PLA_20/press_depth_09/up/
593
+ ├── multimodal_aligned_data.csv
594
+ ├── franka_data.csv
595
+ ├── simulation_data.csv
596
+ ├── real_sim_motion_alignment.csv
597
+ ├── fem_node.csv
598
+ └── camera_frames_60hz/
599
+ └── 原始阶段名称/原始图片文件名.jpg
600
+ ```
601
+
602
+ `digitzhenji`使用相同的英文物体、按压深度及运动阶段结构,每阶段保留两份真机CSV和全部来源相机图片。
603
+
604
+ ### 10.3 CSV对齐与数量
605
+
606
+ | 文件 | 列数 | digit数量 | digitzhenji数量 | 对齐后要求 |
607
+ |---|---:|---:|---:|---|
608
+ | `multimodal_aligned_data.csv` | 120 | 1000 | 1000 | 每份60行 |
609
+ | `franka_data.csv` | 56 | 1000 | 1000 | 每份60行 |
610
+ | `simulation_data.csv` | 18 | 1000 | 0 | 每份60行,frame=0..59 |
611
+ | `real_sim_motion_alignment.csv` | 22 | 1000 | 0 | 每份60行,frame=0..59 |
612
+ | `fem_node.csv` | 12 | 1000 | 0 | 每份60个唯一帧,每帧保留全部节点 |
613
+
614
+ 使用`command_travel_m`选取60个等间隔目标位移,保持原始数值和运动顺序;位移平台或原始采样较稀疏时,允许相邻目标位置重复选择同一原始帧。仿真与节点帧统一重新编号为0至59,时间戳、位姿、力及节点数值不进行插值。
615
+
616
+ 先处理一个物体的20个阶段及补充数据涉及的10个阶段,30个样本均通过独立复核后完成全量处理。全量处理失败数为0,1000个阶段均通过原始备份的独立选帧及四张逐帧表源值验证。节点表均具有60个唯一帧,各帧节点ID集合一致、无重复节点,时间与仿真帧对应。
617
+
618
+ 两套真机CSV逐文件SHA-256一致,数据阶段目录中没有额外放置日志或验收报告。
619
+
620
+ ### 10.4 时间戳匹配及原始数据间断
621
+
622
+ 全部60,000帧的相机时间戳与运动对应表精确匹配,最大误差为0纳秒。
623
+
624
+ Franka表按任务时间戳选取最近的原始记录。仅`cylinder_0010_15/press_depth_10/down`(柱粉15、深度10、下行)有两帧不能精确匹配:
625
+
626
+ | 新frame | 与Franka记录的时间差 |
627
+ |---|---:|
628
+ | 5 | 209,089,775 ns,约209.09 ms |
629
+ | 6 | 83,034,079 ns,约83.03 ms |
630
+
631
+ 原始Franka表在`1792762760546207261`至`1792762761446219041`纳秒之间存在约0.900012秒的记录间断。上述两帧已验证采用可用原始记录中的最近邻,未生成插值记录或改写时间戳;其他59,998帧的任务时间戳精确匹配。逐帧情况见备份中的`timestamp_match_diagnostics.json`。
632
+
633
+ ### 10.5 对应图片已复制到digit
634
+
635
+ 按“节点frame → 运动对应表同号frame → 多模态表对应行 → camera_image_path”,已将全部1000个阶段的图片复制到`digit`各自的`camera_frames_60hz`目录。
636
+
637
+ - 共60,000帧图片引用,实际复制59,127张独立图片,合计502,666,028字节。
638
+ - 727个阶段各有60张独立图片;273个阶段重复引用了部分原始图片,各阶段独立图片数为51至60张。全部60,000帧引用在`digit`中均可直接读取,无缺图。
639
+ - 所有复制图片逐张通过SHA-256校验,与`digitzhenji`来源一致,且为独立副本。保留原始文件名、相对路径、尺寸和图像内容。
640
+ - 图片复制前后,5000个`digit` CSV和2000个`digitzhenji` CSV的SHA-256均未变化。
641
+ - `digitzhenji`的全部1,402,922张来源图片、合计11,936,562,267字节继续保留;整理前后的逐文件相对路径、大小、修改时间及inode一致。来源目录中补充时混入柱青10的柱青15重复图片也予以保留,但未被选入柱青10输出;读取对齐数据应以各阶段CSV的`camera_image_path`为准。
642
+
643
+ ### 10.6 执行脚本与验收记录
644
+
645
+ 处理入口为`Fixed/process_digit_dataset.py`,复用`s1`的位移选帧、字段精简和节点处理逻辑,并增加补充数据的来源映射。原始备份目录另保存以下记录:
646
+
647
+ ```text
648
+ before_inventory.json
649
+ backup_verified.json
650
+ input_manifest.json
651
+ sample_processing.log
652
+ full_processing.log
653
+ finalize.log
654
+ final_validation.json
655
+ final_validation.log
656
+ timestamp_match_diagnostics.json
657
+ digit_aligned_images_merge.json
658
+ digit_aligned_images_merge.log
659
+ process_digit_dataset.py
660
+ audit_digit_dataset.py
661
+ merge_digit_aligned_images.py
662
+ ```
663
+
664
+ `final_validation.json`记录CSV整理完成、图片复制前的验收状态;图片复制后的当前状态以`digit_aligned_images_merge.json`及本节为准。