dfcdata / script /COMPRESSION_ISSUES.md
shuohann's picture
Add files using upload-large-folder tool
8a11391 verified
|
Raw History Blame Contribute Delete
4.07 kB
# 压缩文件问题总结 (Compression Issues Summary)
## 发现的压缩问题
### 1. 双压缩文件 (Double Compression - .zip.zip)
**问题**: 以下文件存在双重压缩,扩展名为 `.zip.zip`
```
ADD2022_Adaptation/
├── track1adp.zip.zip
├── track2adp.zip.zip
└── track3adp.zip.zip
```
**说明**: 这些文件被压缩了两次,需要先解压一次得到 `.zip` 文件,然后再解压一次得到最终内容。
**处理方式**: 脚本会自动检测并两次解压这些文件。
---
### 2. 分卷压缩文件 (Split Archives)
#### 2.1 ZIP 分卷格式 (.z01, .z02, ...)
**格式**: 主文件是 `.zip`,分卷是 `.z01`, `.z02`, ... `.zXX`
**示例**:
```
ADD2022_Track1_Eval/
├── track1test.zip (主文件)
├── track1test.z01
├── track1test.z02
├── ...
└── track1test.z09
```
**说明**: `.zip` 文件包含归档信息,引用 `.z01` 等分卷文件。需要使用主 `.zip` 文件解压。
#### 2.2 ZIP 分卷格式 (.001, .002, ...)
**格式**: 文件名为 `.zip.001`, `.zip.002`, ... 或 `.001`, `.002`, ...
**示例**:
```
ADD2022_Train_Dev/
├── ADD_train_dev.zip.001
├── ADD_train_dev.zip.002
├── ...
└── ADD_train_dev.zip.006
```
**说明**: 这是 7z 格式的分卷压缩,使用第一个文件(`.001`)解压即可。
#### 2.3 TAR.GZ 分卷格式 (.00, .01, ...)
**格式**: 文件名为 `.tar.gz.00`, `.tar.gz.01`, ... `.tar.gz.XX`
**示例**:
```
ADD2023_Track1_2_Eval_R1/
├── track1_2-testR1.tar.gz.00
├── track1_2-testR1.tar.gz.01
├── ...
└── track1_2-testR1.tar.gz.07
```
**说明**: 需要先将所有分卷合并成一个 `.tar.gz` 文件,然后再解压。
---
### 3. 普通压缩文件 (Normal Archives)
#### 3.1 普通 ZIP 文件
**示例**:
```
LibriSeVoc/
└── LibriSeVoc.zip
Codecfake_Test_Pt1/
├── A1.zip
├── A2.zip
└── ...
```
#### 3.2 普通 TAR.GZ 文件
**示例**:
```
ADD2023_Track1_1_Eval/
└── track1_1.tar.gz
```
---
## 解压脚本功能
`extract_all.sh` 脚本自动处理以下所有情况:
1. ✅ 检测并处理 `.zip.zip` 双压缩文件
2. ✅ 处理 ZIP 分卷 (`.z01`, `.z02` 格式)
3. ✅ 处理 ZIP 分卷 (`.001`, `.002` 格式或 `.zip.001` 格式)
4. ✅ 合并并解压 TAR.GZ 分卷 (`.tar.gz.00`, `.01` 格式)
5. ✅ 解压普通 ZIP 文件
6. ✅ 解压普通 TAR.GZ 文件
7. ✅ 自动跳过已处理的文件,避免重复解压
8. ✅ 生成详细的日志文件
---
## 目录结构总览
```
test/
├── ADD2022_Adaptation/ (双压缩 .zip.zip)
├── ADD2022_Track1_Eval/ (ZIP 分卷 .z01-.z09)
├── ADD2022_Track2_Eval/ (ZIP 分卷 .z01-.z13)
├── ADD2022_Track3_2_R1_Eval/ (ZIP 分卷 .zip.001-.010)
├── ADD2022_Track3_2_R2_Eval/ (ZIP 分卷 .zip.001-.010)
├── ADD2022_Train_Dev/ (ZIP 分卷 .zip.001-.006)
├── ADD2023_Track1_1_Eval/ (普通 .tar.gz)
├── ADD2023_Track1_2_Eval_R1/ (TAR.GZ 分卷 .tar.gz.00-.07)
├── ADD2023_Track1_2_Eval_R2/ (TAR.GZ 分卷 .tar.gz.00-.07)
├── ADD2023_Track1_2_TrainDev/ (普通 .tar.gz)
├── ADD2023_Track2_Eval/ (TAR.GZ 分卷 .tar.gz.00-.02)
├── ADD2023_Track2_TrainDev/ (普通 .tar.gz + 分卷)
├── ADD2023_Track3_Eval/ (TAR.GZ 分卷 .tar.gz.00-.05)
├── ADD2023_Track3_TrainDev/ (普通 .tar.gz + 分卷)
├── Codecfake_Dev/ (ZIP 分卷 .z01-.z02)
├── Codecfake_Test_Pt1/ (普通 .zip)
├── Codecfake_Test_Pt2/ (ZIP 分卷 .z01-.z06)
├── Codecfake_Train_Pt1/ (ZIP 分卷 .z01-.z16)
├── LibriSeVoc/ (普通 .zip)
└── WaveFake/ (普通 .zip)
```
---
## 使用方法
```bash
# 运行解压脚本
./extract_all.sh
# 查看日志
tail -f extraction.log
```
脚本会在每个目录中自动解压所有压缩文件,解压后的内容会放在对应的目录中。