|
Download script/COMPRESSION_ISSUES.md from shuohann/dfcdata: direct link, hf CLI and curl.
- Browser
- Download file 4.07 kB
-
https://huggingface.co/datasets/shuohann/dfcdata/resolve/main/script/COMPRESSION_ISSUES.md
- Command line
-
hf download hf://datasets/shuohann/dfcdata/script/COMPRESSION_ISSUES.md
-
curl -L -o COMPRESSION_ISSUES.md https://huggingface.co/datasets/shuohann/dfcdata/resolve/main/script/COMPRESSION_ISSUES.md
4.07 kB
| # 压缩文件问题总结 (Compression Issues Summary) | |
| ## 发现的压缩问题 | |
| ### 1. 双压缩文件 (Double Compression - .zip.zip) | |
| **问题**: 以下文件存在双重压缩,扩展名为 `.zip.zip` | |
| ``` | |
| ADD2022_Adaptation/ | |
| ├── track1adp.zip.zip | |
| ├── track2adp.zip.zip | |
| └── track3adp.zip.zip | |
| ``` | |
| **说明**: 这些文件被压缩了两次,需要先解压一次得到 `.zip` 文件,然后再解压一次得到最终内容。 | |
| **处理方式**: 脚本会自动检测并两次解压这些文件。 | |
| --- | |
| ### 2. 分卷压缩文件 (Split Archives) | |
| #### 2.1 ZIP 分卷格式 (.z01, .z02, ...) | |
| **格式**: 主文件是 `.zip`,分卷是 `.z01`, `.z02`, ... `.zXX` | |
| **示例**: | |
| ``` | |
| ADD2022_Track1_Eval/ | |
| ├── track1test.zip (主文件) | |
| ├── track1test.z01 | |
| ├── track1test.z02 | |
| ├── ... | |
| └── track1test.z09 | |
| ``` | |
| **说明**: `.zip` 文件包含归档信息,引用 `.z01` 等分卷文件。需要使用主 `.zip` 文件解压。 | |
| #### 2.2 ZIP 分卷格式 (.001, .002, ...) | |
| **格式**: 文件名为 `.zip.001`, `.zip.002`, ... 或 `.001`, `.002`, ... | |
| **示例**: | |
| ``` | |
| ADD2022_Train_Dev/ | |
| ├── ADD_train_dev.zip.001 | |
| ├── ADD_train_dev.zip.002 | |
| ├── ... | |
| └── ADD_train_dev.zip.006 | |
| ``` | |
| **说明**: 这是 7z 格式的分卷压缩,使用第一个文件(`.001`)解压即可。 | |
| #### 2.3 TAR.GZ 分卷格式 (.00, .01, ...) | |
| **格式**: 文件名为 `.tar.gz.00`, `.tar.gz.01`, ... `.tar.gz.XX` | |
| **示例**: | |
| ``` | |
| ADD2023_Track1_2_Eval_R1/ | |
| ├── track1_2-testR1.tar.gz.00 | |
| ├── track1_2-testR1.tar.gz.01 | |
| ├── ... | |
| └── track1_2-testR1.tar.gz.07 | |
| ``` | |
| **说明**: 需要先将所有分卷合并成一个 `.tar.gz` 文件,然后再解压。 | |
| --- | |
| ### 3. 普通压缩文件 (Normal Archives) | |
| #### 3.1 普通 ZIP 文件 | |
| **示例**: | |
| ``` | |
| LibriSeVoc/ | |
| └── LibriSeVoc.zip | |
| Codecfake_Test_Pt1/ | |
| ├── A1.zip | |
| ├── A2.zip | |
| └── ... | |
| ``` | |
| #### 3.2 普通 TAR.GZ 文件 | |
| **示例**: | |
| ``` | |
| ADD2023_Track1_1_Eval/ | |
| └── track1_1.tar.gz | |
| ``` | |
| --- | |
| ## 解压脚本功能 | |
| `extract_all.sh` 脚本自动处理以下所有情况: | |
| 1. ✅ 检测并处理 `.zip.zip` 双压缩文件 | |
| 2. ✅ 处理 ZIP 分卷 (`.z01`, `.z02` 格式) | |
| 3. ✅ 处理 ZIP 分卷 (`.001`, `.002` 格式或 `.zip.001` 格式) | |
| 4. ✅ 合并并解压 TAR.GZ 分卷 (`.tar.gz.00`, `.01` 格式) | |
| 5. ✅ 解压普通 ZIP 文件 | |
| 6. ✅ 解压普通 TAR.GZ 文件 | |
| 7. ✅ 自动跳过已处理的文件,避免重复解压 | |
| 8. ✅ 生成详细的日志文件 | |
| --- | |
| ## 目录结构总览 | |
| ``` | |
| test/ | |
| ├── ADD2022_Adaptation/ (双压缩 .zip.zip) | |
| ├── ADD2022_Track1_Eval/ (ZIP 分卷 .z01-.z09) | |
| ├── ADD2022_Track2_Eval/ (ZIP 分卷 .z01-.z13) | |
| ├── ADD2022_Track3_2_R1_Eval/ (ZIP 分卷 .zip.001-.010) | |
| ├── ADD2022_Track3_2_R2_Eval/ (ZIP 分卷 .zip.001-.010) | |
| ├── ADD2022_Train_Dev/ (ZIP 分卷 .zip.001-.006) | |
| ├── ADD2023_Track1_1_Eval/ (普通 .tar.gz) | |
| ├── ADD2023_Track1_2_Eval_R1/ (TAR.GZ 分卷 .tar.gz.00-.07) | |
| ├── ADD2023_Track1_2_Eval_R2/ (TAR.GZ 分卷 .tar.gz.00-.07) | |
| ├── ADD2023_Track1_2_TrainDev/ (普通 .tar.gz) | |
| ├── ADD2023_Track2_Eval/ (TAR.GZ 分卷 .tar.gz.00-.02) | |
| ├── ADD2023_Track2_TrainDev/ (普通 .tar.gz + 分卷) | |
| ├── ADD2023_Track3_Eval/ (TAR.GZ 分卷 .tar.gz.00-.05) | |
| ├── ADD2023_Track3_TrainDev/ (普通 .tar.gz + 分卷) | |
| ├── Codecfake_Dev/ (ZIP 分卷 .z01-.z02) | |
| ├── Codecfake_Test_Pt1/ (普通 .zip) | |
| ├── Codecfake_Test_Pt2/ (ZIP 分卷 .z01-.z06) | |
| ├── Codecfake_Train_Pt1/ (ZIP 分卷 .z01-.z16) | |
| ├── LibriSeVoc/ (普通 .zip) | |
| └── WaveFake/ (普通 .zip) | |
| ``` | |
| --- | |
| ## 使用方法 | |
| ```bash | |
| # 运行解压脚本 | |
| ./extract_all.sh | |
| # 查看日志 | |
| tail -f extraction.log | |
| ``` | |
| 脚本会在每个目录中自动解压所有压缩文件,解压后的内容会放在对应的目录中。 | |