Hugging Face's logo

Datasets:
shuohann
/
dfcdata

Dataset card Files
xet
 Community
dfcdata / script /COMPRESSION_ISSUES.md
shuohann's picture
shuohann
Add files using upload-large-folder tool
8a11391 verified
preview code
|
Raw History Blame Contribute Delete
4.07 kB

压缩文件问题总结 (Compression Issues Summary)

发现的压缩问题

1. 双压缩文件 (Double Compression - .zip.zip)

问题: 以下文件存在双重压缩，扩展名为 .zip.zip

ADD2022_Adaptation/
  ├── track1adp.zip.zip
  ├── track2adp.zip.zip
  └── track3adp.zip.zip

说明: 这些文件被压缩了两次，需要先解压一次得到 .zip 文件，然后再解压一次得到最终内容。

处理方式: 脚本会自动检测并两次解压这些文件。

2. 分卷压缩文件 (Split Archives)

2.1 ZIP 分卷格式 (.z01, .z02, ...)

格式: 主文件是 .zip，分卷是 .z01, .z02, ... .zXX

示例:

ADD2022_Track1_Eval/
  ├── track1test.zip    (主文件)
  ├── track1test.z01
  ├── track1test.z02
  ├── ...
  └── track1test.z09

说明: .zip 文件包含归档信息，引用 .z01 等分卷文件。需要使用主 .zip 文件解压。

2.2 ZIP 分卷格式 (.001, .002, ...)

格式: 文件名为 .zip.001, .zip.002, ... 或 .001, .002, ...

示例:

ADD2022_Train_Dev/
  ├── ADD_train_dev.zip.001
  ├── ADD_train_dev.zip.002
  ├── ...
  └── ADD_train_dev.zip.006

说明: 这是 7z 格式的分卷压缩，使用第一个文件（.001）解压即可。

2.3 TAR.GZ 分卷格式 (.00, .01, ...)

格式: 文件名为 .tar.gz.00, .tar.gz.01, ... .tar.gz.XX

示例:

ADD2023_Track1_2_Eval_R1/
  ├── track1_2-testR1.tar.gz.00
  ├── track1_2-testR1.tar.gz.01
  ├── ...
  └── track1_2-testR1.tar.gz.07

说明: 需要先将所有分卷合并成一个 .tar.gz 文件，然后再解压。

3. 普通压缩文件 (Normal Archives)

3.1 普通 ZIP 文件

示例:

LibriSeVoc/
  └── LibriSeVoc.zip

Codecfake_Test_Pt1/
  ├── A1.zip
  ├── A2.zip
  └── ...

3.2 普通 TAR.GZ 文件

示例:

ADD2023_Track1_1_Eval/
  └── track1_1.tar.gz

解压脚本功能

extract_all.sh 脚本自动处理以下所有情况:

  1. ✅ 检测并处理 .zip.zip 双压缩文件
  2. ✅ 处理 ZIP 分卷 (.z01, .z02 格式)
  3. ✅ 处理 ZIP 分卷 (.001, .002 格式或 .zip.001 格式)
  4. ✅ 合并并解压 TAR.GZ 分卷 (.tar.gz.00, .01 格式)
  5. ✅ 解压普通 ZIP 文件
  6. ✅ 解压普通 TAR.GZ 文件
  7. ✅ 自动跳过已处理的文件，避免重复解压
  8. ✅ 生成详细的日志文件

目录结构总览 

test/
├── ADD2022_Adaptation/          (双压缩 .zip.zip)
├── ADD2022_Track1_Eval/         (ZIP 分卷 .z01-.z09)
├── ADD2022_Track2_Eval/         (ZIP 分卷 .z01-.z13)
├── ADD2022_Track3_2_R1_Eval/    (ZIP 分卷 .zip.001-.010)
├── ADD2022_Track3_2_R2_Eval/    (ZIP 分卷 .zip.001-.010)
├── ADD2022_Train_Dev/           (ZIP 分卷 .zip.001-.006)
├── ADD2023_Track1_1_Eval/       (普通 .tar.gz)
├── ADD2023_Track1_2_Eval_R1/    (TAR.GZ 分卷 .tar.gz.00-.07)
├── ADD2023_Track1_2_Eval_R2/    (TAR.GZ 分卷 .tar.gz.00-.07)
├── ADD2023_Track1_2_TrainDev/   (普通 .tar.gz)
├── ADD2023_Track2_Eval/         (TAR.GZ 分卷 .tar.gz.00-.02)
├── ADD2023_Track2_TrainDev/     (普通 .tar.gz + 分卷)
├── ADD2023_Track3_Eval/         (TAR.GZ 分卷 .tar.gz.00-.05)
├── ADD2023_Track3_TrainDev/     (普通 .tar.gz + 分卷)
├── Codecfake_Dev/               (ZIP 分卷 .z01-.z02)
├── Codecfake_Test_Pt1/          (普通 .zip)
├── Codecfake_Test_Pt2/          (ZIP 分卷 .z01-.z06)
├── Codecfake_Train_Pt1/         (ZIP 分卷 .z01-.z16)
├── LibriSeVoc/                  (普通 .zip)
└── WaveFake/                    (普通 .zip)

使用方法 

# 运行解压脚本
./extract_all.sh

# 查看日志
tail -f extraction.log

脚本会在每个目录中自动解压所有压缩文件，解压后的内容会放在对应的目录中。