Hugging Face's logo

Datasets:
shuohann
/
dfcdata

Dataset card Files
xet
 Community
dfcdata
File size: 3,435 Bytes
8a11391
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
# 自动解压脚本使用说明

## 概述

`extract_all.sh` 是一个自动化解压脚本，用于处理数据集目录中的各种压缩格式文件。

## 功能特性

- ✅ 自动检测并处理所有压缩格式
- ✅ 支持双压缩文件 (.zip.zip)
- ✅ 支持 ZIP 分卷 (.z01, .z02 或 .001, .002)
- ✅ 支持 TAR.GZ 分卷 (.tar.gz.00, .01)
- ✅ 自动跳过已处理文件
- ✅ 详细的日志记录
- ✅ 错误处理和报告

## 使用方法

### 基本使用

```bash
cd /ocean/projects/cis220031p/shan1/data_ck/deepfake_dataset/compress/test
./extract_all.sh
```

### 查看进度

脚本运行时会输出彩色日志，同时所有日志会保存到 `extraction.log` 文件：

```bash
# 实时查看日志
tail -f extraction.log

# 查看成功记录
grep SUCCESS extraction.log

# 查看错误记录
grep ERROR extraction.log

# 查看警告记录
grep WARNING extraction.log
```

## 支持的压缩格式

### 1. 双压缩文件
- `.zip.zip` - 会自动解压两次

### 2. ZIP 分卷格式
- `.zip` + `.z01`, `.z02`, ... `.zXX`
- `.zip.001`, `.zip.002`, ... `.zip.XXX`
- `.001`, `.002`, ... `.XXX`

### 3. TAR.GZ 分卷格式
- `.tar.gz.00`, `.tar.gz.01`, ... `.tar.gz.XX`

### 4. 普通压缩文件
- `.zip`
- `.tar.gz`

## 配置

脚本中的主要配置项（位于脚本开头）：

```bash
SEVENZ="/ocean/projects/cis220031p/shan1/7z/7zz"  # 7z 程序路径
BASE_DIR="/ocean/projects/cis220031p/shan1/data_ck/deepfake_dataset/compress/test"  # 工作目录
LOG_FILE="${BASE_DIR}/extraction.log"  # 日志文件路径
```

## 输出

解压后的文件会放在对应的目录中，与压缩文件在同一目录下。

例如：
```
ADD2022_Track1_Eval/
  ├── track1test.zip      (原始压缩文件)
  ├── track1test.z01      (分卷文件)
  ├── extracted_files/    (解压后的内容)
  └── ...
```

## 注意事项

1. **磁盘空间**: 确保有足够的磁盘空间，因为解压后的文件可能比压缩文件大很多
2. **时间**: 大文件解压可能需要较长时间，请耐心等待
3. **权限**: 确保脚本有执行权限，如果没有请运行 `chmod +x extract_all.sh`
4. **7z 工具**: 确保 7z 工具路径正确且可执行

## 故障排除

### 如果解压失败

1. 检查日志文件查看具体错误：
   ```bash
   grep ERROR extraction.log
   ```

2. 检查 7z 工具是否可用：
   ```bash
   /ocean/projects/cis220031p/shan1/7z/7zz
   ```

3. 检查磁盘空间：
   ```bash
   df -h
   ```

4. 检查文件完整性：
   - 确认所有分卷文件都已下载
   - 检查文件大小是否正常

### 常见错误

- **"7zz not found"**: 检查 `SEVENZ` 路径是否正确
- **"Failed to extract"**: 可能是文件损坏或格式不支持
- **"No split parts found"**: 分卷文件可能缺失

## 示例输出

```
2024-12-05 14:00:00 - INFO: Starting extraction process...
2024-12-05 14:00:00 - INFO: Using 7zz at: /ocean/projects/cis220031p/shan1/7z/7zz
2024-12-05 14:00:01 - INFO: Processing directory: ADD2022_Adaptation
2024-12-05 14:00:01 - WARNING: Found double zip file: track1adp.zip.zip - will extract twice
2024-12-05 14:00:05 - SUCCESS: First extraction completed: track1adp.zip.zip
2024-12-05 14:00:10 - SUCCESS: Second extraction completed: track1adp.zip
...
2024-12-05 14:30:00 - INFO: === Extraction Process Complete ===
```

## 更多信息

详细的问题总结请查看 `COMPRESSION_ISSUES.md` 文件。