Datasets:
Download download_raw_data.sh from prismdata/Perdix-Pretrain-Data: direct link, hf CLI and curl.
- Browser
- Download file 2.86 kB
-
https://huggingface.co/datasets/prismdata/Perdix-Pretrain-Data/resolve/main/download_raw_data.sh
- Command line
-
hf download hf://datasets/prismdata/Perdix-Pretrain-Data/download_raw_data.sh
-
curl -L -o download_raw_data.sh https://huggingface.co/datasets/prismdata/Perdix-Pretrain-Data/resolve/main/download_raw_data.sh
2.86 kB
| # Perdix 사전학습에 쓴 원본 데이터(parquet)를 허깅 페이스 원 저장소에서 받는다. | |
| # (prismdata/Perdix-Pretrain-Data 에 같은 파일이 그대로 올라가 있으므로 | |
| # 그쪽을 통째로 받아도 된다: hf download prismdata/Perdix-Pretrain-Data --repo-type dataset --local-dir raw-data) | |
| # | |
| # 수학 FineMath 4+ 64개 파일 18.4GB -> raw-data/finemath-4plus | |
| # 영어 웹 DCLM-baseline 246개 파일 53.9GB -> raw-data/dclm-baseline | |
| # 한국어 웹 FineWeb2 kor_Hang 25개 파일 105.8GB -> raw-data/fineweb2-kor | |
| # | |
| # 실행: | |
| # ./download_raw_data.sh # 전부 받기 (끊기면 다시 실행하면 이어서 받음) | |
| # ./download_raw_data.sh --dry-run # 받지 않고 받을 파일만 확인 | |
| # DEST=/다른/경로 ./download_raw_data.sh | |
| set -euo pipefail | |
| DEST="${DEST:-$(pwd)/raw-data}" | |
| EXTRA=("$@") | |
| # 외장하드 등에 받을 때 마운트가 빠져 있으면 엉뚱한 곳에 받으므로 상위 폴더부터 확인한다. | |
| if [ ! -d "$(dirname "$DEST")" ]; then | |
| echo "폴더가 없습니다: $(dirname "$DEST") (외장하드 연결 확인)" >&2 | |
| exit 1 | |
| fi | |
| if ! command -v hf >/dev/null; then | |
| echo "hf 명령이 없습니다: pip install -U huggingface_hub" >&2 | |
| exit 1 | |
| fi | |
| mkdir -p "$DEST" | |
| download() { | |
| local name="$1" repo="$2" | |
| shift 2 | |
| echo "=== $name ($repo) ===" | |
| hf download "$repo" --repo-type dataset --local-dir "$DEST/$name" "$@" ${EXTRA[@]+"${EXTRA[@]}"} | |
| } | |
| # 수학: finemath-4plus 폴더 전부 | |
| download finemath-4plus HuggingFaceTB/finemath \ | |
| --include "finemath-4plus/*" | |
| # 영어 웹: 전체가 수 TB라 일부만 쓴다. global-shard 01~10 각각의 local-shard_0_of_10에서 | |
| # 앞쪽 파일만(01~06은 shard 0~24, 07~10은 shard 0~23). packed/web_en의 246개와 같다. | |
| DCLM="local-shard_0_of_10/shard" | |
| download dclm-baseline mlfoundations/dclm-baseline-1.0-parquet \ | |
| --include "*global-shard_0[1-6]_of_10/${DCLM}_000000[01]?_processed.parquet" \ | |
| --include "*global-shard_0[1-6]_of_10/${DCLM}_0000002[0-4]_processed.parquet" \ | |
| --include "*global-shard_0[7-9]_of_10/${DCLM}_000000[01]?_processed.parquet" \ | |
| --include "*global-shard_0[7-9]_of_10/${DCLM}_0000002[0-3]_processed.parquet" \ | |
| --include "*global-shard_10_of_10/${DCLM}_000000[01]?_processed.parquet" \ | |
| --include "*global-shard_10_of_10/${DCLM}_0000002[0-3]_processed.parquet" | |
| # 한국어 웹: kor_Hang의 train 전부 | |
| download fineweb2-kor HuggingFaceFW/fineweb-2 \ | |
| --include "data/kor_Hang/train/*" | |
| # 받은 파일 수 확인 (기대값: 64 / 246 / 25) | |
| echo "=== 결과 ===" | |
| for name in finemath-4plus dclm-baseline fineweb2-kor; do | |
| n=$(find "$DEST/$name" -name "*.parquet" 2>/dev/null | wc -l | tr -d ' ') | |
| size=$(du -sh "$DEST/$name" 2>/dev/null | cut -f1) | |
| echo "$name: parquet ${n}개, ${size:-0}" | |
| done | |