#!/bin/bash # Perdix 사전학습에 쓴 원본 데이터(parquet)를 허깅 페이스 원 저장소에서 받는다. # (prismdata/Perdix-Pretrain-Data 에 같은 파일이 그대로 올라가 있으므로 # 그쪽을 통째로 받아도 된다: hf download prismdata/Perdix-Pretrain-Data --repo-type dataset --local-dir raw-data) # # 수학 FineMath 4+ 64개 파일 18.4GB -> raw-data/finemath-4plus # 영어 웹 DCLM-baseline 246개 파일 53.9GB -> raw-data/dclm-baseline # 한국어 웹 FineWeb2 kor_Hang 25개 파일 105.8GB -> raw-data/fineweb2-kor # # 실행: # ./download_raw_data.sh # 전부 받기 (끊기면 다시 실행하면 이어서 받음) # ./download_raw_data.sh --dry-run # 받지 않고 받을 파일만 확인 # DEST=/다른/경로 ./download_raw_data.sh set -euo pipefail DEST="${DEST:-$(pwd)/raw-data}" EXTRA=("$@") # 외장하드 등에 받을 때 마운트가 빠져 있으면 엉뚱한 곳에 받으므로 상위 폴더부터 확인한다. if [ ! -d "$(dirname "$DEST")" ]; then echo "폴더가 없습니다: $(dirname "$DEST") (외장하드 연결 확인)" >&2 exit 1 fi if ! command -v hf >/dev/null; then echo "hf 명령이 없습니다: pip install -U huggingface_hub" >&2 exit 1 fi mkdir -p "$DEST" download() { local name="$1" repo="$2" shift 2 echo "=== $name ($repo) ===" hf download "$repo" --repo-type dataset --local-dir "$DEST/$name" "$@" ${EXTRA[@]+"${EXTRA[@]}"} } # 수학: finemath-4plus 폴더 전부 download finemath-4plus HuggingFaceTB/finemath \ --include "finemath-4plus/*" # 영어 웹: 전체가 수 TB라 일부만 쓴다. global-shard 01~10 각각의 local-shard_0_of_10에서 # 앞쪽 파일만(01~06은 shard 0~24, 07~10은 shard 0~23). packed/web_en의 246개와 같다. DCLM="local-shard_0_of_10/shard" download dclm-baseline mlfoundations/dclm-baseline-1.0-parquet \ --include "*global-shard_0[1-6]_of_10/${DCLM}_000000[01]?_processed.parquet" \ --include "*global-shard_0[1-6]_of_10/${DCLM}_0000002[0-4]_processed.parquet" \ --include "*global-shard_0[7-9]_of_10/${DCLM}_000000[01]?_processed.parquet" \ --include "*global-shard_0[7-9]_of_10/${DCLM}_0000002[0-3]_processed.parquet" \ --include "*global-shard_10_of_10/${DCLM}_000000[01]?_processed.parquet" \ --include "*global-shard_10_of_10/${DCLM}_0000002[0-3]_processed.parquet" # 한국어 웹: kor_Hang의 train 전부 download fineweb2-kor HuggingFaceFW/fineweb-2 \ --include "data/kor_Hang/train/*" # 받은 파일 수 확인 (기대값: 64 / 246 / 25) echo "=== 결과 ===" for name in finemath-4plus dclm-baseline fineweb2-kor; do n=$(find "$DEST/$name" -name "*.parquet" 2>/dev/null | wc -l | tr -d ' ') size=$(du -sh "$DEST/$name" 2>/dev/null | cut -f1) echo "$name: parquet ${n}개, ${size:-0}" done