Datasets:

Wuhuwill
/

prodiff-model

Tasks:

Text Generation

Languages:

English

Size:

100M<n<1B

License:

Dataset card Files Files and versions

xet

Community

prodiff-model / ProDiff /run_e2e.sh

Wuhuwill

Upload ProDiff/run_e2e.sh with huggingface_hub

170f6ce verified about 1 year ago

Raw History Blame

3.78 kB

#!/bin/bash

# ==================================================
# ProDiff -- 端到端一键训练与测试脚本
# ==================================================
#
# 该脚本会自动执行以下步骤:
# 1. 启动一个完整的训练过程。
# 2. 等待训练完成。
# 3. 自动查找最新的模型目录。
# 4. 使用最终的模型进行测试。
#
# ==================================================

# --- 配置参数 ---
EXP_NAME="time_based_mask_exp"
DEVICE_ID=0
SAMPLING_TYPE="ddim"  # 测试时使用的采样类型
FINAL_EPOCH=50        # 最终训练的epoch数，用于测试

# --- 日志设置 ---
LOG_DIR="./training_logs"
mkdir -p ${LOG_DIR}
TIMESTAMP_NOW=$(date +%Y%m%d_%H%M%S)
LOG_FILE="${LOG_DIR}/e2e_${EXP_NAME}_${TIMESTAMP_NOW}.log"

# --- 优化环境变量 ---
export PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:512
export OMP_NUM_THREADS=8

# --- 脚本开始 ---
echo "=====================================" | tee ${LOG_FILE}
echo "ProDiff 端到端一键训练与测试启动" | tee -a ${LOG_FILE}
echo "实验名称: ${EXP_NAME}" | tee -a ${LOG_FILE}
echo "完整日志将记录在: ${LOG_FILE}" | tee -a ${LOG_FILE}
echo "=====================================" | tee -a ${LOG_FILE}

#
# --- 阶段 1: 模型训练 ---
#
echo "" | tee -a ${LOG_FILE}
echo "=============== [阶段 1/2] 开始模型训练... ===============" | tee -a ${LOG_FILE}
echo "" | tee -a ${LOG_FILE}

# 直接调用 main.py 进行训练，并将所有输出重定向到日志文件
# 脚本会在此处等待，直到训练完成
python3 -u main.py \
    --mode train \
    --exp_name ${EXP_NAME} \
    --device_id ${DEVICE_ID} \
    --sampling_type ${SAMPLING_TYPE} \
    2>&1 | tee -a ${LOG_FILE}

# 检查训练是否成功
TRAIN_EXIT_CODE=${PIPESTATUS[0]}
if [ ${TRAIN_EXIT_CODE} -ne 0 ]; then
    echo "" | tee -a ${LOG_FILE}
    echo "❌ 训练阶段失败，退出码: ${TRAIN_EXIT_CODE}" | tee -a ${LOG_FILE}
    echo "详情请查看日志: ${LOG_FILE}" | tee -a ${LOG_FILE}
    exit ${TRAIN_EXIT_CODE}
fi

echo "" | tee -a ${LOG_FILE}
echo "✅ 训练阶段成功完成！" | tee -a ${LOG_FILE}


#
# --- 阶段 2: 模型测试 ---
#
echo "" | tee -a ${LOG_FILE}
echo "=============== [阶段 2/2] 开始模型测试... ===============" | tee -a ${LOG_FILE}
echo "" | tee -a ${LOG_FILE}

# 自动查找刚刚训练生成的最新实验目录
# -t: 按修改时间排序, -d: 只列出目录
LATEST_EXP_DIR=$(ls -td ./Experiments/${EXP_NAME}*/ | head -1)

if [ -z "${LATEST_EXP_DIR}" ]; then
    echo "❌ 找不到最新的实验目录，无法进行测试。" | tee -a ${LOG_FILE}
    exit 1
fi

# 去掉路径末尾可能存在的斜杠
LATEST_EXP_DIR=$(echo "${LATEST_EXP_DIR}" | sed 's:/*$::')

echo "已自动找到最新的实验目录: ${LATEST_EXP_DIR}" | tee -a ${LOG_FILE}
echo "将使用 Epoch ${FINAL_EPOCH} 的模型进行测试..." | tee -a ${LOG_FILE}

# 调用 main.py 进行测试
python3 -u main.py \
    --mode test \
    --model_path "${LATEST_EXP_DIR}" \
    --model_epoch ${FINAL_EPOCH} \
    --sampling_type ${SAMPLING_TYPE} \
    --ddim_steps 50 \
    --ddim_eta 0.0 \
    --device_id ${DEVICE_ID} \
    --exp_name ${EXP_NAME}_final_test \
    --debug \
    2>&1 | tee -a ${LOG_FILE}

TEST_EXIT_CODE=${PIPESTATUS[0]}

echo "" | tee -a ${LOG_FILE}
echo "=====================================" | tee -a ${LOG_FILE}
if [ ${TEST_EXIT_CODE} -eq 0 ]; then
    echo "✅ 端到端流程全部成功完成！" | tee -a ${LOG_FILE}
else
    echo "❌ 测试阶段失败，退出码: ${TEST_EXIT_CODE}" | tee -a ${LOG_FILE}
fi
echo "完成时间: $(date)" | tee -a ${LOG_FILE}
echo "最终结果请查看日志文件: ${LOG_FILE}" | tee -a ${LOG_FILE}
echo "=====================================" | tee -a ${LOG_FILE}

exit ${TEST_EXIT_CODE}

	#!/bin/bash

	# ==================================================
	# ProDiff -- 端到端一键训练与测试脚本
	# ==================================================
	#
	# 该脚本会自动执行以下步骤:
	# 1. 启动一个完整的训练过程。
	# 2. 等待训练完成。
	# 3. 自动查找最新的模型目录。
	# 4. 使用最终的模型进行测试。
	#
	# ==================================================

	# --- 配置参数 ---
	EXP_NAME="time_based_mask_exp"
	DEVICE_ID=0
	SAMPLING_TYPE="ddim" # 测试时使用的采样类型
	FINAL_EPOCH=50 # 最终训练的epoch数，用于测试

	# --- 日志设置 ---
	LOG_DIR="./training_logs"
	mkdir -p ${LOG_DIR}
	TIMESTAMP_NOW=$(date +%Y%m%d_%H%M%S)
	LOG_FILE="${LOG_DIR}/e2e_${EXP_NAME}_${TIMESTAMP_NOW}.log"

	# --- 优化环境变量 ---
	export PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:512
	export OMP_NUM_THREADS=8

	# --- 脚本开始 ---
	echo "=====================================" \| tee ${LOG_FILE}
	echo "ProDiff 端到端一键训练与测试启动" \| tee -a ${LOG_FILE}
	echo "实验名称: ${EXP_NAME}" \| tee -a ${LOG_FILE}
	echo "完整日志将记录在: ${LOG_FILE}" \| tee -a ${LOG_FILE}
	echo "=====================================" \| tee -a ${LOG_FILE}

	#
	# --- 阶段 1: 模型训练 ---
	#
	echo "" \| tee -a ${LOG_FILE}
	echo "=============== [阶段 1/2] 开始模型训练... ===============" \| tee -a ${LOG_FILE}
	echo "" \| tee -a ${LOG_FILE}

	# 直接调用 main.py 进行训练，并将所有输出重定向到日志文件
	# 脚本会在此处等待，直到训练完成
	python3 -u main.py \
	--mode train \
	--exp_name ${EXP_NAME} \
	--device_id ${DEVICE_ID} \
	--sampling_type ${SAMPLING_TYPE} \
	2>&1 \| tee -a ${LOG_FILE}

	# 检查训练是否成功
	TRAIN_EXIT_CODE=${PIPESTATUS[0]}
	if [ ${TRAIN_EXIT_CODE} -ne 0 ]; then
	echo "" \| tee -a ${LOG_FILE}
	echo "❌ 训练阶段失败，退出码: ${TRAIN_EXIT_CODE}" \| tee -a ${LOG_FILE}
	echo "详情请查看日志: ${LOG_FILE}" \| tee -a ${LOG_FILE}
	exit ${TRAIN_EXIT_CODE}
	fi

	echo "" \| tee -a ${LOG_FILE}
	echo "✅ 训练阶段成功完成！" \| tee -a ${LOG_FILE}


	#
	# --- 阶段 2: 模型测试 ---
	#
	echo "" \| tee -a ${LOG_FILE}
	echo "=============== [阶段 2/2] 开始模型测试... ===============" \| tee -a ${LOG_FILE}
	echo "" \| tee -a ${LOG_FILE}

	# 自动查找刚刚训练生成的最新实验目录
	# -t: 按修改时间排序, -d: 只列出目录
	LATEST_EXP_DIR=$(ls -td ./Experiments/${EXP_NAME}*/ \| head -1)

	if [ -z "${LATEST_EXP_DIR}" ]; then
	echo "❌ 找不到最新的实验目录，无法进行测试。" \| tee -a ${LOG_FILE}
	exit 1
	fi

	# 去掉路径末尾可能存在的斜杠
	LATEST_EXP_DIR=$(echo "${LATEST_EXP_DIR}" \| sed 's:/*$::')

	echo "已自动找到最新的实验目录: ${LATEST_EXP_DIR}" \| tee -a ${LOG_FILE}
	echo "将使用 Epoch ${FINAL_EPOCH} 的模型进行测试..." \| tee -a ${LOG_FILE}

	# 调用 main.py 进行测试
	python3 -u main.py \
	--mode test \
	--model_path "${LATEST_EXP_DIR}" \
	--model_epoch ${FINAL_EPOCH} \
	--sampling_type ${SAMPLING_TYPE} \
	--ddim_steps 50 \
	--ddim_eta 0.0 \
	--device_id ${DEVICE_ID} \
	--exp_name ${EXP_NAME}_final_test \
	--debug \
	2>&1 \| tee -a ${LOG_FILE}

	TEST_EXIT_CODE=${PIPESTATUS[0]}

	echo "" \| tee -a ${LOG_FILE}
	echo "=====================================" \| tee -a ${LOG_FILE}
	if [ ${TEST_EXIT_CODE} -eq 0 ]; then
	echo "✅ 端到端流程全部成功完成！" \| tee -a ${LOG_FILE}
	else
	echo "❌ 测试阶段失败，退出码: ${TEST_EXIT_CODE}" \| tee -a ${LOG_FILE}
	fi
	echo "完成时间: $(date)" \| tee -a ${LOG_FILE}
	echo "最终结果请查看日志文件: ${LOG_FILE}" \| tee -a ${LOG_FILE}
	echo "=====================================" \| tee -a ${LOG_FILE}

	exit ${TEST_EXIT_CODE}