orlecampos's picture
Upload folder using huggingface_hub
adbeee5 verified
Raw History Blame Contribute Delete
3.08 kB
#!/usr/bin/env bash
# deploy.sh — acha a GPU mais barata compativel, cria a instancia com a imagem propria,
# e provisiona o KLEIN (receita L5) ja pronto pra usar.
# espera ficar 'running', extrai IP/porta externa do 8188 e imprime o COMFY_URL pro driver.
#
# Uso: ./deploy.sh SEU_USER/comfy-image:latest
# Pré: vastai CLI logado (vastai set api-key ...). Imagem já buildada/pushada (buildx amd64).
set -euo pipefail
IMAGE="${1:?uso: ./deploy.sh DOCKERHUB_USER/comfy-image:latest}"
# 48 GB e o PISO: a cadeia campea (Klein 10 GB + qwen 8,7 GB + FaceDetailer + SeedVR2 7B 16,5 GB)
# pede ~43 GB no pico. 32 GB NAO cabe. Medido em 25/09/2026.
GPU="${GPU:-RTX_6000Ada}" # alternativas: RTX_A6000 (mais barata, Ampere), RTX_PRO_6000 (96 GB)
DISK="${DISK:-200}"
ONSTART='bash /opt/pipeline/provision-klein.sh'
# HF_TOKEN p/ os modelos gated da BFL (o provision cai no irmao aberto se faltar)
if [ -z "${HF_TOKEN:-}" ] && [ -f "$HOME/.secrets/huggingface.env" ]; then
HF_TOKEN="$(grep -oP '(?<=HF_TOKEN=).*' "$HOME/.secrets/huggingface.env" | tr -d '"'"'"' ')"
fi
ENVS="-e OPEN_BUTTON_PORT=8188 -p 8188:8188"
[ -n "${HF_TOKEN:-}" ] && ENVS="$ENVS -e HF_TOKEN=$HF_TOKEN"
echo ">> procurando oferta mais barata: $GPU, disco>$DISK, driver CUDA13"
OFFER=$(vastai search offers \
"gpu_name=$GPU num_gpus=1 disk_space>$DISK cuda_vers>=13.0 rentable=true" \
-o 'dph' --raw | python3 -c "import sys,json; o=json.load(sys.stdin); print(o[0]['id'] if o else '')")
[ -z "$OFFER" ] && { echo "nenhuma oferta compatível (tente outro GPU/driver)"; exit 1; }
echo ">> oferta: $OFFER"
echo ">> criando instância..."
vastai create instance "$OFFER" \
--image "$IMAGE" \
--disk "$DISK" \
--env "$ENVS" \
--onstart-cmd "$ONSTART" \
--ssh --direct
echo ">> aguardando 'running'..."
ID=$(vastai show instances --raw | python3 -c "import sys,json;d=json.load(sys.stdin);print(sorted(d,key=lambda x:x['id'])[-1]['id'])")
until [ "$(vastai show instance $ID --raw | python3 -c 'import sys,json;print(json.load(sys.stdin).get("actual_status"))')" = "running" ]; do
sleep 10; echo " ..."
done
# IP público + porta externa que caiu no 8188 (vast mapeia p/ porta aleatória)
INFO=$(vastai show instance $ID --raw)
IP=$(echo "$INFO" | python3 -c "import sys,json;print(json.load(sys.stdin)['public_ipaddr'])")
PORT=$(echo "$INFO" | python3 -c "import sys,json;d=json.load(sys.stdin);p=d.get('ports',{}).get('8188/tcp');print(p[0]['HostPort'] if p else '')")
echo ""
echo ">> instância $ID running"
echo ">> COMFY_URL=http://$IP:$PORT"
echo ">> os modelos ainda estão baixando (provision.sh). Espere /object_info responder:"
echo " until curl -sf http://$IP:$PORT/object_info >/dev/null; do sleep 10; done"
echo ">> depois: python3 (use convert.py + seu workflow PhotoFlow) --url http://$IP:$PORT"
echo ">> o Klein ja vem baixado pelo provision-klein.sh; a receita L5 esta em /opt/pipeline/receitas/"
echo " klein_L5_api.json + klein_L5_prompt.txt + klein_L5_patch.py (seed 993001, 16 passos, cfg 1)"
echo ">> ao terminar: vastai destroy instance $ID"