Update app.py

app.py

@@ -1,6 +1,11 @@
+import os
 import tempfile
 from pathlib import Path
 
+# Alguns workers ZeroGPU não expõem NVML completamente ao allocator do PyTorch.
+# Desativar o cache evita o assert interno sem alterar o resultado do modelo.
+os.environ.setdefault("PYTORCH_NO_CUDA_MEMORY_CACHING", "1")
+
 import gradio as gr
 import spaces
 import torch
@@ -20,7 +25,8 @@ def get_pipeline():
             MODEL_ID,
             torch_dtype=torch.bfloat16,
         )
-        PIPE.to("cuda")
+        # O offload evita mover o pipeline inteiro de uma só vez para a GPU.
+        PIPE.enable_model_cpu_offload()
         print("Model loaded on CUDA", flush=True)
     return PIPE