Gerchegg commited on
Commit
c4d4a24
·
verified ·
1 Parent(s): a7a3f49

Upload RUNPOD_DEPLOYMENT.md with huggingface_hub

Browse files
Files changed (1) hide show
  1. RUNPOD_DEPLOYMENT.md +390 -0
RUNPOD_DEPLOYMENT.md ADDED
@@ -0,0 +1,390 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # 🚀 Развертывание Qwen-Soloband на RunPod
2
+
3
+ Полное руководство по установке и запуску Qwen-Soloband Advanced на RunPod.
4
+
5
+ ---
6
+
7
+ ## 📋 Содержание
8
+
9
+ - [Быстрый старт](#-быстрый-старт-одна-команда)
10
+ - [Пошаговая установка](#-пошаговая-установка)
11
+ - [Требования системы](#-требования-системы)
12
+ - [Использование](#-использование)
13
+ - [Кастомизация](#-кастомизация)
14
+ - [Troubleshooting](#-troubleshooting)
15
+
16
+ ---
17
+
18
+ ## ⚡️ Быстрый старт (ОДНА КОМАНДА)
19
+
20
+ ### Способ 1: Inline команда
21
+
22
+ ```bash
23
+ export HF_HUB_ENABLE_HF_TRANSFER=0 && \
24
+ pip install -q huggingface_hub[cli] && \
25
+ hf auth login --token ВАШ_ТОКЕН_СЮДА && \
26
+ cd /workspace && \
27
+ hf download Gerchegg/Qwen-ImageForFlo-Advanced --repo-type space --local-dir Qwen-ImageForFlo-Advanced && \
28
+ cd Qwen-ImageForFlo-Advanced && \
29
+ pip install -r requirements.txt && \
30
+ python app.py
31
+ ```
32
+
33
+ **⚠️ Замените `ВАШ_ТОКЕН_СЮДА` на ваш Hugging Face токен!**
34
+
35
+ ### Способ 2: Используя скрипт quick_start.sh
36
+
37
+ ```bash
38
+ cd /workspace
39
+ wget https://huggingface.co/spaces/Gerchegg/Qwen-ImageForFlo-Advanced/resolve/main/quick_start.sh
40
+ chmod +x quick_start.sh
41
+ HF_TOKEN="ВАШ_ТОКЕН_СЮДА" ./quick_start.sh
42
+ ```
43
+
44
+ Скрипт автоматически:
45
+ - ✅ Установит Hugging Face CLI
46
+ - ✅ Авторизуется с вашим токеном
47
+ - ✅ Скачает проект
48
+ - ✅ Установит все зависимости
49
+ - ✅ Создаст структуру папок
50
+
51
+ ---
52
+
53
+ ## 🔧 Пошаговая установка
54
+
55
+ ### Шаг 1: Получение Hugging Face токена
56
+
57
+ 1. Перейдите на https://huggingface.co/settings/tokens
58
+ 2. Нажмите **"New token"**
59
+ 3. Выберите **"Read"** права (достаточно для скачивания)
60
+ 4. Скопируйте токен
61
+
62
+ ### Шаг 2: Установка Hugging Face CLI
63
+
64
+ ```bash
65
+ pip install -q huggingface_hub[cli]
66
+ ```
67
+
68
+ ### Шаг 3: Авторизация
69
+
70
+ ```bash
71
+ export HF_HUB_ENABLE_HF_TRANSFER=0
72
+ hf auth login --token ВАШ_ТОКЕН_СЮДА
73
+ ```
74
+
75
+ Проверка:
76
+ ```bash
77
+ hf auth whoami
78
+ ```
79
+
80
+ ### Шаг 4: Скачивание проекта
81
+
82
+ ```bash
83
+ cd /workspace
84
+ hf download Gerchegg/Qwen-ImageForFlo-Advanced \
85
+ --repo-type space \
86
+ --local-dir Qwen-ImageForFlo-Advanced
87
+ ```
88
+
89
+ ### Шаг 5: Установка зависимостей
90
+
91
+ ```bash
92
+ cd Qwen-ImageForFlo-Advanced
93
+ pip install -r requirements.txt
94
+ ```
95
+
96
+ **Время установки:** ~3-5 минут
97
+
98
+ ### Шаг 6: Создание папки для LoRA (опционально)
99
+
100
+ ```bash
101
+ mkdir -p /workspace/loras
102
+ ```
103
+
104
+ ### Шаг 7: Запуск приложения
105
+
106
+ ```bash
107
+ python app.py
108
+ ```
109
+
110
+ **Первый запуск:** ~5-10 минут (загрузка модели 40GB)
111
+ **Последующие запуски:** мгновенно (из кэша)
112
+
113
+ ---
114
+
115
+ ## 💻 Требования системы
116
+
117
+ ### Минимальные требования:
118
+
119
+ | Компонент | Требование |
120
+ |-----------|-----------|
121
+ | **GPU** | A40 (48GB) или A100 (80GB) |
122
+ | **VRAM** | ~40GB для базовой модели |
123
+ | **Storage** | 100GB минимум |
124
+ | **RAM** | 32GB+ рекомендуется |
125
+
126
+ ### Рекомендуемые Pod шаблоны на RunPod:
127
+
128
+ - **A40 (48GB)** - оптимальный выбор для production
129
+ - **A100 (80GB)** - для максимальной производительности
130
+ - **RTX 4090 (24GB)** - ❌ недостаточно VRAM
131
+
132
+ ---
133
+
134
+ ## 🎨 Использование
135
+
136
+ ### Подключение к интерфейсу
137
+
138
+ После запуска в логах увидите:
139
+ ```
140
+ Running on local URL: http://0.0.0.0:7860
141
+ ```
142
+
143
+ В **RunPod Dashboard**:
144
+ 1. Найдите ваш Pod
145
+ 2. **"Connect"** → **"HTTP Service [Port 7860]"**
146
+ 3. Откроется Gradio интерфейс! 🎨
147
+
148
+ ### Режимы генерации
149
+
150
+ #### 1. Text-to-Image
151
+ ```python
152
+ from gradio_client import Client
153
+
154
+ client = Client("http://localhost:7860")
155
+
156
+ result = client.predict(
157
+ prompt="SB_AI, a beautiful mountain landscape at sunset, detailed",
158
+ negative_prompt="blurry, low quality",
159
+ width=1664,
160
+ height=928,
161
+ seed=42,
162
+ randomize_seed=False,
163
+ guidance_scale=2.5,
164
+ num_inference_steps=40,
165
+ lora_name="None",
166
+ lora_scale=1.0,
167
+ scheduler_name="DPM++ 2M Karras", # Новый параметр!
168
+ api_name="/text2img"
169
+ )
170
+
171
+ image, seed = result
172
+ ```
173
+
174
+ #### 2. Image-to-Image
175
+ ```python
176
+ result = client.predict(
177
+ input_image="path/to/image.png",
178
+ prompt="Transform into oil painting style",
179
+ negative_prompt="blurry, low quality",
180
+ strength=0.75,
181
+ seed=42,
182
+ randomize_seed=False,
183
+ guidance_scale=2.5,
184
+ num_inference_steps=40,
185
+ lora_name="None",
186
+ lora_scale=1.0,
187
+ scheduler_name="Euler Ancestral", # Новый параметр!
188
+ api_name="/img2img"
189
+ )
190
+
191
+ image, seed = result
192
+ ```
193
+
194
+ ### Доступные Schedulers (Samplers)
195
+
196
+ | Scheduler | Alias | Описание |
197
+ |-----------|-------|----------|
198
+ | **DPM++ 2M Karras** | `dpmpp_2m_karras` | ⭐ Рекомендуется (по умолчанию) |
199
+ | **DPM++ SDE Karras** | `dpmpp_sde_karras` | ⭐ Высокая детализация |
200
+ | **DPM++ 3M SDE Karras** | `dpmpp_3m_sde_karras` | ⭐ Максимальное качество |
201
+ | **Euler Ancestral** | `euler_a` | ⭐ Быстрый и стабильный |
202
+ | **Euler** | `euler` | ⭐ Простой и надежный |
203
+ | **DPM++ 2M** | `dpmpp_2m` | 🧪 Экспериментальный |
204
+ | **DPM++ 2M Beta** | `dpmpp_2m_beta` | 🧪 Beta sigmas |
205
+ | **DPM++ 2M Exponential** | `dpmpp_2m_exp` | 🧪 Exponential sigmas |
206
+ | **Euler Karras** | `euler_karras` | 🧪 Euler с Karras |
207
+ | **UniPC** | `unipc` | ⚡ Быстрый |
208
+
209
+ **API поддерживает алиасы:**
210
+ ```python
211
+ scheduler_name="dpmpp_2m_karras" # Алиас
212
+ scheduler_name="DPM++ 2M Karras" # Полное имя
213
+ ```
214
+
215
+ ---
216
+
217
+ ## 🎛️ Кастомизация
218
+
219
+ ### Использование кастомной модели
220
+
221
+ ```bash
222
+ MODEL_REPO="username/custom-qwen-model" python app.py
223
+ ```
224
+
225
+ Или в переменных окружения:
226
+ ```bash
227
+ export MODEL_REPO="username/custom-qwen-model"
228
+ python app.py
229
+ ```
230
+
231
+ ### Добавление локальных LoRA
232
+
233
+ 1. Положите `.safetensors` файлы в `/workspace/loras/`:
234
+ ```bash
235
+ /workspace/loras/
236
+ ├── my_custom_style.safetensors
237
+ ├── portrait_lora.safetensors
238
+ └── anime_v2.safetensors
239
+ ```
240
+
241
+ 2. Они автоматически появятся в списке LoRA
242
+
243
+ 3. Используйте в API:
244
+ ```python
245
+ lora_name="my_custom_style" # Имя файла без расширения
246
+ ```
247
+
248
+ ### Настройка параметров
249
+
250
+ Отредактируйте `app.py`:
251
+
252
+ ```python
253
+ # Изменить дефолтный scheduler
254
+ DEFAULT_SCHEDULER = "Euler Ancestral"
255
+
256
+ # Изменить дефолтную модель
257
+ model_id = os.environ.get("MODEL_REPO", "your-username/your-model")
258
+ ```
259
+
260
+ ---
261
+
262
+ ## 🐛 Troubleshooting
263
+
264
+ ### Ошибка: "No module named 'spaces'"
265
+ ✅ **Решено автоматически!** Модуль опциональный, приложение работает без него.
266
+
267
+ ### Ошибка: "hf_transfer not found"
268
+ ```bash
269
+ export HF_HUB_ENABLE_HF_TRANSFER=0
270
+ ```
271
+
272
+ ### Ошибка: "401 Unauthorized"
273
+ Проверьте токен:
274
+ ```bash
275
+ hf auth whoami
276
+ ```
277
+
278
+ Если не работает, залогиньтесь заново:
279
+ ```bash
280
+ hf auth login --token ВАШ_ТОКЕН
281
+ ```
282
+
283
+ ### Ошибка: "CUDA out of memory"
284
+ - Уменьшите разрешение (width/height)
285
+ - Уменьшите `num_inference_steps`
286
+ - Убедитесь, что используете A40 или A100
287
+
288
+ ### Модель грузится слишком долго
289
+ **Первая загрузка:** 5-10 минут (40GB модель скачивается)
290
+ **Последующие:** мгновенно (кэш в `/workspace/.cache/`)
291
+
292
+ Проверить кэш:
293
+ ```bash
294
+ ls -lh /workspace/.cache/huggingface/hub/
295
+ ```
296
+
297
+ ### Генерация слишком медленная
298
+ - Используйте scheduler **"UniPC"** для скорости
299
+ - Уменьшите `num_inference_steps` до 20-30
300
+ - Проверьте, что используется GPU:
301
+ ```bash
302
+ nvidia-smi
303
+ ```
304
+
305
+ ### Port 7860 недоступен
306
+ Проверьте, что приложение запущено:
307
+ ```bash
308
+ ps aux | grep python
309
+ ```
310
+
311
+ Проверьте порт:
312
+ ```bash
313
+ netstat -tulpn | grep 7860
314
+ ```
315
+
316
+ ---
317
+
318
+ ## 📊 Оценка времени
319
+
320
+ | Операция | Первый раз | Последующие |
321
+ |----------|------------|-------------|
322
+ | Скачивание проекта | ~10 сек | мгновенно |
323
+ | Установка зависимостей | ~3-5 мин | пропуск |
324
+ | Загрузка модели | ~5-10 мин | ~10-15 сек |
325
+ | Генерация (40 steps) | ~30-40 сек | ~30-40 сек |
326
+ | **TOTAL** | **~15-20 мин** | **мгновенно** |
327
+
328
+ ---
329
+
330
+ ## 🔗 Полезные ссылки
331
+
332
+ - **Базовая модель:** [Gerchegg/Qwen-Soloband-Diffusers](https://huggingface.co/Gerchegg/Qwen-Soloband-Diffusers)
333
+ - **Space:** [Gerchegg/Qwen-ImageForFlo-Advanced](https://huggingface.co/spaces/Gerchegg/Qwen-ImageForFlo-Advanced)
334
+ - **Qwen-Image:** [Qwen/Qwen-Image](https://huggingface.co/Qwen/Qwen-Image)
335
+ - **Diffusers Docs:** [Image-to-Image Guide](https://huggingface.co/docs/diffusers/using-diffusers/img2img)
336
+ - **RunPod Docs:** [RunPod Documentation](https://docs.runpod.io/)
337
+
338
+ ---
339
+
340
+ ## 📝 Дополнительные скрипты
341
+
342
+ ### install_runpod.sh (расширенный)
343
+
344
+ Для продвинутой установки с логированием и проверками:
345
+
346
+ ```bash
347
+ cd /workspace
348
+ wget https://huggingface.co/spaces/Gerchegg/Qwen-ImageForFlo-Advanced/resolve/main/install_runpod.sh
349
+ chmod +x install_runpod.sh
350
+ HF_TOKEN="ВАШ_ТОКЕН" ./install_runpod.sh
351
+ ```
352
+
353
+ Опции:
354
+ ```bash
355
+ WORKSPACE_DIR=/workspace \
356
+ LORA_DIR=/workspace/loras \
357
+ MODEL_REPO="username/model" \
358
+ HF_TOKEN="token" \
359
+ ./install_runpod.sh
360
+ ```
361
+
362
+ ---
363
+
364
+ ## 🎉 Готово!
365
+
366
+ После установки вы можете:
367
+ - 🎨 Генерировать изображения через веб-интерфейс
368
+ - 🔌 Использовать API для автоматизации
369
+ - 🎭 Добавлять собственные LoRA стили
370
+ - 🎛️ Экспериментировать с различными schedulers
371
+ - 🖼️ Трансформировать изображения с Image-to-Image
372
+
373
+ **Начните создавать потрясающие изображения прямо сейчас! 🚀**
374
+
375
+ ---
376
+
377
+ ## 📞 Поддержка
378
+
379
+ Если возникли проблемы:
380
+ 1. Проверьте раздел [Troubleshooting](#-troubleshooting)
381
+ 2. Убедитесь, что используете правильные требования системы
382
+ 3. Проверьте логи приложения
383
+ 4. Откройте issue на GitHub / HuggingFace Space
384
+
385
+ ---
386
+
387
+ **Версия:** 2.0
388
+ **Дата обновления:** 2025-01-19
389
+ **Лицензия:** Apache 2.0
390
+