Fabrice-TIERCELIN commited on
Commit
5d2caab
·
verified ·
1 Parent(s): 153767a

[llama_vec, clip_l_pooler, llama_vec_n, clip_l_pooler_n, llama_attention_mask, llama_attention_mask_n] = prompt_parameters.pop(0)

Browse files
Files changed (1) hide show
  1. app.py +5 -5
app.py CHANGED
@@ -130,15 +130,15 @@ def worker(input_image, prompt, n_prompt, seed, total_second_length, latent_wind
130
  fake_diffusers_current_device(text_encoder, gpu) # since we only encode one text - that is one model move and one encode, offload is same time consumption since it is also one load and one encode.
131
  load_model_as_complete(text_encoder_2, target_device=gpu)
132
 
133
- #prompt_parameters = []
134
 
135
  for prompt_part in prompt.split(";"):
136
- #prompt_parameters.append(encode_prompt(prompt_part, n_prompt))
137
- [llama_vec_part, clip_l_pooler_part, llama_vec_n_part, clip_l_pooler_n_part, llama_attention_mask_part, llama_attention_mask_n_part] = encode_prompt(prompt_part, n_prompt)
138
 
139
- [llama_vec, clip_l_pooler, llama_vec_n, clip_l_pooler_n, llama_attention_mask, llama_attention_mask_n] = [llama_vec_part, clip_l_pooler_part, llama_vec_n_part, clip_l_pooler_n_part, llama_attention_mask_part, llama_attention_mask_n_part]
140
 
141
- #[llama_vec, clip_l_pooler, llama_vec_n, clip_l_pooler_n, llama_attention_mask, llama_attention_mask_n] = prompt_parameters.pop(0)
142
 
143
 
144
  #[llama_vec, clip_l_pooler, llama_vec_n, clip_l_pooler_n, llama_attention_mask, llama_attention_mask_n] = encode_prompt(prompt, n_prompt)
 
130
  fake_diffusers_current_device(text_encoder, gpu) # since we only encode one text - that is one model move and one encode, offload is same time consumption since it is also one load and one encode.
131
  load_model_as_complete(text_encoder_2, target_device=gpu)
132
 
133
+ prompt_parameters = []
134
 
135
  for prompt_part in prompt.split(";"):
136
+ prompt_parameters.append(encode_prompt(prompt_part, n_prompt))
137
+ #[llama_vec_part, clip_l_pooler_part, llama_vec_n_part, clip_l_pooler_n_part, llama_attention_mask_part, llama_attention_mask_n_part] = encode_prompt(prompt_part, n_prompt)
138
 
139
+ #[llama_vec, clip_l_pooler, llama_vec_n, clip_l_pooler_n, llama_attention_mask, llama_attention_mask_n] = [llama_vec_part, clip_l_pooler_part, llama_vec_n_part, clip_l_pooler_n_part, llama_attention_mask_part, llama_attention_mask_n_part]
140
 
141
+ [llama_vec, clip_l_pooler, llama_vec_n, clip_l_pooler_n, llama_attention_mask, llama_attention_mask_n] = prompt_parameters.pop(0)
142
 
143
 
144
  #[llama_vec, clip_l_pooler, llama_vec_n, clip_l_pooler_n, llama_attention_mask, llama_attention_mask_n] = encode_prompt(prompt, n_prompt)