DEXTools commited on
Commit
32e55fd
·
verified ·
1 Parent(s): f0a995f

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +1 -1
app.py CHANGED
@@ -46,7 +46,7 @@ def generate_response(message, history):
46
  with torch.no_grad():
47
  outputs = model.generate(
48
  **inputs,
49
- max_new_tokens=2512, # Aumentado para evitar respuestas cortadas (truncadas)
50
  do_sample=True,
51
  temperature=0.7,
52
  pad_token_id=tokenizer.eos_token_id,
 
46
  with torch.no_grad():
47
  outputs = model.generate(
48
  **inputs,
49
+ max_new_tokens=1512, # Aumentado para evitar respuestas cortadas (truncadas)
50
  do_sample=True,
51
  temperature=0.7,
52
  pad_token_id=tokenizer.eos_token_id,