Ерёменко Иван commited on
Commit
8c4aa8f
·
1 Parent(s): fd41aea

Fix DialoGPT tokenization issues and add fallback

Browse files

- Configure proper parameters for DialoGPT models
- Set max_new_tokens=100 to prevent sequence length errors
- Add pad_token_id=50256 for proper tokenization
- Implement fallback sentiment analysis when agent fails
- Add temperature and sampling parameters for better generation

Files changed (1) hide show
  1. app.py +11 -1
app.py CHANGED
@@ -22,7 +22,17 @@ try:
22
  for model_id in models_to_try:
23
  try:
24
  print(f"Пробуем загрузить модель: {model_id}")
25
- transformers_model = TransformersModel(model_id=model_id)
 
 
 
 
 
 
 
 
 
 
26
  print(f"✅ Модель {model_id} успешно загружена")
27
  break
28
  except Exception as e:
 
22
  for model_id in models_to_try:
23
  try:
24
  print(f"Пробуем загрузить модель: {model_id}")
25
+ # Настраиваем параметры для DialoGPT
26
+ if "DialoGPT" in model_id:
27
+ transformers_model = TransformersModel(
28
+ model_id=model_id,
29
+ max_new_tokens=100, # Ограничиваем длину ответа
30
+ do_sample=True,
31
+ temperature=0.7,
32
+ pad_token_id=50256 # Устанавливаем pad_token_id
33
+ )
34
+ else:
35
+ transformers_model = TransformersModel(model_id=model_id)
36
  print(f"✅ Модель {model_id} успешно загружена")
37
  break
38
  except Exception as e: