Видалено параметр on_submitб спрощена логіка клавіші enter
OniXinO
0cf9b7f
Використання on_submit, Колбек для кнопки, Очищення в send_message
OniXinO
14e602c
Зміни:
Використання on_submit: Тепер функція on_send_button_click (яка викликає send_message) передається безпосередньо в параметр on_submit віджета st.text_input. Це є правильним способом обробки натискання Enter.
Колбек для кнопки: Кнопка "Надіслати" також використовує колбек on_click=on_send_button_click.
Очищення в send_message: Очищення st.session_state.user_input та st.session_state.temp_user_input відбувається всередині функції send_message, яка викликається колбеками.
Тепер не повинно бути помилок StreamlitAPIException, і відправка повідомлень повинна працювати як при натисканні кнопки, так і при натисканні Enter (звичайного, без Shift або Ctrl). Streamlit за замовчуванням обробляє звичайний Enter як подію on_submit для текстових полів. Shift+Enter та Ctrl+Enter зазвичай додають новий рядок у текстове поле.
Зміни:
OniXinO
9417eab
Очищення через on_click: До кнопки "Надіслати" додано параметр on_click=clear_input. Тепер функція clear_input буде викликатися при натисканні кнопки, і вона очистить st.session_state.temp_user_input.
Обробка Enter з last_input: Для обробки натискання Enter використовується перевірка, чи змінилося значення temp_user_input з моменту останньої відправки. Це допомагає уникнути повторних відправок при кожному символі.
Тепер очищення текстового поля повинно відбуватися коректно як при натисканні кнопки, так і при натисканні Enter.
Перенесено st.session_state.temp_user_input = "" всередину функції send_message, після того як повідомлення було успішно оброблено та додано до історії. Тепер очищення текстового поля відбувається через оновлення st.session_state.temp_user_input у контексті функції, викликаної дією користувача (натисканням кнопки або зміною тексту).
OniXinO
1d45e7e
Зміни:
OniXinO
b434f91
Видалено параметр on_submit з st.text_input.
Повернуто логіку перевірки st.session_state.get("user_input", "") != "" для обробки натискання Enter.
Додано st.session_state.temp_user_input = "" після виклику send_message в умові натискання Enter, щоб запобігти негайній повторній відправці при кожній зміні.
Після встановлення sentencepiece, чат-бот повинен запрацювати.
OniXinO
00b0157
Основні зміни:
OniXinO
e22ba0b
use_fast=False: У функції load_model при завантаженні токенізатора додано параметр use_fast=False. Це вказує transformers використовувати повільний токенізатор, що може обійти проблему з tiktoken.
on_submit: У st.text_input замість окремої обробки натискання Enter, використано параметр on_submit=send_message. Тепер функція send_message буде викликатися при натисканні Enter у текстовому полі. Кнопка "Надіслати" також залишилася для тих, хто не використовує Enter.
Тепер чат-бот повинен завантажуватися без помилок, і ви зможете відправляти повідомлення як натисканням кнопки "Надіслати", так і клавішею Enter. Хоча якість відповідей може бути не ідеальною, оскільки mt5-small є відносно невеликою моделлю.
Зміни:
OniXinO
c585309
Використання google/mt5-small:
Замінено facebook/blenderbot-400M-distill на google/mt5-small.
Використовується AutoModelForSeq2SeqLM замість AutoModelForCausalLM, оскільки MT5 - це модель "sequence-to-sequence".
Виправлення padding_side:
Додано padding_side="left" при ініціалізації tokenizer, як рекомендовано в попередженні.