Update app.py

app.py

@@ -35,16 +35,23 @@ def start_new_chat_session():
 # 초기 세션 시작
 start_new_chat_session()
 
-def respond(user_input, history):
+def respond(message, chat_history):
+    """사용자 입력에 응답하고 채팅 기록을 업데이트합니다."""
     global chat_session
-    history.append((user_input, "")) 
-    yield "", history  
 
-    response = chat_session.send_message(user_input)
-    full_response = response.text # Get the entire response text
+    if chat_session is None:
+        start_new_chat_session()
 
-    history[-1] = (user_input, full_response) # Update history with the full response
-    yield "", history 
+    chat_history.append((message, ""))
+
+    # 스트리밍 방식으로 응답 생성
+    response = chat_session.send_message(message, stream=True)
+    full_response = ""
+    for chunk in response:
+        full_response += chunk.text
+        chat_history[-1] = (message, full_response)
+        yield chat_history,  # Gradio 업데이트
+    yield chat_history  # 최종 업데이트
 
 def clear_chat(chatbot):
     start_new_chat_session()
@@ -52,14 +59,14 @@ def clear_chat(chatbot):
     return []
 
 with gr.Blocks() as demo:
-    gr.Markdown("<div style='font-size: 30px; font-weight: bold;'>언어치료 전문가</div>")
-    gr.Markdown("언어 치료에 대한 고민을 상담해줍니다.") 
+    gr.Markdown("# 언어치료 전문가")
+    gr.Markdown("언어 치료에 대한 고민을 상담해줍니다.")
+
     chatbot = gr.Chatbot(label="채팅창")
-    msg = gr.Textbox(label="입력")
-    clear = gr.Button("초기화")
+    message = gr.Textbox(label="입력")
+    clear_button = gr.Button("초기화")
 
-    msg.submit(respond, [msg, chatbot], [msg, chatbot])
-    # chatbot 상태 초기화 및 새로운 세션 시작
-    clear.click(clear_chat, outputs=[chatbot], queue=False) 
+    message.submit(respond, [message, chatbot], [chatbot])  # chatbot 만 업데이트
+    clear_button.click(clear_chat, outputs=[chatbot])
 
 demo.launch()