Update app.py

app.py

@@ -3,50 +3,70 @@ from transformers import pipeline
 from langchain_community.llms import HuggingFacePipeline
 from langchain_community.embeddings import HuggingFaceEmbeddings
 from langchain_community.vectorstores import FAISS
-from langchain_community.document_loaders import PyPDFLoader
+from langchain_community.document_loaders import PyMuPDFLoader
 from langchain.text_splitter import RecursiveCharacterTextSplitter
 from langchain.chains import ConversationalRetrievalChain
 from langchain.memory import ConversationBufferMemory
+from langchain.prompts import PromptTemplate
 
-# Carrega modelo FLAN Alpaca via HuggingFace pipeline
+# ⚙️ Modelo mais robusto para Spaces com GPU (pode mudar para mistralai/Mistral-7B-Instruct ou zephyr-7b-beta)
 pipe = pipeline(
     "text2text-generation",
-    model="declare-lab/flan-alpaca-base",
-    max_new_tokens=100,
-    truncation=True,
-    max_length=512,
+    model="mistralai/Mistral-7B-Instruct",
+    max_new_tokens=1024,
+    do_sample=True,
+    temperature=0.3,
+    repetition_penalty=1.1
 )
 llm = HuggingFacePipeline(pipeline=pipe)
 
-# Memória com histórico limitado
+# 🧠 Memória de curto prazo para manter conversas coerentes
 memory = ConversationBufferMemory(memory_key="chat_history", return_messages=True, k=3)
 
-# Carrega PDF fixo e gera vetor
+# 📄 Carrega e processa documento PDF fixo
 def carregar_documento_pdf(path):
-    loader = PyPDFLoader(path)
+    loader = PyMuPDFLoader(path)
     documentos = loader.load()
-    splitter = RecursiveCharacterTextSplitter(chunk_size=500, chunk_overlap=100)
+    splitter = RecursiveCharacterTextSplitter(
+        chunk_size=1000,
+        chunk_overlap=200,
+        separators=["\n\n", "\n", ".", " "]
+    )
     documentos_divididos = splitter.split_documents(documentos)
     embeddings = HuggingFaceEmbeddings()
     vectorstore = FAISS.from_documents(documentos_divididos, embeddings)
     return vectorstore
 
-# Indexa documento PDF local
+# 🧠 Indexa documento uma única vez
 vectorstore = carregar_documento_pdf("meu_documento.pdf")
 
-# Cadeia com recuperação e memória
+# 🧾 Prompt personalizado (importante para coerência com documento)
+custom_prompt = PromptTemplate.from_template("""
+Você é um assistente especializado em responder perguntas com base no conteúdo abaixo.
+
+Use **apenas** essas informações. Se não souber, diga "Não sei com base no documento fornecido".
+
+Contexto:
+{context}
+
+Pergunta:
+{question}
+""")
+
+# 🔁 Cria a cadeia de RAG com prompt e memória
 chat_chain = ConversationalRetrievalChain.from_llm(
     llm=llm,
-    retriever=vectorstore.as_retriever(),
+    retriever=vectorstore.as_retriever(search_kwargs={"k": 4}),
     memory=memory,
+    combine_docs_chain_kwargs={"prompt": custom_prompt}
 )
 
-# Interface Gradio
+# 💬 Interface Gradio
 with gr.Blocks() as demo:
-    gr.Markdown("## 🤖 Chat com Documento PDF (FLAN Alpaca)")
+    gr.Markdown("## 📄💬 Chat com Documento PDF (Mistral-7B + RAG)")
 
-    chatbot = gr.Chatbot(label="Chat com Documento")
-    entrada = gr.Textbox(placeholder="Digite sua pergunta e aperte Enter", show_label=False)
+    chatbot = gr.Chatbot(label="Chat com Documento PDF")
+    entrada = gr.Textbox(placeholder="Digite sua pergunta e pressione Enter", show_label=False)
     estado_chat = gr.State([])
 
     def interagir(msg, history):
@@ -63,3 +83,4 @@ with gr.Blocks() as demo:
 demo.launch(server_name="0.0.0.0", server_port=7860, show_api=False)
 
 
+