fast_api_chat

.env

@@ -0,0 +1,10 @@
+# Configuration Weaviate
+WEAVIATE_URL=http://127.0.0.1:8080
+WEAVIATE_PORT=50051
+
+# Configuration OpenAI
+OPENAI_API_KEY=your-openai-api-key
+
+# Configuration de l'API
+API_HOST=0.0.0.0
+API_PORT=8000 

Dockerfile

@@ -0,0 +1,25 @@
+# Utilisation d'une image Python officielle
+FROM python:3.10-slim
+
+# Définition du répertoire de travail
+WORKDIR /app
+
+# Installation des dépendances système
+RUN apt-get update && apt-get install -y \
+    build-essential \
+    && rm -rf /var/lib/apt/lists/*
+
+# Copie des fichiers de dépendances
+COPY requirements.txt .
+
+# Installation des dépendances Python
+RUN pip install --no-cache-dir -r requirements.txt
+
+# Copie du code source
+COPY . .
+
+# Exposition du port
+EXPOSE 8000
+
+# Commande de démarrage
+CMD ["uvicorn", "main:app", "--host", "0.0.0.0", "--port", "8000"] 

main.py

@@ -0,0 +1,162 @@
+from fastapi import FastAPI, HTTPException
+from fastapi.middleware.cors import CORSMiddleware
+from pydantic import BaseModel
+from typing import List, Optional
+import os
+from weaviate.connect import ConnectionParams
+from weaviate import WeaviateClient
+from langchain_huggingface import HuggingFaceEmbeddings
+from langchain_weaviate import WeaviateVectorStore
+from langchain_openai import ChatOpenAI
+from langchain.chains.conversational_retrieval.base import ConversationalRetrievalChain
+from langchain.memory import ConversationBufferMemory
+from langchain.prompts import PromptTemplate
+import time
+from threading import Lock
+
+app = FastAPI(
+    title="Vitizen Chat API",
+    description="API pour le chat RAG avec Weaviate",
+    version="1.0.0"
+)
+
+# Configuration CORS
+app.add_middleware(
+    CORSMiddleware,
+    allow_origins=["*"],
+    allow_credentials=True,
+    allow_methods=["*"],
+    allow_headers=["*"],
+)
+
+# Configuration du rate limiting
+RATE_LIMIT = 3
+RATE_WINDOW = 1
+last_request_time = 0
+request_lock = Lock()
+
+def wait_for_rate_limit():
+    global last_request_time
+    with request_lock:
+        current_time = time.time()
+        time_since_last_request = current_time - last_request_time
+        if time_since_last_request < RATE_WINDOW / RATE_LIMIT:
+            sleep_time = (RATE_WINDOW / RATE_LIMIT) - time_since_last_request
+            time.sleep(sleep_time)
+        last_request_time = time.time()
+
+class RateLimitedChatOpenAI(ChatOpenAI):
+    def _call(self, *args, **kwargs):
+        wait_for_rate_limit()
+        return super()._call(*args, **kwargs)
+
+# Modèles Pydantic
+class ChatRequest(BaseModel):
+    question: str
+    history: Optional[List[dict]] = []
+
+class ChatResponse(BaseModel):
+    answer: str
+
+# Configuration Weaviate
+def setup_weaviate():
+    client = WeaviateClient(
+        connection_params=ConnectionParams.from_url(
+            os.getenv("WEAVIATE_URL", "http://127.0.0.1:8080"),
+            int(os.getenv("WEAVIATE_PORT", "50051"))
+        )
+    )
+    client.connect()
+    return client
+
+# Configuration du RAG
+def setup_rag_chain():
+    client = setup_weaviate()
+    
+    embeddings = HuggingFaceEmbeddings(
+        model_name="sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2",
+        model_kwargs={'device': 'cpu'},
+        encode_kwargs={'normalize_embeddings': True}
+    )
+    
+    vectorstore = WeaviateVectorStore(
+        client=client,
+        embedding=embeddings,
+        index_name="Document",
+        text_key="text"
+    )
+    
+    llm = RateLimitedChatOpenAI(
+        openai_api_key=os.getenv("OPENAI_API_KEY"),
+        model_name="gpt-4-turbo-preview",
+        temperature=0,
+        streaming=True
+    )
+    
+    memory = ConversationBufferMemory(
+        memory_key="chat_history",
+        return_messages=True,
+        output_key="answer"
+    )
+    
+    retriever = vectorstore.as_retriever(
+        search_type="similarity",
+        search_kwargs={"k": 30}
+    )
+
+    # Création du prompt personnalisé
+    prompt = PromptTemplate(
+        template="""Tu es un assistant expert en pulvérisation viticole et produits phytosanitaires. 
+        Tu as une expertise approfondie dans :
+        - Les différents types de pulvérisateurs et leurs caractéristiques techniques
+        - Les produits phytosanitaires et leurs utilisations
+        - Les bonnes pratiques de pulvérisation
+        - La réglementation en matière de phytosanitaires
+        - La protection de l'environnement et la sécurité
+
+        Utilise les informations suivantes pour répondre à la question de l'utilisateur.
+        Si tu ne connais pas la réponse, dis-le simplement. N'invente pas d'informations.
+
+        Contexte:
+        {context}
+
+        Question: {question}
+
+        Réponse:""",
+        input_variables=["context", "question"]
+    )
+    
+    return ConversationalRetrievalChain.from_llm(
+        llm=llm,
+        retriever=retriever,
+        memory=memory,
+        combine_docs_chain_kwargs={"prompt": prompt},
+        return_source_documents=True,
+        return_generated_question=True,
+        output_key="answer"
+    )
+
+# Initialisation du RAG
+qa_chain = setup_rag_chain()
+
+@app.post("/chat", response_model=ChatResponse)
+async def chat(request: ChatRequest):
+    try:
+        response = qa_chain.invoke({
+            "question": request.question,
+            "chat_history": request.history
+        })
+        
+        return ChatResponse(
+            answer=response["answer"]
+        )
+    except Exception as e:
+        raise HTTPException(status_code=500, detail=str(e))
+
+@app.get("/health")
+async def health_check():
+    return {"status": "healthy"}
+
+if __name__ == "__main__":
+    import uvicorn
+    uvicorn.run(app, host="0.0.0.0", port=8000) 

requirements.txt

@@ -0,0 +1,10 @@
+fastapi==0.104.1
+uvicorn==0.24.0
+pydantic==2.4.2
+weaviate-client==3.24.1
+langchain==0.0.335
+langchain-openai==0.0.2
+langchain-huggingface==0.0.5
+langchain-weaviate==0.0.1
+sentence-transformers==2.2.2
+python-dotenv==1.0.0