Dus Tran commited on
Commit
463f005
·
1 Parent(s): 0bbf4ee

feat(rag): enable rerank model on render

Browse files
Files changed (1) hide show
  1. app/service/retriever.py +0 -4
app/service/retriever.py CHANGED
@@ -60,10 +60,6 @@ def apply_post_retrieval_rerank(user_query: str, retrieved_texts: str, top_n: in
60
  if not doc_list:
61
  return "Không tìm thấy ngữ cảnh phù hợp."
62
 
63
- if IS_RENDER:
64
- # Bỏ qua CrossEncoder khi chạy trên Render để tránh tràn bộ nhớ (Free tier 512MB RAM)
65
- return "\n\n---\n\n".join(doc_list[:top_n])
66
-
67
  rerank_model = get_rerank_model()
68
  pairs = [[user_query, doc] for doc in doc_list]
69
  scores = rerank_model.predict(pairs)
 
60
  if not doc_list:
61
  return "Không tìm thấy ngữ cảnh phù hợp."
62
 
 
 
 
 
63
  rerank_model = get_rerank_model()
64
  pairs = [[user_query, doc] for doc in doc_list]
65
  scores = rerank_model.predict(pairs)