Spaces:
Running
Running
Dus Tran commited on
Commit ·
463f005
1
Parent(s): 0bbf4ee
feat(rag): enable rerank model on render
Browse files- app/service/retriever.py +0 -4
app/service/retriever.py
CHANGED
|
@@ -60,10 +60,6 @@ def apply_post_retrieval_rerank(user_query: str, retrieved_texts: str, top_n: in
|
|
| 60 |
if not doc_list:
|
| 61 |
return "Không tìm thấy ngữ cảnh phù hợp."
|
| 62 |
|
| 63 |
-
if IS_RENDER:
|
| 64 |
-
# Bỏ qua CrossEncoder khi chạy trên Render để tránh tràn bộ nhớ (Free tier 512MB RAM)
|
| 65 |
-
return "\n\n---\n\n".join(doc_list[:top_n])
|
| 66 |
-
|
| 67 |
rerank_model = get_rerank_model()
|
| 68 |
pairs = [[user_query, doc] for doc in doc_list]
|
| 69 |
scores = rerank_model.predict(pairs)
|
|
|
|
| 60 |
if not doc_list:
|
| 61 |
return "Không tìm thấy ngữ cảnh phù hợp."
|
| 62 |
|
|
|
|
|
|
|
|
|
|
|
|
|
| 63 |
rerank_model = get_rerank_model()
|
| 64 |
pairs = [[user_query, doc] for doc in doc_list]
|
| 65 |
scores = rerank_model.predict(pairs)
|