ranzouu/retrieval-benchmark-ptbr

Retrieval Benchmark PT-BR — políticas de prospecção (RAG)

Benchmark de retrieval em português com julgamentos explícitos: 25 queries, cada uma com uma política relevante identificada (expected_policy_id), contra um corpus de 10 documentos. Inclui as predições e métricas de um retriever lexical (TF-IDF de overlap de termos, top-3) já avaliado contra os julgamentos.

Faz parte do LeadForge RAG Lite — pipeline completo (ingestão → retrieval → geração → avaliação) no repositório.

Protocolo

1. Corpus: 10 políticas de prospecção por nicho (academia, petshop, restaurante, barbearia, clínica veterinária, padaria, salão, moda, oficina, papelaria), 3–5 frases cada, PT-BR.
2. Queries: 25 prints parafraseadas — 20 dentro do cardápio do corpus e 5 fora (crossfit, food truck, dentista, ateliê, autoescola), que não deveriam ter acerto. As queries compartilham vocabulário parcial com os documentos; não são cópia — o retriever precisa generalizar, não fazer match de string.
3. Julgamento: uma política relevante por query (single-relevance), explícita no campo expected_policy_id.
4. Retriever avaliado: retrieve() do pacote original — score de overlap lexical (termos com >3 caracteres presentes no documento), top-3.

Resultados

Métrica	Valor
hit@3	21/25 = 0.84
MRR@3 (todas as queries)	0.793
MRR@3 (condicional aos hits)	0.944

• Dentro do corpus: 20/20 em hit@3.
• Fora do corpus: 1/5 (a query de crossfit acerta a política de academia por sobreposição lexical de "treino/aula" — acidente de vocabulário, não acerto semântico).
• Por nicho, ver runs/benchmark_by_niche.csv. Destaque honesto: uma query de restaurante coloca o documento correto só no rank 3 (MRR do nicho 0.42) — o ranking lexical acerta o nicho e é instável em ordenar dentro dele.

Uso

import json, pandas as pd

corpus = pd.DataFrame(json.load(open("benchmark_policies.json")))
queries = pd.DataFrame(json.load(open("benchmark_queries.json")))
runs = pd.read_csv("runs/benchmark_runs.csv")
errors = pd.read_csv("runs/benchmark_errors.csv")

print(runs[["query_id", "expected_policy_id", "retrieved_1", "hit_at_3"]].head())
print(f"hit@3 = {runs['hit_at_3'].mean():.2%}")

Reproduzir com o pacote original:

git clone https://github.com/ranzouu/leadforge-rag-lite
cd leadforge-rag-lite && pip install -e .
python3 scripts/build_retrieval_benchmark.py

Arquivos

Arquivo	Conteúdo
benchmark_policies.json	corpus: 10 políticas {id, niche, title, content}
benchmark_queries.json	25 queries com julgamento expected_policy_id
runs/benchmark_runs.csv	por query: top-3 recuperado, scores, hit@3, rank, MRR@3
runs/benchmark_errors.csv	as queries que falharam e o que veio no lugar
runs/benchmark_summary.csv	hit@3 e MRR@3 agregados
runs/benchmark_by_niche.csv	métricas por nicho
scripts/build_retrieval_benchmark.py	construtor (corpus + queries + avaliação)
LICENSE	MIT

Limitações (leia antes de usar)

• Retrieval lexical por design (overlap de termos). As falhas nas queries fora do corpus são a limitação conhecida desse método — semântica exige embeddings/LLM, que é o próximo passo natural, não um defeito do benchmark.
• Julgamento único por query (uma política relevante). Benchmarks de IR completos usam relevância graduada (0–3) e múltiplos relevantes por query — aqui o escopo é demonstrar o protocolo de medição.
• Corpus pequeno (10 documentos) e de domínio específico (prospecção SMB PT-BR). Os números valem para este protocolo, não como ranking geral de retrievers.
• As queries fora do corpus estão rotuladas com a política "mais próxima" apenas para inspeção dos erros; o acerto nelas não conta como sucesso semântico.