ranzouu/anomaly-detection-benchmark

Anomaly Detection Benchmark — receita diária (ground truth por construção)

Benchmark para detecção de anomalias em séries temporais de métricas de negócio, com rótulo perfeito por construção: a série é sintética (seed fixa) e as anomalias são injetadas em datas conhecidas. Inclui as predições de três detectores estatísticos clássicos (z-score, IQR, STL) já avaliadas contra o rótulo.

Faz parte do LeadForge Anomaly Detector — código, CLI e testes no repositório.

Protocolo de construção

1. Série sintética determinística (seed=20260101): 180 dias de receita diária a partir de R$ 120 mil, com tendência linear suave, sazonalidade semanal (fim de semana mais fraco) e ruído multiplicativo (σ = 2.5%).
2. Injeção de anomalias: 12 eventos em datas conhecidas — 6 spikes (×2.3 a ×3.2) e 6 quedas (×0.58 a ×0.75). O rótulo é a data de injeção: ground truth exato, sem ambiguidade.
3. Detectores do pacote original (nenhuma lógica duplicada no script de construção): z-score (threshold 3), IQR (k = 1.5), STL (período 7, robusto, z-score modificado 3).
4. Avaliação: precision / recall / F1 por método, por tipo (spike vs. queda) e por banda de magnitude.

Resultados

Método	Precision	Recall	F1	Leitura
z-score	1.000	0.500	0.667	pega todos os spikes (6/6) e nenhuma queda (0/6)
IQR	1.000	0.750	0.857	melhor F1, zero falso positivo; perde quedas brandas
STL	0.550	1.000	0.714	detecta as 12, ao custo de 10 falsos positivos

Por tipo (detection rate): spikes 6/6 nos três métodos; quedas: IQR 3/6, STL 6/6, z-score 0/6.

Achado: detecção de queda é o problema difícil neste regime. Uma queda comprime a média e o desvio da janela, então o próprio desvio anômalo entra no denominador do z-score e o evento desaparece — daí o 0/6. Spike não sofre esse efeito (infla o desvio, mas o ponto sai da banda). Baldes de magnitude são definidos por tipo (spike ×2.0–2.5 vs. queda ×0.65–0.75) porque os fatores não comparam na mesma escala.

Por banda de magnitude (detection rate):

Método	spike 2.0–2.5×	spike 2.5–3.0×	spike >3.0×	queda 0.65–0.75	queda <0.65
z-score	2/2	3/3	1/1	0/4	0/2
IQR	2/2	3/3	1/1	1/4	2/2
STL	2/2	3/3	1/1	4/4	2/2

Uso

import json, pandas as pd

serie = pd.DataFrame(json.load(open("benchmark_metrics.json")))
rotulos = pd.DataFrame(json.load(open("benchmark_expected.json")))
records = pd.read_csv("runs/benchmark_records.csv")   # 540 linhas: 3 métodos × 180 pontos

print(rotulos.head())
print(records.groupby("method")[["predicted"]].sum())

Reproduzir tudo (série + detecção + métricas) com o pacote original:

git clone https://github.com/ranzouu/leadforge-anomaly-detector
cd leadforge-anomaly-detector && pip install -e .
python3 scripts/build_benchmark.py

Arquivos

Arquivo	Conteúdo
benchmark_metrics.json	série sintética: 180 pontos {date, metric="revenue", value}
benchmark_expected.json	12 rótulos {date, metric, is_anomaly, type, magnitude, factor}
runs/benchmark_records.csv	predição por ponto × método vs. rótulo (540 linhas)
runs/benchmark_summary.csv	tp/fp/fn + precision/recall/F1 por método
runs/benchmark_by_type.csv	detection rate por método × tipo
runs/benchmark_by_magnitude.csv	detection rate por método × banda
scripts/build_benchmark.py	construtor do benchmark (série + injeção + avaliação)
LICENSE	MIT

Limitações (leia antes de usar)

• Série sintética de um único trimestre e uma única métrica (receita). O valor aqui é o protocolo — construção de ground truth por injeção + comparação cega de métodos — não a configuração específica.
• Números de precision/recall são deste regime (sazonalidade semanal, σ=2.5%, magnitudes ×2–3). Em produção, com dados reais, os thresholds dos métodos precisam de recalibração.
• STL exige ≥ 12 pontos por série (período 7); em séries curtas ele degrada para "não detecta".
• O dataset de exemplo original do repo (25 pontos, 2 rótulos, receita de demonstração) não é este benchmark — os dois coexistem no repositório.