Auditoría rigurosa de las métricas perfectas (100%)
Estado: conclusiones reproducibles por scripts/audit_perfect_metrics.py y tests/test_metrics_audit.py.
Pregunta
¿Por qué PI-HGAT-T y el MLP alcanzan accuracy / macro-F1 / F1 por clase = 1.0000 bajo leave-one-triad-out?
Hallazgos
1. Independencia train/test: correcta a nivel de tríada
La partición leave-one-triad-out garantiza que ninguna pareja cuya triad_index es la held-out aparece en el conjunto de entrenamiento. No hay fuga de identidad de nodo ni de índice de tríada: el modelo solo recibe one-hot de fase y posición.
2. Las etiquetas son una función determinista de (fase, posición)
Para cualquier par (source, target), la etiqueta gold se obtiene únicamente de:
fase_src, pos_src, fase_tgt, pos_tgt → {none, mirrorOf, creates}
según las mismas reglas SHACL / FormalRules.lean:
mirrorOf⟺ fases opuestas ∧pos_tgt = 2 - pos_srccreates⟺ fases opuestas ∧ (lateral→centro ∨ centro→lateral)noneen cualquier otro caso
Esta función es idéntica en las 13 tríadas. Por tanto, en cada fold LOO, el 100 % de los pares de prueba tiene una clave de features ya vista en entrenamiento con la misma etiqueta.
3. Consecuencia: cualquier modelo que aprenda la función alcanza 1.0
| Método | Accuracy | Interpretación |
|---|---|---|
| Reglas deterministas (oracle) | 1.0000 | Aplica la función sin aprender |
| MLP (features fase+pos) | 1.0000 | Aprende la función; generaliza por construcción |
| PI-HGAT-T (fase+pos + atención) | 1.0000 | Idem; la atención de grafo no aporta información adicional en este corpus |
| Regresión logística lineal | 0.5333 | No separa mirrorOf / creates |
| Ablación sin fase | 0.6000 | Rompe la función determinista |
| Ablación sin posición | ~0.64 | Idem |
4. ¿Se necesita una arquitectura compleja?
No para este corpus sintético. El oracle y el MLP bastan. PI-HGAT-T demuestra recuperabilidad estructural y sirve de referencia para extensiones (ruido, features adicionales, dominios externos), pero el 100 % no justifica por sí solo la complejidad del modelo sobre datos generados por las mismas reglas que se evalúan.
Delimitación epistemológica
| Afirmación legítima | Afirmación no legítima |
|---|---|
| «Las relaciones generadas por reglas son recuperables al 100 % a partir de fase y posición bajo LOO.» | «El marco está validado empíricamente en el mundo real.» |
| «La ontología es aprendible a partir de rasgos estructurales mínimos.» | «PI-HGAT-T supera a baselines en datos independientes del generador.» |
| «Las ablaciones cuantifican la contribución de fase y posición.» | «El 100 % demuestra robustez frente a ruido del mundo real.» |
La prueba de validez semántica del marco sobre datos no derivados de las reglas exige anotación humana ciega (datasets/independent_eval/) o candidatos externos (datasets/external_eval/).
Cómo reproducir la auditoría
python scripts/audit_perfect_metrics.py
python -m unittest tests.test_metrics_audit -v
Artefacto: experiments/results/perfect_metrics_audit.json.