# Auditoría rigurosa de las métricas perfectas (100%) **Estado:** conclusiones reproducibles por `scripts/audit_perfect_metrics.py` y `tests/test_metrics_audit.py`. ## Pregunta ¿Por qué PI-HGAT-T y el MLP alcanzan accuracy / macro-F1 / F1 por clase = **1.0000** bajo leave-one-triad-out? ## Hallazgos ### 1. Independencia train/test: correcta a nivel de tríada La partición leave-one-triad-out garantiza que **ninguna pareja** cuya `triad_index` es la held-out aparece en el conjunto de entrenamiento. No hay fuga de identidad de nodo ni de índice de tríada: el modelo solo recibe one-hot de fase y posición. ### 2. Las etiquetas son una función determinista de (fase, posición) Para cualquier par `(source, target)`, la etiqueta gold se obtiene **únicamente** de: ``` fase_src, pos_src, fase_tgt, pos_tgt → {none, mirrorOf, creates} ``` según las mismas reglas SHACL / `FormalRules.lean`: - `mirrorOf` ⟺ fases opuestas ∧ `pos_tgt = 2 - pos_src` - `creates` ⟺ fases opuestas ∧ (lateral→centro ∨ centro→lateral) - `none` en cualquier otro caso Esta función es **idéntica** en las 13 tríadas. Por tanto, en cada fold LOO, el 100 % de los pares de prueba tiene una clave de features ya vista en entrenamiento con la misma etiqueta. ### 3. Consecuencia: cualquier modelo que aprenda la función alcanza 1.0 | Método | Accuracy | Interpretación | |---|---:|---| | Reglas deterministas (oracle) | 1.0000 | Aplica la función sin aprender | | MLP (features fase+pos) | 1.0000 | Aprende la función; generaliza por construcción | | PI-HGAT-T (fase+pos + atención) | 1.0000 | Idem; la atención de grafo no aporta información adicional en este corpus | | Regresión logística lineal | 0.5333 | No separa `mirrorOf` / `creates` | | Ablación sin fase | 0.6000 | Rompe la función determinista | | Ablación sin posición | ~0.64 | Idem | ### 4. ¿Se necesita una arquitectura compleja? **No para este corpus sintético.** El oracle y el MLP bastan. PI-HGAT-T demuestra *recuperabilidad estructural* y sirve de referencia para extensiones (ruido, features adicionales, dominios externos), pero el 100 % no justifica por sí solo la complejidad del modelo sobre datos generados por las mismas reglas que se evalúan. ## Delimitación epistemológica | Afirmación legítima | Afirmación no legítima | |---|---| | «Las relaciones generadas por reglas son recuperables al 100 % a partir de fase y posición bajo LOO.» | «El marco está validado empíricamente en el mundo real.» | | «La ontología es aprendible a partir de rasgos estructurales mínimos.» | «PI-HGAT-T supera a baselines en datos independientes del generador.» | | «Las ablaciones cuantifican la contribución de fase y posición.» | «El 100 % demuestra robustez frente a ruido del mundo real.» | La prueba de validez semántica del marco sobre datos **no** derivados de las reglas exige anotación humana ciega (`datasets/independent_eval/`) o candidatos externos (`datasets/external_eval/`). ## Cómo reproducir la auditoría ```bash python scripts/audit_perfect_metrics.py python -m unittest tests.test_metrics_audit -v ``` Artefacto: `experiments/results/perfect_metrics_audit.json`.