File size: 3,217 Bytes
66f9450 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 | # Auditoría rigurosa de las métricas perfectas (100%)
**Estado:** conclusiones reproducibles por `scripts/audit_perfect_metrics.py` y `tests/test_metrics_audit.py`.
## Pregunta
¿Por qué PI-HGAT-T y el MLP alcanzan accuracy / macro-F1 / F1 por clase = **1.0000** bajo leave-one-triad-out?
## Hallazgos
### 1. Independencia train/test: correcta a nivel de tríada
La partición leave-one-triad-out garantiza que **ninguna pareja** cuya `triad_index` es la held-out aparece en el conjunto de entrenamiento. No hay fuga de identidad de nodo ni de índice de tríada: el modelo solo recibe one-hot de fase y posición.
### 2. Las etiquetas son una función determinista de (fase, posición)
Para cualquier par `(source, target)`, la etiqueta gold se obtiene **únicamente** de:
```
fase_src, pos_src, fase_tgt, pos_tgt → {none, mirrorOf, creates}
```
según las mismas reglas SHACL / `FormalRules.lean`:
- `mirrorOf` ⟺ fases opuestas ∧ `pos_tgt = 2 - pos_src`
- `creates` ⟺ fases opuestas ∧ (lateral→centro ∨ centro→lateral)
- `none` en cualquier otro caso
Esta función es **idéntica** en las 13 tríadas. Por tanto, en cada fold LOO, el 100 % de los pares de prueba tiene una clave de features ya vista en entrenamiento con la misma etiqueta.
### 3. Consecuencia: cualquier modelo que aprenda la función alcanza 1.0
| Método | Accuracy | Interpretación |
|---|---:|---|
| Reglas deterministas (oracle) | 1.0000 | Aplica la función sin aprender |
| MLP (features fase+pos) | 1.0000 | Aprende la función; generaliza por construcción |
| PI-HGAT-T (fase+pos + atención) | 1.0000 | Idem; la atención de grafo no aporta información adicional en este corpus |
| Regresión logística lineal | 0.5333 | No separa `mirrorOf` / `creates` |
| Ablación sin fase | 0.6000 | Rompe la función determinista |
| Ablación sin posición | ~0.64 | Idem |
### 4. ¿Se necesita una arquitectura compleja?
**No para este corpus sintético.** El oracle y el MLP bastan. PI-HGAT-T demuestra *recuperabilidad estructural* y sirve de referencia para extensiones (ruido, features adicionales, dominios externos), pero el 100 % no justifica por sí solo la complejidad del modelo sobre datos generados por las mismas reglas que se evalúan.
## Delimitación epistemológica
| Afirmación legítima | Afirmación no legítima |
|---|---|
| «Las relaciones generadas por reglas son recuperables al 100 % a partir de fase y posición bajo LOO.» | «El marco está validado empíricamente en el mundo real.» |
| «La ontología es aprendible a partir de rasgos estructurales mínimos.» | «PI-HGAT-T supera a baselines en datos independientes del generador.» |
| «Las ablaciones cuantifican la contribución de fase y posición.» | «El 100 % demuestra robustez frente a ruido del mundo real.» |
La prueba de validez semántica del marco sobre datos **no** derivados de las reglas exige anotación humana ciega (`datasets/independent_eval/`) o candidatos externos (`datasets/external_eval/`).
## Cómo reproducir la auditoría
```bash
python scripts/audit_perfect_metrics.py
python -m unittest tests.test_metrics_audit -v
```
Artefacto: `experiments/results/perfect_metrics_audit.json`.
|