Guía Didáctica: Validación Semántica y Protocolos Experimentales Ciegos en el Marco I.O.
1. ¿Cómo probamos que el significado es real?
Un sistema internamente consistente no es automáticamente semánticamente válido. La validez semántica exige evaluadores humanos externos. La pregunta que guía la investigación:
¿Pueden anotadores independientes, ciegos a las reglas, etiquetar relaciones semánticas sobre pares reales/nuevos/ambiguos?
Las cinco perspectivas (Individualidad, Dualidad, Totalidad, Evolución, Involución) y las relaciones mirrorOf / creates se someten a ese examen de interpretabilidad real.
2. Protocolo Experimental Ciego (EXP-A)
| Enfoque | Qué demuestra |
|---|---|
| Validación sintética / interna | Solo que el algoritmo recupera reglas que él mismo generó |
| Validación semántica independiente (EXP-A) | Que humanos externos interpretan la estructura de forma medible y libre de sesgo |
Características esenciales:
- Ceguera de reglas — sin acceso a la especificación formal.
- Muestreo de frontera — pares reales, nuevos (NC) y ambiguos (AM).
- Anotación de relaciones —
mirrorOf,creates,none,unsure.
Runner: scripts/score_independent_eval.py --annotations datasets/independent_eval/annotations.json.
3. Fleiss' κ
κ = 0.6871 sobre 14 pares — acuerdo moderado-sustancial (rango 0.61–0.80).
| Rango κ | Interpretación |
|---|---|
| ≤ 0.00 | No mejor que el azar |
| 0.41–0.60 | Moderado |
| 0.61–0.80 | Moderado-sustancial |
| 0.81–1.00 | Casi perfecto |
Es una demostración provisional acotada a la muestra, no una prueba universal.
4. Anatomía de Resultados EXP-A
| Criterio | Valor |
|---|---|
| Muestra | 14 pares |
| Unánimes | 10/14 |
| Desacuerdos | NC01, NC02, AM01, AM03 |
- NC (New Concepts): términos fuera del corpus habitual → fronteras de generalización.
- AM (Ambiguous): polisemia intencional → flexibilidad natural de la interpretación humana.
El desacuerdo en NC/AM es prueba de autenticidad del experimento, no fallo del núcleo.
5. Integración EXP-A a EXP-E
| ID | Capa | Runner | Rol |
|---|---|---|---|
| EXP-A | Semántica empírica | scripts/score_independent_eval.py |
Única evidencia de validez real |
| EXP-B | Formal | lake build |
Prerrequisito lógico |
| EXP-C | Estructural | scripts/validate_shacl.py |
Prerrequisito de forma |
| EXP-D | Diagnóstico sintético | experiments/pi_hgat_t.py |
No mide validez real |
| EXP-E | Mapeo empírico | experiments/domain_mapping/validate_examples.py |
8 pares bio/econ → 13 tríadas |
Jerarquía: Lean/SHACL son prerrequisitos técnicos; solo EXP-A aporta evidencia empírica de significado interpretable.
6. Takeaways
- Consistencia sintética ≠ validez semántica.
- El protocolo ciego elimina el sesgo de confirmación del autor.
- Fleiss' κ corrige por azar; 0.6871 certifica acuerdo moderado-sustancial en la muestra evaluada.