# Guía Didáctica: Validación Semántica y Protocolos Experimentales Ciegos en el Marco I.O. ## 1. ¿Cómo probamos que el significado es real? Un sistema internamente consistente **no** es automáticamente semánticamente válido. La validez semántica exige evaluadores humanos externos. La pregunta que guía la investigación: > ¿Pueden anotadores independientes, ciegos a las reglas, etiquetar relaciones semánticas sobre pares reales/nuevos/ambiguos? Las cinco perspectivas (Individualidad, Dualidad, Totalidad, Evolución, Involución) y las relaciones `mirrorOf` / `creates` se someten a ese examen de interpretabilidad real. --- ## 2. Protocolo Experimental Ciego (EXP-A) | Enfoque | Qué demuestra | |---|---| | Validación sintética / interna | Solo que el algoritmo recupera reglas que él mismo generó | | **Validación semántica independiente (EXP-A)** | Que humanos externos interpretan la estructura de forma medible y libre de sesgo | Características esenciales: 1. **Ceguera de reglas** — sin acceso a la especificación formal. 2. **Muestreo de frontera** — pares reales, nuevos (NC) y ambiguos (AM). 3. **Anotación de relaciones** — `mirrorOf`, `creates`, `none`, `unsure`. Runner: `scripts/score_independent_eval.py --annotations datasets/independent_eval/annotations.json`. --- ## 3. Fleiss' κ **κ = 0.6871** sobre 14 pares — acuerdo **moderado-sustancial** (rango 0.61–0.80). | Rango κ | Interpretación | |---|---| | ≤ 0.00 | No mejor que el azar | | 0.41–0.60 | Moderado | | **0.61–0.80** | **Moderado-sustancial** | | 0.81–1.00 | Casi perfecto | Es una **demostración provisional** acotada a la muestra, no una prueba universal. --- ## 4. Anatomía de Resultados EXP-A | Criterio | Valor | |---|---:| | Muestra | 14 pares | | Unánimes | 10/14 | | Desacuerdos | NC01, NC02, AM01, AM03 | - **NC** (New Concepts): términos fuera del corpus habitual → fronteras de generalización. - **AM** (Ambiguous): polisemia intencional → flexibilidad natural de la interpretación humana. El desacuerdo en NC/AM es **prueba de autenticidad** del experimento, no fallo del núcleo. --- ## 5. Integración EXP-A a EXP-E | ID | Capa | Runner | Rol | |---|---|---|---| | EXP-A | Semántica empírica | `scripts/score_independent_eval.py` | Única evidencia de validez real | | EXP-B | Formal | `lake build` | Prerrequisito lógico | | EXP-C | Estructural | `scripts/validate_shacl.py` | Prerrequisito de forma | | EXP-D | Diagnóstico sintético | `experiments/pi_hgat_t.py` | **No** mide validez real | | EXP-E | Mapeo empírico | `experiments/domain_mapping/validate_examples.py` | 8 pares bio/econ → 13 tríadas | Jerarquía: Lean/SHACL son prerrequisitos técnicos; solo EXP-A aporta evidencia empírica de significado interpretable. --- ## 6. Takeaways 1. Consistencia sintética ≠ validez semántica. 2. El protocolo ciego elimina el sesgo de confirmación del autor. 3. Fleiss' κ corrige por azar; 0.6871 certifica acuerdo moderado-sustancial en la muestra evaluada.