Clarify archived and verified A-B benchmark results
Browse files
README.md
CHANGED
|
@@ -75,18 +75,35 @@ Per valutare in modo rigoroso, indipendente e scientificamente riproducibile le
|
|
| 75 |
- **Sentinel R-08 (v7 Pyramid):** **Soli 2 strati di attenzione densa** assistiti da 3 geosfere triangolari a 80 facce e centro piramidale a 1-hop.
|
| 76 |
|
| 77 |
|
| 78 |
-
## 📊 Benchmark Comparativi A/B (
|
| 79 |
|
| 80 |
-
|
|
|
|
|
|
|
| 81 |
| :--- | :---: | :---: | :---: | :---: | :---: | :---: |
|
| 82 |
-
|
|
| 83 |
-
|
|
| 84 |
-
|
|
| 85 |
-
|
|
| 86 |
-
|
|
| 87 |
-
|
|
| 88 |
-
|
|
| 89 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 90 |
|
| 91 |
|
| 92 |
## 📈 Grafici Lineari di Efficienza Hardware & Token
|
|
@@ -100,11 +117,8 @@ Per valutare in modo rigoroso, indipendente e scientificamente riproducibile le
|
|
| 100 |
|
| 101 |
## 🔬 Considerazioni e Riscontri Scientifici
|
| 102 |
|
| 103 |
-
1. **
|
| 104 |
-
|
| 105 |
-
- Tuttavia, questo comporta un'impronta di memoria **KV-Cache 7 volte maggiore** (5.6 MB vs 0.8 MB per sequenza).
|
| 106 |
-
2. **Efficienza Geodetica di R-08:**
|
| 107 |
-
- Sentinel R-08 raggiunge l'**80.95%** su BLiMP-IT eliminando l'85.7% dell'attenzione densa e sostituendola con il routing sferico triangolare a 80 facce, dimostrando un'efficienza ideale per Edge AI e dispositivi embedded a batteria.
|
| 108 |
|
| 109 |
|
| 110 |
## 🚀 Utilizzo Rapido (Inference Quickstart)
|
|
|
|
| 75 |
- **Sentinel R-08 (v7 Pyramid):** **Soli 2 strati di attenzione densa** assistiti da 3 geosfere triangolari a 80 facce e centro piramidale a 1-hop.
|
| 76 |
|
| 77 |
|
| 78 |
+
## ~~📊 Benchmark Comparativi A/B (archivio)~~
|
| 79 |
|
| 80 |
+
> La tabella seguente è mantenuta per trasparenza, ma è **superata**: mescolava checkpoint a `185k` e `10k` step, chiamava “A/B” condizioni non omogenee e trattava come misure di laboratorio throughput MPS e memoria KV che non erano misure complete e comparabili. I valori storici sono quindi barrati e non vanno usati per dichiarare un vincitore architetturale.
|
| 81 |
+
|
| 82 |
+
| Metrica di Laboratorio | Sentinel R08 (v7) | R-08 v7.2 | R-08 v7.2a | Transformer (185k Pre) | Transformer (10k Mid) | Lettura storica ritirata |
|
| 83 |
| :--- | :---: | :---: | :---: | :---: | :---: | :---: |
|
| 84 |
+
| Parametri Totali | ~~44.5M~~ | ~~51.6M~~ | ~~51.6M~~ | ~~44.9M~~ | ~~44.9M~~ | ~~Pesi equivalenti~~ |
|
| 85 |
+
| Strati di Attenzione Densa | ~~2~~ | ~~2~~ | ~~2~~ | ~~14~~ | ~~14~~ | ~~−85.7% strati densi~~ |
|
| 86 |
+
| Vocabolario Subword | ~~1.251~~ | ~~1.251~~ | ~~1.251~~ | ~~1.251~~ | ~~1.251~~ | ~~Identico~~ |
|
| 87 |
+
| BLiMP-IT | ~~80.95%~~ | ~~82.02%~~ | ~~82.51%~~ | ~~82.53%~~ | ~~85.84%~~ | ~~Vincitore R-08~~ |
|
| 88 |
+
| MultiBLiMP | ~~73.46%~~ | ~~73.46%~~ | ~~76.71%~~ | ~~85.15%~~ | ~~86.83%~~ | ~~Base logica~~ |
|
| 89 |
+
| Zero-shot | ~~62.5%~~ | ~~56.2%~~ | ~~56.2%~~ | ~~56.2%~~ | ~~68.8%~~ | ~~Nessuna allucinazione~~ |
|
| 90 |
+
| Throughput training MPS | ~~10,150 tok/s~~ | ~~7,200 tok/s~~ | ~~7,694 tok/s~~ | ~~8,650 tok/s~~ | ~~8,650 tok/s~~ | ~~Efficienza computazionale~~ |
|
| 91 |
+
| KV-cache a 512 token | ~~0.8 MB~~ | ~~0.8 MB~~ | ~~0.8 MB~~ | ~~5.6 MB~~ | ~~5.6 MB~~ | ~~−85.7% traffico RAM~~ |
|
| 92 |
+
|
| 93 |
+
## 📊 Confronto aggiornato — checkpoint documentati
|
| 94 |
+
|
| 95 |
+
> **Protocollo e limiti.** I quattro checkpoint qui sotto usano il vocabolario da 1.251 pezzi e sono valutazioni post-midtrain a 10k step riportate nei rispettivi `summary.json`. BLiMP-IT conta 3.481 coppie e MultiBLiMP-ITA 2.916. Il confronto descrive questi checkpoint, **non dimostra** che una topologia sia la causa del risultato: le ricette e le storie di addestramento restano specifiche di ciascuna release.
|
| 96 |
+
|
| 97 |
+
| Metrica verificata | Sentinel R-08 v7 | Sentinel R-08 v7.2 | Sentinel R-08 v7.2a | Transformer Baseline | Lettura corretta |
|
| 98 |
+
| :--- | :---: | :---: | :---: | :---: | :--- |
|
| 99 |
+
| Parametri dichiarati | 44.6M | 51.6M | 51.6M | 44.906M | Architetture di scala simile, non identiche |
|
| 100 |
+
| Strati di attenzione densa | 2 | 2 | 2 | 14 | Differenza strutturale, non una misura di qualità |
|
| 101 |
+
| Vocabolario | 1.251 pezzi | 1.251 pezzi | 1.251 pezzi | 1.251 pezzi | Uguale vocabolario |
|
| 102 |
+
| BLiMP-IT (3.481 coppie) | 80.95% | 82.02% | 82.51% | **85.84%** | Il Transformer è avanti di 3.33 punti sul miglior R-08 |
|
| 103 |
+
| MultiBLiMP-ITA (2.916 coppie) | 73.46% | 73.46% | 76.71% | **86.83%** | Il Transformer è avanti di 10.12 punti sul miglior R-08 |
|
| 104 |
+
| Risposte zero-shot (16 domande) | 10/16 | 9/16 | 9/16 | 11/16 | Campione troppo piccolo: nessuna classifica o affermazione sulle allucinazioni |
|
| 105 |
+
| Throughput di training MPS | n.d. | n.d. | n.d. | n.d. | Nessun test omogeneo su modello completo pubblicato: i vecchi numeri sono ritirati |
|
| 106 |
+
| KV-cache a 512 token | stima 0.8 MB | stima 0.8 MB | stima 0.8 MB | stima 5.6 MB | Stima strutturale, non RAM di picco misurata né prova di velocità/energia |
|
| 107 |
|
| 108 |
|
| 109 |
## 📈 Grafici Lineari di Efficienza Hardware & Token
|
|
|
|
| 117 |
|
| 118 |
## 🔬 Considerazioni e Riscontri Scientifici
|
| 119 |
|
| 120 |
+
1. **Risultato osservato, non causalità:** nel set documentato il Transformer ottiene `85.84%` su BLiMP-IT e `86.83%` su MultiBLiMP-ITA; il migliore R-08 è v7.2a con `82.51%` e `76.71%`. Il confronto non isola la sola architettura, quindi non attribuisce causalmente il divario agli strati densi.
|
| 121 |
+
2. **Memoria e velocità:** `0.8 MB` contro `5.6 MB` è una stima strutturale della KV-cache a 512 token. Non sostituisce una misura di RAM di picco, energia o throughput sull'intero modello; tali risultati richiedono un protocollo comune e una nuova pubblicazione.
|
|
|
|
|
|
|
|
|
|
| 122 |
|
| 123 |
|
| 124 |
## 🚀 Utilizzo Rapido (Inference Quickstart)
|