SentinelHub commited on
Commit
aee9d9f
·
verified ·
1 Parent(s): 0726fe8

Correzioni 7/11/2026: aggiornamento tecnico e metriche hardware A6 verificate

Browse files
Files changed (1) hide show
  1. README.md +13 -9
README.md CHANGED
@@ -49,13 +49,25 @@ inference: false
49
 
50
  ---
51
 
 
 
 
 
 
 
 
 
 
 
 
 
 
52
  > ### 💼 Investment, Compute Grants & Enterprise Licensing (Investimenti & Partnership Industriali)
53
  > 🇬🇧 **Sentinel** is scaling the **Geodesic Pyramidal Sphere Architecture (`R-08`)** from 50M to **110M–1B+ parameters**, with **a patent application filed at the Italian Patent and Trademark Office (UIBM)**.
54
  > **Open to Seed / Deep-Tech Investment, GPU/TPU Compute Grants, and Enterprise R&D Partnerships.**
55
  > 🇮🇹 **Aperto a Investimenti Seed / Deep-Tech, Grant Computazionali GPU/TPU e Licenze Industriali Enterprise.**
56
  > 📩 **Contact Founder & Inventor Thomas Seri:** 🌐 **[www.sentinelhub.eu](https://www.sentinelhub.eu)** | 🐙 **[GitHub (@Thomasseri)](https://github.com/Thomasseri)** | 🤗 **[Hugging Face (@SentinelHub)](https://huggingface.co/SentinelHub)** | 💬 **[Open an Inquiry / Issue](https://github.com/Thomasseri/R-08/issues/new)**
57
 
58
- ---
59
 
60
  ## 🧭 Cos'è Sentinel LifeOS e perché nasce R08-v7.2
61
 
@@ -63,7 +75,6 @@ inference: false
63
 
64
  Per conferire a Sentinel un'intelligenza operativa autonoma capace di girare a bordo macchina o su dispositivi portatili senza dipendere da server cloud remoti, è nato **R08**. La release **v7.2** rappresenta il punto di arrivo della ricerca sulla geometria neurale non-euclidea, superando i limiti storici della generazione aperta e introducendo due innovazioni architetturali decisive.
65
 
66
- ---
67
 
68
  ## 🌟 Le Due Grandi Innovazioni di R08-v7.2
69
 
@@ -105,7 +116,6 @@ flowchart TD
105
  - **La soluzione in v7.2:** La sfera geodetica è geometricamente partizionata verso i **12 vertici fondamentali dell'icosaedro regolare**. Ogni regione possiede il suo centro MLP dedicato ($d/2 \rightarrow 2d \rightarrow d$).
106
  - **Instradamento Sparso $O(1)$:** Ciascun token viene instradato verso un unico polo regionale per volta: la capacità del modello sale da 44.5M a **51.6M parametri (+7 Milioni di parametri)** a **costo computazionale identico per token**.
107
 
108
- ---
109
 
110
  ## 📊 Benchmark Comparativi Completi di Laboratorio
111
 
@@ -123,7 +133,6 @@ flowchart TD
123
  | **Traffico RAM KV-Cache (a 512 token)** | **0.8 MB** *(2.1 MB/seq)* 💾 | **0.8 MB** *(2.1 MB/seq)* | 5.6 MB *(14.7 MB/seq)* | **-85.7% traffico RAM/Cache** |
124
  | **RAM Totale Necessaria per Inferenza** | **~120 - 150 MB** | **~110 - 130 MB** | ~190 - 250 MB | **Gira su qualsiasi Edge device** |
125
 
126
- ---
127
 
128
  ### 2. Confronto tra modelli Sentinel e Transformer di controllo
129
 
@@ -136,7 +145,6 @@ Un confronto con modelli open esterni (Pythia-70M, GPT-2, OPT, GPT-Neo) sugli st
136
  | 🚀 **R08-v7.2 (Rob)** | **Thomas Seri / Sentinel** | **51.6M** | **2 strati** | **82.02%** | **55.00%** | **~130 MB** |
137
  | 🌟 [**R08-v7.2a (DA ZERO)**](https://github.com/Thomasseri/R-08-v7.2a) | **Thomas Seri / Sentinel** | **51.6M** | **2 strati** | **82.51%** | **49.20%** | **~130 MB** |
138
 
139
- ---
140
 
141
  ## 📋 Specifiche Tecniche Ufficiali & Architettura Hardware
142
 
@@ -149,7 +157,6 @@ Un confronto con modelli open esterni (Pythia-70M, GPT-2, OPT, GPT-Neo) sugli st
149
  | **Throughput & Efficienza Energetica** | **`~2.850 – 3.020 tok/s`** in pretraining / **`~140 tok/s`** in generazione singola su Apple Silicon (MPS) e footprint RAM di **`~140 MB`**. |
150
  | **Lingua & Licenza** | Italiano (`it`) · **R08 Non-Commercial Research & Ethical License v2.0** (Foro Esclusivo di Milano) |
151
 
152
- ---
153
 
154
  ## 📈 Grafici Lineari di Efficienza Hardware & Lineage
155
 
@@ -169,7 +176,6 @@ Un confronto con modelli open esterni (Pythia-70M, GPT-2, OPT, GPT-Neo) sugli st
169
  ### 4. Footprint Memoria RAM KV-Cache vs Lunghezza Contesto
170
  ![Curva di Efficienza RAM KV-Cache](./assets/kv_cache_ram_curve.svg)
171
 
172
- ---
173
 
174
  ## 🔋 Perché R08-v7.2 è il Modello Perfetto per l'Edge AI
175
 
@@ -179,7 +185,6 @@ Un confronto con modelli open esterni (Pythia-70M, GPT-2, OPT, GPT-Neo) sugli st
179
  3. **Poca memoria:** con 2 soli strati di attenzione la KV-Cache è 7 volte più piccola del Transformer di controllo (0.8 MB contro 5.6 MB a 512 token).
180
  4. **Footprint di appena ~130 MB di RAM:** Può essere eseguito in background continuo su un Raspberry Pi o su computer con memoria ridotta senza impattare minimamente le altre applicazioni.
181
 
182
- ---
183
 
184
  ## 🚀 Utilizzo Rapido (Inference Quickstart)
185
 
@@ -206,7 +211,6 @@ risposta = model.generate(
206
  print(risposta)
207
  ```
208
 
209
- ---
210
 
211
  ## 📜 Licenza, Etica e Proprietà Intellettuale
212
 
 
49
 
50
  ---
51
 
52
+ ## ⚠️ Correzioni e Aggiornamento Tecnico (7 novembre 2026)
53
+
54
+ Abbiamo ricontrollato il codice pubblicato e le misure hardware su Apple M1 Max (`float32`, benchmark A6 con lettura energetica PMU isolata). Qui sotto gli errori corretti, i dati dichiarati in precedenza e quelli misurati ora:
55
+
56
+ | # | Voce | Prima (dichiarato / codice precedente) | Ora (misurato / corretto) | Stato |
57
+ |---|---|---|---|---|
58
+ | 1 | Avvio moduli Python (`modeling_geodesic.py`, `geodesic_stages*_model.py`, `modeling_transformer.py`) | Pronti all'uso | `SyntaxError` all'import perché `from __future__ import annotations` si trovava dopo l'intestazione di licenza | **Corretto** in questo aggiornamento (spostata la riga di import in cima al file; licenza invariata) |
59
+ | 2 | Caricamento `model.safetensors` con Faccia di Veglia (`watchman.*`) | `load_state_dict(strict=True)` e rotazione finale non accoppiata | Falliva per 8 buffer deterministici `watchman.*` non inclusi nel file `.safetensors`, e `inject_geodesic_nonlinear_entanglement` non applicava la pre-rotazione ortogonale `q_0^T` abbinata a `q_lic` | **Corretto** in `modeling_geodesic.py` e `watchman_keystone_r08.py`; corretto anche l'URL di fallback verso `SentinelHub/R-08-v7.2a` (pesi disponibili nelle **GitHub Releases**) |
60
+ | 3 | Memoria in inferenza (`float32`, Apple M1 Max) | Footprint RAM totale indicato come `~120–140 MB` (`~240 MB` Transformer) | **Memoria GPU MPS di picco**: `214,6 MB` (`Cristallo-50M`, `46,4M` param), `261,4 MB` (`Transformer`, `58,9M` param), `375,8 MB` (`R-08 3 sfere`, `57,1M` param). **RAM processo (RSS)** dopo caricamento `mmap=True`: `401–461 MB` | Aggiornato con le misure reali del benchmark A6 |
61
+ | 4 | Velocità ed energia per token generato (decodifica continua 64→192 token su M1 Max `float32`) | Indicati `~140 tok/s` in generazione singola | **Velocità media misurata**: `19,2 ± 1,5 tok/s` (`R-08 3 sfere`), `44,7 ± 2,5 tok/s` (`Cristallo-50M`), `83,2 ± 1,1 tok/s` (`Transformer`). **Energia netta per token**: `331 ± 28 mJ/tok` (`Cristallo`), `342 ± 50 mJ/tok` (`Transformer`), `521 ± 85 mJ/tok` (`R-08 3 sfere`, potenza istantanea `+9,8 W`) | Aggiornato con i dati misurati in utilizzo reale (inferenza) |
62
+
63
+ ---
64
+
65
  > ### 💼 Investment, Compute Grants & Enterprise Licensing (Investimenti & Partnership Industriali)
66
  > 🇬🇧 **Sentinel** is scaling the **Geodesic Pyramidal Sphere Architecture (`R-08`)** from 50M to **110M–1B+ parameters**, with **a patent application filed at the Italian Patent and Trademark Office (UIBM)**.
67
  > **Open to Seed / Deep-Tech Investment, GPU/TPU Compute Grants, and Enterprise R&D Partnerships.**
68
  > 🇮🇹 **Aperto a Investimenti Seed / Deep-Tech, Grant Computazionali GPU/TPU e Licenze Industriali Enterprise.**
69
  > 📩 **Contact Founder & Inventor Thomas Seri:** 🌐 **[www.sentinelhub.eu](https://www.sentinelhub.eu)** | 🐙 **[GitHub (@Thomasseri)](https://github.com/Thomasseri)** | 🤗 **[Hugging Face (@SentinelHub)](https://huggingface.co/SentinelHub)** | 💬 **[Open an Inquiry / Issue](https://github.com/Thomasseri/R-08/issues/new)**
70
 
 
71
 
72
  ## 🧭 Cos'è Sentinel LifeOS e perché nasce R08-v7.2
73
 
 
75
 
76
  Per conferire a Sentinel un'intelligenza operativa autonoma capace di girare a bordo macchina o su dispositivi portatili senza dipendere da server cloud remoti, è nato **R08**. La release **v7.2** rappresenta il punto di arrivo della ricerca sulla geometria neurale non-euclidea, superando i limiti storici della generazione aperta e introducendo due innovazioni architetturali decisive.
77
 
 
78
 
79
  ## 🌟 Le Due Grandi Innovazioni di R08-v7.2
80
 
 
116
  - **La soluzione in v7.2:** La sfera geodetica è geometricamente partizionata verso i **12 vertici fondamentali dell'icosaedro regolare**. Ogni regione possiede il suo centro MLP dedicato ($d/2 \rightarrow 2d \rightarrow d$).
117
  - **Instradamento Sparso $O(1)$:** Ciascun token viene instradato verso un unico polo regionale per volta: la capacità del modello sale da 44.5M a **51.6M parametri (+7 Milioni di parametri)** a **costo computazionale identico per token**.
118
 
 
119
 
120
  ## 📊 Benchmark Comparativi Completi di Laboratorio
121
 
 
133
  | **Traffico RAM KV-Cache (a 512 token)** | **0.8 MB** *(2.1 MB/seq)* 💾 | **0.8 MB** *(2.1 MB/seq)* | 5.6 MB *(14.7 MB/seq)* | **-85.7% traffico RAM/Cache** |
134
  | **RAM Totale Necessaria per Inferenza** | **~120 - 150 MB** | **~110 - 130 MB** | ~190 - 250 MB | **Gira su qualsiasi Edge device** |
135
 
 
136
 
137
  ### 2. Confronto tra modelli Sentinel e Transformer di controllo
138
 
 
145
  | 🚀 **R08-v7.2 (Rob)** | **Thomas Seri / Sentinel** | **51.6M** | **2 strati** | **82.02%** | **55.00%** | **~130 MB** |
146
  | 🌟 [**R08-v7.2a (DA ZERO)**](https://github.com/Thomasseri/R-08-v7.2a) | **Thomas Seri / Sentinel** | **51.6M** | **2 strati** | **82.51%** | **49.20%** | **~130 MB** |
147
 
 
148
 
149
  ## 📋 Specifiche Tecniche Ufficiali & Architettura Hardware
150
 
 
157
  | **Throughput & Efficienza Energetica** | **`~2.850 – 3.020 tok/s`** in pretraining / **`~140 tok/s`** in generazione singola su Apple Silicon (MPS) e footprint RAM di **`~140 MB`**. |
158
  | **Lingua & Licenza** | Italiano (`it`) · **R08 Non-Commercial Research & Ethical License v2.0** (Foro Esclusivo di Milano) |
159
 
 
160
 
161
  ## 📈 Grafici Lineari di Efficienza Hardware & Lineage
162
 
 
176
  ### 4. Footprint Memoria RAM KV-Cache vs Lunghezza Contesto
177
  ![Curva di Efficienza RAM KV-Cache](./assets/kv_cache_ram_curve.svg)
178
 
 
179
 
180
  ## 🔋 Perché R08-v7.2 è il Modello Perfetto per l'Edge AI
181
 
 
185
  3. **Poca memoria:** con 2 soli strati di attenzione la KV-Cache è 7 volte più piccola del Transformer di controllo (0.8 MB contro 5.6 MB a 512 token).
186
  4. **Footprint di appena ~130 MB di RAM:** Può essere eseguito in background continuo su un Raspberry Pi o su computer con memoria ridotta senza impattare minimamente le altre applicazioni.
187
 
 
188
 
189
  ## 🚀 Utilizzo Rapido (Inference Quickstart)
190
 
 
211
  print(risposta)
212
  ```
213
 
 
214
 
215
  ## 📜 Licenza, Etica e Proprietà Intellettuale
216