File size: 17,417 Bytes
29d9647 f034088 29d9647 aee9d9f 6078efe aee9d9f 29d9647 0726fe8 29d9647 05fbb17 29d9647 05fbb17 29d9647 05fbb17 29d9647 05fbb17 f034088 29d9647 05fbb17 29d9647 f034088 29d9647 f034088 29d9647 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 | ---
language:
- it
license: other
license_name: sentinel-r08-research-license
license_link: LICENSE.md
tags:
- pytorch
- causal-lm
- geodesic-neural-network
- sentinel-lifeos
- rob
- r08
- r08-v7.2
- edge-ai
- 1d-causal-conv
- icosahedron-hubs
- italian
pipeline_tag: text-generation
inference: false
---
<p align="center">
<img src="assets/r08_logo.jpg" width="320" alt="Sentinel R08 — Pocket Core" style="border-radius: 16px;" />
</p>
# R08-v7.2 (Rob) — Geodesic Mesh Neural Network (Pyramidal Sphere 51.6M)
### *L'Evoluzione Neurale Geometrica con Convoluzioni Causali 1D e 12 Hub Regionali dell'Icosaedro*
### *Il Cuore Neurale Geometrico di SENTINEL LifeOS*
[-orange.svg)](https://github.com/Thomasseri/R-08-v7.2)
[](https://www.sentinelhub.eu)
[](https://www.sentinelhub.eu)
[](https://github.com/Thomasseri/R-08-v7.2)
[](https://github.com/Thomasseri/R-08-v7.2)
[-yellow.svg)](https://github.com/Thomasseri/R-08-v7.2)
[](LICENSE.md)
**Nome Ufficiale del Modello:** **R08-v7.2** *(Rob)*
**Progetto Padre & Ecosistema:** **[Sentinel LifeOS](https://www.sentinelhub.eu)** *(Il Sistema Operativo di Vita e Gestione)*
**Sito Ufficiale:** **[www.sentinelhub.eu](https://www.sentinelhub.eu)**
**Autore & Ideatore:** Thomas Seri
**Hardware di Sviluppo:** Apple Silicon (Metal Performance Shaders - MPS)
**Modelli Correlati della Famiglia:**
- 🇮🇹 [Vocabolario & Tokenizer gpTommy 32k su GitHub](https://github.com/Thomasseri/gpTommy-32k) | [Hugging Face](https://huggingface.co/SentinelHub/gpTommy-32k)
- 🌟 [Nuovo Sentinel R-08 v7.2a DA ZERO (51.6M, 82.51% BLiMP-IT, migliore tra gli R-08) su GitHub](https://github.com/Thomasseri/R-08-v7.2a) | [Hugging Face](https://huggingface.co/SentinelHub/R-08-v7.2a)
- 🌐 [R08 v7 Pyramid (44.5M) su Hugging Face](https://huggingface.co/SentinelHub/R-08) | [GitHub](https://github.com/Thomasseri/R-08)
- 🔬 [Controllo A/B Transformer Baseline (44.9M) su Hugging Face](https://huggingface.co/SentinelHub/R-08-Transformer-Baseline) | [GitHub](https://github.com/Thomasseri/R-08-Transformer-Baseline)
---
## ⚠️ Correzioni e Aggiornamento Tecnico (7 novembre 2026)
Abbiamo ricontrollato il codice pubblicato e le misure hardware su Apple M1 Max (`float32`, benchmark A6 con lettura energetica PMU isolata). Qui sotto gli errori corretti, i dati dichiarati in precedenza e quelli misurati ora:
| # | Voce | Prima (dichiarato / codice precedente) | Ora (misurato / corretto) | Stato |
|---|---|---|---|---|
| 1 | Avvio moduli Python (`modeling_geodesic.py`, `geodesic_stages*_model.py`, `modeling_transformer.py`) | Pronti all'uso | `SyntaxError` all'import perché `from __future__ import annotations` si trovava dopo l'intestazione di licenza | **Corretto** in questo aggiornamento (spostata la riga di import in cima al file; licenza invariata) |
| 2 | Caricamento `model.safetensors` con Faccia di Veglia (`watchman.*`) | `load_state_dict(strict=True)` e rotazione finale non accoppiata | Falliva per 8 buffer deterministici `watchman.*` non inclusi nel file `.safetensors`, e `inject_geodesic_nonlinear_entanglement` non applicava la pre-rotazione ortogonale `q_0^T` abbinata a `q_lic` | **Corretto** in `modeling_geodesic.py` e `watchman_keystone_r08.py`; corretto anche l'URL di fallback verso `SentinelHub/R-08-v7.2a` (pesi disponibili nelle **GitHub Releases**) |
| 3 | Memoria in inferenza (`float32`, Apple M1 Max) | ~~Confronto A6 precedente: misure non omogenee ritirate.~~ | **Confronto A6 aggiornato (modelli pubblici)** — Memoria GPU MPS di picco: `261,4 MB` (`Transformer`, `58,9M` param), `375,8 MB` (`R-08 3 sfere`, `57,1M` param). **RAM processo (RSS)** dopo caricamento `mmap=True`: `401–461 MB` | Aggiornato: il dato storico resta visibile ma barrato; il confronto corrente include solo modelli pubblicati |
| 4 | Velocità ed energia per token generato (decodifica continua 64→192 token su M1 Max `float32`) | ~~Confronto A6 precedente: misure non omogenee ritirate.~~ | **Confronto A6 aggiornato (modelli pubblici)** — Velocità: `19,2 ± 1,5 tok/s` (`R-08 3 sfere`), `83,2 ± 1,1 tok/s` (`Transformer`). Energia netta: `342 ± 50 mJ/tok` (`Transformer`), `521 ± 85 mJ/tok` (`R-08 3 sfere`, potenza istantanea `+9,8 W`) | Aggiornato: il dato storico resta visibile ma barrato; il confronto corrente include solo modelli pubblicati |
---
> ### 💼 Investment, Compute Grants & Enterprise Licensing (Investimenti & Partnership Industriali)
> 🇬🇧 **Sentinel** is scaling the **Geodesic Pyramidal Sphere Architecture (`R-08`)** from 50M to **110M–1B+ parameters**, with **a patent application filed at the Italian Patent and Trademark Office (UIBM)**.
> **Open to Seed / Deep-Tech Investment, GPU/TPU Compute Grants, and Enterprise R&D Partnerships.**
> 🇮🇹 **Aperto a Investimenti Seed / Deep-Tech, Grant Computazionali GPU/TPU e Licenze Industriali Enterprise.**
> 📩 **Contact Founder & Inventor Thomas Seri:** 🌐 **[www.sentinelhub.eu](https://www.sentinelhub.eu)** | 🐙 **[GitHub (@Thomasseri)](https://github.com/Thomasseri)** | 🤗 **[Hugging Face (@SentinelHub)](https://huggingface.co/SentinelHub)** | 💬 **[Open an Inquiry / Issue](https://github.com/Thomasseri/R-08/issues/new)**
## 🧭 Cos'è Sentinel LifeOS e perché nasce R08-v7.2
**Sentinel** è un **LifeOS (Sistema Operativo di Vita)** progettato per unificare in un unico ecosistema gli **obiettivi personali**, il **controllo economico**, la **gestione aziendale**, l'**automazione industriale (PLC)** e la **manutenzione predittiva dei macchinari**.
Per conferire a Sentinel un'intelligenza operativa autonoma capace di girare a bordo macchina o su dispositivi portatili senza dipendere da server cloud remoti, è nato **R08**. La release **v7.2** rappresenta il punto di arrivo della ricerca sulla geometria neurale non-euclidea, superando i limiti storici della generazione aperta e introducendo due innovazioni architetturali decisive.
## 🌟 Le Due Grandi Innovazioni di R08-v7.2
Mentre i Large Language Model tradizionali impiegano catene dense di attenzione $O(N^2)$ (12-32 strati), **R08-v7.2** mantiene l'efficienza estrema di **soli 2 strati di attenzione densa**, potenziando la mesh geodetica con due tecnologie proprietarie:
```mermaid
flowchart TD
subgraph S1["Stadio 1 (Pezzi - 1.2k)"]
A1[80 Facce Sfera 1] <--> B1[12 Hub Regionali Icosaedro]
end
subgraph Conv1["Convoluzione Causale 1D Inter-Stadio (k=4)"]
C1["Filtro Causale 1D (d=256) - Zero-Init Residual"]
end
subgraph S2["Stadio 2 (Parole - 17.9k)"]
A2[80 Facce Sfera 2] <--> B2[12 Hub Regionali Icosaedro]
end
subgraph Conv2["Convoluzione Causale 1D Inter-Stadio (k=4)"]
C2["Filtro Causale 1D (d=256) - Zero-Init Residual"]
end
subgraph S3["Stadio 3 (Unioni - 20k)"]
A3[80 Facce Sfera 3] <--> B3[12 Hub Regionali Icosaedro]
end
S1 --> Conv1 --> S2 --> Conv2 --> S3
```
### 1. Convoluzioni Causali 1D Inter-Stadio ($k=4, d=256$)
- **Il problema in v7:** Nelle 3 sfere geodetiche, i token venivano elaborati in modo isolato senza scambio di contesto locale immediato tra parole contigue, causando nei testi lunghi fenomeni di balbuzie ciclica (*"di un prodotto di un prodotto"*).
- **La soluzione in v7.2:** Sono stati inseriti filtri convoluzionali causali 1D tra la Sfera 1 $\rightarrow$ 2 e la Sfera 2 $\rightarrow$ 3. Ogni token riceve la memoria temporale esatta dei 3 token precedenti prima di entrare nella sfera successiva.
- **Zero-Init Residual:** I filtri partono con pesi a zero esatto, garantendo che i pesi pretrainati non vengano degradati.
- **Costo Computazionale:** Solo 2.048 FLOPs per token ($< 0.001\%$ del budget) con **zero overhead di memoria KV-Cache**.
### 2. 12 Hub Regionali dell'Icosaedro (Partizione Geometrica a 12 Poli)
- **Il problema in v7:** Tutte le 80 facce triangolari convergevano verso un unico centro MLP piramidale, creando un collo di bottiglia nei gradienti.
- **La soluzione in v7.2:** La sfera geodetica è geometricamente partizionata verso i **12 vertici fondamentali dell'icosaedro regolare**. Ogni regione possiede il suo centro MLP dedicato ($d/2 \rightarrow 2d \rightarrow d$).
- **Instradamento Sparso $O(1)$:** Ciascun token viene instradato verso un unico polo regionale per volta: la capacità del modello sale da 44.5M a **51.6M parametri (+7 Milioni di parametri)** a **costo computazionale identico per token**.
## ~~📊 Benchmark Comparativi Completi di Laboratorio — archivio~~
> **Archivio.** I valori sottostanti sono mantenuti barrati per tracciabilità, ma provengono da corse con budget o protocolli non identici. Non sono una prova di prestazioni relative, RAM reale, energia, eliminazione di loop o causalità architetturale.
### ~~1. Studio A/B Diretto: Sentinel R-08 v7.2 vs v7 vs Transformer Baseline~~
| Metrica di Laboratorio | 🚀 **Sentinel R-08 v7.2 (51.6M)** | Sentinel R-08 v7 (44.5M) | Transformer Baseline (44.9M) | Vantaggio Architetturale R-08 v7.2 |
| :--- | :---: | :---: | :---: | :---: |
| **Parametri Totali** | ~~51,6M~~ | ~~44,5M~~ | ~~44,9M~~ | ~~confronto storico~~ |
| **Strati di Attenzione Densa** | ~~2~~ | ~~2~~ | ~~14~~ | ~~confronto storico~~ |
| **BLiMP-IT (Accuratezza Linguistica IT)** | ~~82,02%~~ | ~~80,95%~~ | ~~85,84%~~ | ~~protocolli diversi~~ |
| **MultiBLiMP (Ragionamento Logico IT)** | ~~73,46%~~ | ~~73,46%~~ | ~~86,83%~~ | ~~protocolli diversi~~ |
| **Resistenza Allucinazioni (Truth Rate)** | ~~56,2%~~ | ~~62,5%~~ | ~~68,8%~~ | ~~n=16: non conclusivo~~ |
| **BLiMP Standard Inglese (Cross-Lingua)** | ~~55,00%~~ | ~~52,80%~~ | ~~54,00%~~ | ~~ritirato~~ |
| **Stuttering / Balbuzie nei Test Aperti** | ~~completamente eliminata~~ | ~~presente~~ | ~~assente~~ | ~~non benchmarkizzato~~ |
| **Traffico RAM KV-Cache (a 512 token)** | ~~0,8 MB~~ | ~~0,8 MB~~ | ~~5,6 MB~~ | ~~solo stima strutturale~~ |
| **RAM Totale Necessaria per Inferenza** | ~~120–150 MB~~ | ~~110–130 MB~~ | ~~190–250 MB~~ | ~~ritirato~~ |
## Confronto aggiornato e verificato (post-midtraining, 10k step)
Stesso set di valutazione per tutte le colonne: **BLiMP-IT n=3.481**, **MultiBLiMP n=2.916** e 16 prompt zero-shot. I punteggi non dimostrano un vantaggio causale dell'architettura; `n.d.` significa non misurato con un protocollo hardware identico.
| Metrica | R-08 v7 | R-08 v7.2 | R-08 v7.2a | Transformer baseline |
| :--- | :---: | :---: | :---: | :---: |
| Parametri | 44,6M | 51,6M | 51,6M | 44,906M |
| Strati di attenzione densa | 2 | 2 | 2 | 14 |
| Vocabolario | 1.251 | 1.251 | 1.251 | 1.251 |
| BLiMP-IT | 80,95% | 82,02% | 82,51% | **85,84%** |
| MultiBLiMP | 73,46% | 73,46% | 76,71% | **86,83%** |
| Zero-shot (16 prompt) | 10/16 | 9/16 | 9/16 | 11/16 |
| Throughput training | n.d. | n.d. | n.d. | n.d. |
| KV-cache a 512 token | ~0,8 MB* | ~0,8 MB* | ~0,8 MB* | ~5,6 MB* |
\* Stima strutturale della cache, non misura di RAM di picco, batteria o consumo energetico.
### ~~2. Confronto tra modelli Sentinel e Transformer di controllo — archivio~~
Un confronto con modelli open esterni (Pythia-70M, GPT-2, OPT, GPT-Neo) sugli stessi benchmark italiani non è ancora stato eseguito con uno script riproducibile. Le versioni precedenti di questa pagina riportavano numeri per questi modelli che non erano verificati: sono stati rimossi il 6/11/2026 e verranno ripubblicati solo dopo una misura reale.
> La tabella precedente includeva BLiMP inglese e RAM non ottenuti con un protocollo riproducibile comune; è stata ritirata. Il confronto verificato è la tabella immediatamente sopra.
## 📋 Specifiche Tecniche Ufficiali & Architettura Hardware
| Parametro Tecnico | Valore Certificato (`Sentinel R-08 v7.2a`) |
| :--- | :--- |
| **Architettura Neurale** | **Geodesic Pyramidal Mesh Network** (3 Sfere Concentriche, 12 Hub Regionali dell'Icosaedro, Convoluzioni Causali 1D $k=4$, soli 2 strati di attenzione densa) |
| **Parametri Totali in `model.safetensors`** | **`51.975.444`** tensori totali salvati (composti da **`51.614.115` parametri neurali attivi** + **`361.329` buffer topologici** e indici di adiacenza dell'icosaedro geodetico) |
| **Runtime di Esecuzione ** | **Motore Geometrico Nativo `modeling_geodesic.py`** (`trust_remote_code=True`). Essendo una topologia sferico-piramidale non-Transformer, utilizza obbligatoriamente il proprio runtime nativo invece di wrapper nati solo per Transformer piatti (`vLLM`/`Ollama`). |
| **Finestra di Contesto Operativa** | **`256 – 512` token nativi** (scalabile fino a **`2.048` token** in inferenza con soli `0,8 MB – 3,2 MB` di KV-Cache). |
| **Throughput & Efficienza Energetica** | **`~2.850 – 3.020 tok/s`** in pretraining / **`~140 tok/s`** in generazione singola su Apple Silicon (MPS) e footprint RAM di **`~140 MB`**. |
| **Lingua & Licenza** | Italiano (`it`) · **R08 Non-Commercial Research & Ethical License v2.0** (Foro Esclusivo di Milano) |
## 📈 Grafici Lineari di Efficienza Hardware & Lineage
### 1. Confronto Lineare di Famiglia: Sentinel R-08 v7 vs v7.2 vs v7.2a
*Andamento della Loss di Pretraining: R-08 v7.2a DA ZERO parte da pesi casuali (loss 5.04), supera v7 già a 10.000 step e a 50.000 step batte il record che v7 aveva raggiunto a 100.000 step:*

### 2. Benchmark Linguistici & Sintattici: BLiMP-IT e MultiBLiMP Italiano
*La combinazione delle 3 sfere geodetiche con i 12 hub regionali dell'icosaedro garantisce il picco storico per modelli sferici su grammatica e concordanza morfologica:*

### 3. Curva di Efficienza dei Token (Loss vs Token Visti)

### 4. Footprint Memoria RAM KV-Cache vs Lunghezza Contesto

## 🔋 Perché R08-v7.2 è il Modello Perfetto per l'Edge AI
**Edge AI** significa far girare l'intelligenza artificiale direttamente all'interno del dispositivo locale (Mac, micro-PC industriale, centralina PLC, drone, smartphone) **senza connessione a internet**:
1. **Zero Latenza:** Risposta immediata in tempo reale per comandi industriali.
2. **Privacy Totale:** I dati aziendali o personali non escono mai dal dispositivo.
3. **Poca memoria:** con 2 soli strati di attenzione la KV-Cache è 7 volte più piccola del Transformer di controllo (0.8 MB contro 5.6 MB a 512 token).
4. **Footprint di appena ~130 MB di RAM:** Può essere eseguito in background continuo su un Raspberry Pi o su computer con memoria ridotta senza impattare minimamente le altre applicazioni.
## 🚀 Utilizzo Rapido (Inference Quickstart)
Il modello può essere eseguito localmente su qualsiasi architettura (Apple Silicon Metal MPS, GPU CUDA o CPU) in poche righe di codice:
```python
from modeling_geodesic import R08Model, R08Tokenizer
# 1. Carica Tokenizer e Modello dai pesi safetensors
tokenizer = R08Tokenizer.from_pretrained("SentinelHub/R-08-v7.2")
model = R08Model.from_pretrained("SentinelHub/R-08-v7.2")
# 2. Generazione di testo con sampling e context control
prompt = "Utente: Ciao, come posso ottimizzare la manutenzione del macchinario?\nAssistente:"
risposta = model.generate(
prompt=prompt,
tokenizer=tokenizer,
max_new_tokens=64,
temperature=0.7,
top_p=0.9,
repetition_penalty=1.15
)
print(risposta)
```
## 📜 Licenza, Etica e Proprietà Intellettuale
Il codice architetturale e i pesi del modello neurale sono rilasciati con licenza di ricerca non commerciale **Sentinel R-08 Research License** (consultabile nel file [LICENSE.md](LICENSE.md)).
- ✅ **Uso Accademico e Studio**: Consentito liberamente per ricerca scientifica, riproducibilità e valutazione.
- ❌ **Uso Commerciale For-Profit**: Richiede apposita licenza commerciale scritta da parte di Sentinel.
- 🚫 **Divieti Etici Assoluti (Acceptable Use Policy)**: È severamente e globalmente vietato qualsiasi impiego per scopi militari/bellici/armi, attacchi informatici/malware, campagne politiche e propaganda di partito, indottrinamento religioso, pornografia/sfruttamento sessuale, promozione di dipendenze (gioco d'azzardo/sostanze stupefacenti), decisioni mediche/finanziarie autonome non supervisionate o sorveglianza biometrica lesiva dei diritti umani.
- 🛡️ **Tutela Marchio & Esonero Responsabilità**: I marchi "Sentinel", "Sentinel LifeOS" e "Thomas Seri" sono riservati. Il modello è a scopo di ricerca sperimentale e non costituisce parere medico, legale o finanziario vincolante (vedi [LICENSE.md](LICENSE.md)).
- ⚖️ **Copyright & Marchio**: Tutti i diritti sul brand **Sentinel LifeOS**, sui motori ontologici proprietari e sull'ecosistema industriale appartengono a **Thomas Seri** ([www.sentinelhub.eu](https://www.sentinelhub.eu)).
|