Grace-G1-350M-Instruct

Versione instruction-tuned di BranchingNLP/Grace-G1-350M: un assistente conversazionale bilingue IT/EN da 377M parametri, della famiglia Grace di BranchingNLP. Addestrato da zero, poi SFT.

Cos'è e cosa non è

È un modello piccolo da 377M, di ricerca: conversa, risponde e chiacchiera in IT/EN. La sua conoscenza e affidabilità scalano con la taglia — più è piccolo, più inventa.

  • ✅ conversazione, small talk, battute, presentazione di sé, aritmetica di base
  • ⚠️ single-turn: dà il meglio una domanda alla volta; sul multi-turn lungo può derivare
  • ❌ fatti del long-tail: conosce le entità famose, ma inventa su persone/eventi di nicchia e numeri specifici
  • ❌ ragionamento complesso / matematica multi-step: limitati a questa scala

Chat template

<|im_start|><|system|>{system}<|im_end|>
<|im_start|><|user|>{messaggio}<|im_end|>
<|im_start|><|assistant|>

Il modello genera <|thinking|>...<|/thinking|> seguito dalla risposta, e chiude con <|im_end|>. System prompt usato in training: "Sei Grace, un'assistente AI creata da BranchingNLP. Rispondi in modo utile e preciso."

Uso

Vedi chat_grace.py (incluso) per un esempio completo di inferenza col template corretto:

python3 chat_grace.py --model . --temp 0.8 --rep-penalty 1.3 --no-history

(--no-history consigliato: a questa taglia il single-turn rende meglio.) Richiede GPU + fla (kernel Triton).

Addestramento

SFT su un mix bilingue di conversazioni, small talk, problemi di matematica a parole generati da codice, ed esempi di identità. Base: BranchingNLP/Grace-G1-350M (7B token).

Architettura

Ibrido Gated DeltaNet 3:1 + attenzione gated, ottimizzatore Muon. d_model 1024, 24 layer, 16/4 heads, SwiGLU 2816, vocab 32768, context 2048. Dettagli nel base.

Licenza

Apache-2.0 (pesi e codice). I dataset mantengono le licenze originali.

Downloads last month
28
Safetensors
Model size
0.4B params
Tensor type
F32
·
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for BranchingNLP/Grace-G1-350M-Instruct

Finetuned
(1)
this model

Collection including BranchingNLP/Grace-G1-350M-Instruct