Aura 1B Edge (Q4_K_M GGUF — v5 Conversacional + Escolar)

Built with Gemma. Modelo 4-bit GGUF (Q4_K_M, ~768.7 MiB) derivado de Google Gemma 3 1B IT con ajuste fino LoRA en español para la aplicación móvil offline Aura (rama kofu-go de Kofu_Mobile), optimizada para ejecutarse en dispositivos Android de gama de entrada y gama media bajo un presupuesto estricto total <= 2 GB de RAM (VmRSS <= 1850 MB).


Resumen del Modelo

Característica Detalle
Nombre Aura 1B Edge (aura-1b-edge-q4_k_m.gguf, v5)
Arquitectura base Google Gemma 3 1B Instruct (Gemma3ForCausalLM, 999.89M params)
Punto de partida HF unsloth/gemma-3-1b-it (BF16)
Cuantización Q4_K_M (llama.cpp 6.40 BPW)
Tamaño del archivo 806,059,104 bytes (768.72 MiB)
SHA-256 75a721177159f8982f5ade9948e5611cd30503ea953f71432d460a02b6fc9eb4
Idiomas Español (principal) e Inglés
Entorno objetivo Android ARM64 (llama.cpp, node7nm / node5nm), 100% offline

Entrenamiento y Datos (v5)

Entrenado en Google Colab (NVIDIA A100-SXM4-80GB) usando PEFT (LoRA r=16, lora_alpha=16, lora_dropout=0.05 sobre proyecciones de atención y FFN) y TRL SFTTrainer con completion_only_loss=True en BF16 (1 época, 164 pasos, lr=6e-5, cosine, max_length=768), alcanzando train_loss = 1.2824 y mean_token_accuracy = 0.7104 sobre 1,127,033 tokens.

Conjuntos de datos (5,246 conversaciones)

  1. Conversación abierta y empatía (2,200): FreedomIntelligence/alpaca-gpt4-spanish.
  2. Programación, algoritmos, ciencia y razonamiento (1,800): FreedomIntelligence/evol-instruct-spanish.
  3. Matemáticas paso a paso (750): ericrisco/gsm8k-translated-spanish.
  4. Diálogos multi-turno en español (350): timdettmers/openassistant-guanaco.
  5. Identidad Aura offline, empatía y ortografía (146): conversaciones curadas multi-turno y de identidad.

Formato de Prompt (Gemma 3 Chat Template)

<start_of_turn>user
¿Cómo te llamas, quién eres y necesitas internet?<end_of_turn>
<start_of_turn>model

Parámetros recomendados en llama.cpp / Aura Mobile

  • --temp 0.35 – 0.50 en charla libre (0.25–0.35 con RAG/matemáticas)
  • --repeat-penalty 1.12 (ventana 32–64)
  • Caché KV cuantizada Q8_0/Q8_0 (swa_full=true para Gemma 3 ISWA)

Créditos y Licencias

Downloads last month
118
GGUF
Model size
1.0B params
Architecture
gemma3
Hardware compatibility
Log In to add your hardware

4-bit

Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for shebxyd/aura-1b-edge

Quantized
(501)
this model

Datasets used to train shebxyd/aura-1b-edge