Korzadi's picture
Update Model Card with official technical metrics and GGUF local installation guide
4373c2c verified
|
Raw History Blame Contribute Delete
3.43 kB
---
language:
- es
license: apache-2.0
tags:
- code
- unsloth
- qlora
- gguf
- qwen2.5-coder
base_model: unsloth/Qwen2.5-Coder-7B-Instruct-bnb-4bit
pipeline_tag: text-generation
---
# Atomic Core 1.1 (Base Model & GGUF)
**Atomic Core 1.1** es un modelo de lenguaje de alto rendimiento especializado en desarrollo de software, programación multilingüe y razonamiento de ingeniería. Ha sido entrenado utilizando el framework **Unsloth** a partir de la arquitectura base `Qwen2.5-Coder-7B-Instruct` mediante técnicas de optimización de memoria QLoRA, consolidando sus pesos finales directamente en precisión de punto flotante de 16 bits (FP16).
Esta versión integra un refinamiento sistemático estructurado que mejora la coherencia en la resolución de problemas complejos, modularización del código y autovalidación mediante aserciones.
## 🛠️ Especificaciones de Entrenamiento Reales
- **Modelo Base:** `unsloth/Qwen2.5-Coder-7B-Instruct-bnb-4bit`
- **Tamaño del Dataset:** 94 registros altamente especializados en formato de conversación de chat multi-turno.
- **Hiperparámetros de Adaptación:**
- **LoRA Rank (r):** 32 | **LoRA Alpha:** 32
- **Módulos objetivo:** `q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj`
- **Pasos máximos:** 30 pasos de entrenamiento intensivo.
- **Learning Rate:** 2e-4 con optimizador `adamw_8bit` para eficiencia de memoria.
## 📊 Resultados de la Evaluación Real
Evaluado estrictamente contra la suite oficial de pruebas sintácticas automatizadas y validadores de sintaxis AST (Abstract Syntax Tree) de la familia de modelos Atomic:
- **Tasa de éxito en aserciones de código:** **52.86%** de precisión de ejecución directa sin errores sintácticos en el entorno de evaluación controlada.
---
## 📦 Guía de Instalación y Ejecución Local (GGUF)
Este repositorio incluye la versión oficial de bajo consumo cuantizada en alta precisión **unsloth.Q4_K_M.gguf** usando el algoritmo de cuantización simétrica optimizada **Q4_K_M**.
### Opción A: Uso local con Ollama (Recomendado)
1. Asegúrate de tener **Ollama** instalado en tu sistema local ([descargar aquí](https://ollama.com)).
2. Descarga el archivo `unsloth.Q4_K_M.gguf` desde este repositorio.
3. Crea un archivo de configuración plano llamado `Modelfile` en el mismo directorio con el siguiente contenido:
```dockerfile
FROM ./unsloth.Q4_K_M.gguf
# Ajustar temperatura para respuestas técnicas y precisas
PARAMETER temperature 0.2
PARAMETER stop <|im_start|>
PARAMETER stop <|im_end|>
# Plantilla de chat oficial del sistema para Atomic Core
SYSTEM Eres Atomic Core 1.1, un asistente virtual experto en programación de software de la familia Atomic. Respondes con un estilo técnico, estructurado, limpio y profesional exclusivamente en el idioma del usuario.
```
4. Abre tu terminal de sistema y compila el modelo local ejecutando:
```bash
ollama create atomic-core-1.1 -f Modelfile
```
5. ¡Listo! Ejecuta e interactúa de forma local con el modelo:
```bash
ollama run atomic-core-1.1
```
### Opción B: Uso directo con Llama.cpp
Para ejecutar inferencia directa por consola sin dependencias externas pesadas:
```bash
./llama-cli -m unsloth.Q4_K_M.gguf -p "<|im_start|>system
Eres Atomic Core 1.1<|im_end|>
<|im_start|>user
Escribe un script en Python para leer un archivo JSON de forma segura<|im_end|>
<|im_start|>assistant
" -n 512
```