--- language: - es license: apache-2.0 tags: - code - unsloth - qlora - gguf - qwen2.5-coder base_model: unsloth/Qwen2.5-Coder-7B-Instruct-bnb-4bit pipeline_tag: text-generation --- # Atomic Core 1.1 (Base Model & GGUF) **Atomic Core 1.1** es un modelo de lenguaje de alto rendimiento especializado en desarrollo de software, programación multilingüe y razonamiento de ingeniería. Ha sido entrenado utilizando el framework **Unsloth** a partir de la arquitectura base `Qwen2.5-Coder-7B-Instruct` mediante técnicas de optimización de memoria QLoRA, consolidando sus pesos finales directamente en precisión de punto flotante de 16 bits (FP16). Esta versión integra un refinamiento sistemático estructurado que mejora la coherencia en la resolución de problemas complejos, modularización del código y autovalidación mediante aserciones. ## 🛠️ Especificaciones de Entrenamiento Reales - **Modelo Base:** `unsloth/Qwen2.5-Coder-7B-Instruct-bnb-4bit` - **Tamaño del Dataset:** 94 registros altamente especializados en formato de conversación de chat multi-turno. - **Hiperparámetros de Adaptación:** - **LoRA Rank (r):** 32 | **LoRA Alpha:** 32 - **Módulos objetivo:** `q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj` - **Pasos máximos:** 30 pasos de entrenamiento intensivo. - **Learning Rate:** 2e-4 con optimizador `adamw_8bit` para eficiencia de memoria. ## 📊 Resultados de la Evaluación Real Evaluado estrictamente contra la suite oficial de pruebas sintácticas automatizadas y validadores de sintaxis AST (Abstract Syntax Tree) de la familia de modelos Atomic: - **Tasa de éxito en aserciones de código:** **52.86%** de precisión de ejecución directa sin errores sintácticos en el entorno de evaluación controlada. --- ## 📦 Guía de Instalación y Ejecución Local (GGUF) Este repositorio incluye la versión oficial de bajo consumo cuantizada en alta precisión **unsloth.Q4_K_M.gguf** usando el algoritmo de cuantización simétrica optimizada **Q4_K_M**. ### Opción A: Uso local con Ollama (Recomendado) 1. Asegúrate de tener **Ollama** instalado en tu sistema local ([descargar aquí](https://ollama.com)). 2. Descarga el archivo `unsloth.Q4_K_M.gguf` desde este repositorio. 3. Crea un archivo de configuración plano llamado `Modelfile` en el mismo directorio con el siguiente contenido: ```dockerfile FROM ./unsloth.Q4_K_M.gguf # Ajustar temperatura para respuestas técnicas y precisas PARAMETER temperature 0.2 PARAMETER stop <|im_start|> PARAMETER stop <|im_end|> # Plantilla de chat oficial del sistema para Atomic Core SYSTEM Eres Atomic Core 1.1, un asistente virtual experto en programación de software de la familia Atomic. Respondes con un estilo técnico, estructurado, limpio y profesional exclusivamente en el idioma del usuario. ``` 4. Abre tu terminal de sistema y compila el modelo local ejecutando: ```bash ollama create atomic-core-1.1 -f Modelfile ``` 5. ¡Listo! Ejecuta e interactúa de forma local con el modelo: ```bash ollama run atomic-core-1.1 ``` ### Opción B: Uso directo con Llama.cpp Para ejecutar inferencia directa por consola sin dependencias externas pesadas: ```bash ./llama-cli -m unsloth.Q4_K_M.gguf -p "<|im_start|>system Eres Atomic Core 1.1<|im_end|> <|im_start|>user Escribe un script en Python para leer un archivo JSON de forma segura<|im_end|> <|im_start|>assistant " -n 512 ```