Korzadi's picture
Update Model Card with official technical metrics and GGUF local installation guide
4373c2c verified
|
Raw History Blame Contribute Delete
3.43 kB
metadata
language:
  - es
license: apache-2.0
tags:
  - code
  - unsloth
  - qlora
  - gguf
  - qwen2.5-coder
base_model: unsloth/Qwen2.5-Coder-7B-Instruct-bnb-4bit
pipeline_tag: text-generation

Atomic Core 1.1 (Base Model & GGUF)

Atomic Core 1.1 es un modelo de lenguaje de alto rendimiento especializado en desarrollo de software, programación multilingüe y razonamiento de ingeniería. Ha sido entrenado utilizando el framework Unsloth a partir de la arquitectura base Qwen2.5-Coder-7B-Instruct mediante técnicas de optimización de memoria QLoRA, consolidando sus pesos finales directamente en precisión de punto flotante de 16 bits (FP16).

Esta versión integra un refinamiento sistemático estructurado que mejora la coherencia en la resolución de problemas complejos, modularización del código y autovalidación mediante aserciones.

🛠️ Especificaciones de Entrenamiento Reales

  • Modelo Base: unsloth/Qwen2.5-Coder-7B-Instruct-bnb-4bit
  • Tamaño del Dataset: 94 registros altamente especializados en formato de conversación de chat multi-turno.
  • Hiperparámetros de Adaptación:
    • LoRA Rank (r): 32 | LoRA Alpha: 32
    • Módulos objetivo: q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj
    • Pasos máximos: 30 pasos de entrenamiento intensivo.
    • Learning Rate: 2e-4 con optimizador adamw_8bit para eficiencia de memoria.

📊 Resultados de la Evaluación Real

Evaluado estrictamente contra la suite oficial de pruebas sintácticas automatizadas y validadores de sintaxis AST (Abstract Syntax Tree) de la familia de modelos Atomic:

  • Tasa de éxito en aserciones de código: 52.86% de precisión de ejecución directa sin errores sintácticos en el entorno de evaluación controlada.

📦 Guía de Instalación y Ejecución Local (GGUF)

Este repositorio incluye la versión oficial de bajo consumo cuantizada en alta precisión unsloth.Q4_K_M.gguf usando el algoritmo de cuantización simétrica optimizada Q4_K_M.

Opción A: Uso local con Ollama (Recomendado)

  1. Asegúrate de tener Ollama instalado en tu sistema local (descargar aquí).
  2. Descarga el archivo unsloth.Q4_K_M.gguf desde este repositorio.
  3. Crea un archivo de configuración plano llamado Modelfile en el mismo directorio con el siguiente contenido:
FROM ./unsloth.Q4_K_M.gguf

# Ajustar temperatura para respuestas técnicas y precisas
PARAMETER temperature 0.2
PARAMETER stop <|im_start|>
PARAMETER stop <|im_end|>

# Plantilla de chat oficial del sistema para Atomic Core
SYSTEM Eres Atomic Core 1.1, un asistente virtual experto en programación de software de la familia Atomic. Respondes con un estilo técnico, estructurado, limpio y profesional exclusivamente en el idioma del usuario.
  1. Abre tu terminal de sistema y compila el modelo local ejecutando:
    ollama create atomic-core-1.1 -f Modelfile
    
  2. ¡Listo! Ejecuta e interactúa de forma local con el modelo:
    ollama run atomic-core-1.1
    

Opción B: Uso directo con Llama.cpp

Para ejecutar inferencia directa por consola sin dependencias externas pesadas:

./llama-cli -m unsloth.Q4_K_M.gguf -p "<|im_start|>system
Eres Atomic Core 1.1<|im_end|>
<|im_start|>user
Escribe un script en Python para leer un archivo JSON de forma segura<|im_end|>
<|im_start|>assistant
" -n 512