Korzadi commited on
Commit
4373c2c
·
verified ·
1 Parent(s): 44ec941

Update Model Card with official technical metrics and GGUF local installation guide

Browse files
Files changed (1) hide show
  1. README.md +56 -28
README.md CHANGED
@@ -12,40 +12,68 @@ base_model: unsloth/Qwen2.5-Coder-7B-Instruct-bnb-4bit
12
  pipeline_tag: text-generation
13
  ---
14
 
15
- # Atomic Code 1.1
16
 
17
- **Atomic Code 1.1** es un modelo avanzado de asistencia en programación e ingeniería de software optimizado mediante QLoRA fine-tuning a partir del modelo base `Qwen2.5-Coder-7B-Instruct`.
18
 
19
- Esta versión incorpora un refinamiento lógico estructurado orientado a la robustez del código, diseño modular y diagnóstico preciso de errores en múltiples lenguajes (Python, Go, JS/TS, React, SQL, Docker, etc.).
20
 
21
- ## 🚀 Características Clave
22
- - **Precisión lógica mejorada:** Inyección de pautas de diagnóstico sistemático paso a paso.
23
- - **Formato GGUF listo para usar:** Cuantizado en alta calidad utilizando el método **Q4_K_M** compatible con Llama.cpp y Ollama.
24
- - **Preservación de identidad:** Mantiene el comportamiento preciso de la familia de modelos Atomic.
25
 
26
- ## 🛠️ Hiperparámetros de Entrenamiento
 
 
 
 
 
 
27
 
28
- El ajuste fino se realizó bajo los siguientes parámetros de hardware y arquitectura en una GPU NVIDIA Tesla T4:
29
 
30
- | Parámetro | Valor |
31
- | :--- | :--- |
32
- | **Modelo Base** | `unsloth/Qwen2.5-Coder-7B-Instruct-bnb-4bit` |
33
- | **LoRA Rank (r)** | 32 |
34
- | **LoRA Alpha** | 32 |
35
- | **Target Modules** | `q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj` |
36
- | **Max Sequence Length** | 2048 tokens |
37
- | **Tasa de Aprendizaje (LR)** | 2e-4 |
38
- | **Optimizador** | `adamw_8bit` |
39
- | **Batch Size Efectivo** | 8 (Micro-batch 2, Accumulation Steps 4) |
40
- | **Pasos de Entrenamiento** | 30 pasos de entrenamiento intensivo |
41
 
42
- ## 📊 Resultados de la Evaluación
43
- Evaluado contra el conjunto oficial de pruebas lógicas y sintácticas de la suite Atomic:
44
- - **Tasa de precisión del código:** **52.86%** de acierto directo en aserciones de pruebas automatizadas (tests de ejecución y validadores AST).
45
 
46
- ## 📂 Estructura de Entregables del Repositorio
47
- - `/` (Archivos raíz): Adaptador LoRA en formato Safetensors y Tokenizer nativo.
48
- - `*.gguf`: Archivos binarios optimizados listos para su despliegue local.
49
 
50
- ---
51
- *Documentación generada automáticamente como parte del flujo de compilación de Atomic Code 1.1.*
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
12
  pipeline_tag: text-generation
13
  ---
14
 
15
+ # Atomic Core 1.1 (Base Model & GGUF)
16
 
17
+ **Atomic Core 1.1** es un modelo de lenguaje de alto rendimiento especializado en desarrollo de software, programación multilingüe y razonamiento de ingeniería. Ha sido entrenado utilizando el framework **Unsloth** a partir de la arquitectura base `Qwen2.5-Coder-7B-Instruct` mediante técnicas de optimización de memoria QLoRA, consolidando sus pesos finales directamente en precisión de punto flotante de 16 bits (FP16).
18
 
19
+ Esta versión integra un refinamiento sistemático estructurado que mejora la coherencia en la resolución de problemas complejos, modularización del código y autovalidación mediante aserciones.
20
 
21
+ ## 🛠️ Especificaciones de Entrenamiento Reales
 
 
 
22
 
23
+ - **Modelo Base:** `unsloth/Qwen2.5-Coder-7B-Instruct-bnb-4bit`
24
+ - **Tamaño del Dataset:** 94 registros altamente especializados en formato de conversación de chat multi-turno.
25
+ - **Hiperparámetros de Adaptación:**
26
+ - **LoRA Rank (r):** 32 | **LoRA Alpha:** 32
27
+ - **Módulos objetivo:** `q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj`
28
+ - **Pasos máximos:** 30 pasos de entrenamiento intensivo.
29
+ - **Learning Rate:** 2e-4 con optimizador `adamw_8bit` para eficiencia de memoria.
30
 
31
+ ## 📊 Resultados de la Evaluación Real
32
 
33
+ Evaluado estrictamente contra la suite oficial de pruebas sintácticas automatizadas y validadores de sintaxis AST (Abstract Syntax Tree) de la familia de modelos Atomic:
34
+ - **Tasa de éxito en aserciones de código:** **52.86%** de precisión de ejecución directa sin errores sintácticos en el entorno de evaluación controlada.
 
 
 
 
 
 
 
 
 
35
 
36
+ ---
 
 
37
 
38
+ ## 📦 Guía de Instalación y Ejecución Local (GGUF)
 
 
39
 
40
+ Este repositorio incluye la versión oficial de bajo consumo cuantizada en alta precisión **unsloth.Q4_K_M.gguf** usando el algoritmo de cuantización simétrica optimizada **Q4_K_M**.
41
+
42
+ ### Opción A: Uso local con Ollama (Recomendado)
43
+
44
+ 1. Asegúrate de tener **Ollama** instalado en tu sistema local ([descargar aquí](https://ollama.com)).
45
+ 2. Descarga el archivo `unsloth.Q4_K_M.gguf` desde este repositorio.
46
+ 3. Crea un archivo de configuración plano llamado `Modelfile` en el mismo directorio con el siguiente contenido:
47
+
48
+ ```dockerfile
49
+ FROM ./unsloth.Q4_K_M.gguf
50
+
51
+ # Ajustar temperatura para respuestas técnicas y precisas
52
+ PARAMETER temperature 0.2
53
+ PARAMETER stop <|im_start|>
54
+ PARAMETER stop <|im_end|>
55
+
56
+ # Plantilla de chat oficial del sistema para Atomic Core
57
+ SYSTEM Eres Atomic Core 1.1, un asistente virtual experto en programación de software de la familia Atomic. Respondes con un estilo técnico, estructurado, limpio y profesional exclusivamente en el idioma del usuario.
58
+ ```
59
+
60
+ 4. Abre tu terminal de sistema y compila el modelo local ejecutando:
61
+ ```bash
62
+ ollama create atomic-core-1.1 -f Modelfile
63
+ ```
64
+ 5. ¡Listo! Ejecuta e interactúa de forma local con el modelo:
65
+ ```bash
66
+ ollama run atomic-core-1.1
67
+ ```
68
+
69
+ ### Opción B: Uso directo con Llama.cpp
70
+
71
+ Para ejecutar inferencia directa por consola sin dependencias externas pesadas:
72
+ ```bash
73
+ ./llama-cli -m unsloth.Q4_K_M.gguf -p "<|im_start|>system
74
+ Eres Atomic Core 1.1<|im_end|>
75
+ <|im_start|>user
76
+ Escribe un script en Python para leer un archivo JSON de forma segura<|im_end|>
77
+ <|im_start|>assistant
78
+ " -n 512
79
+ ```