Blame for README.md

---
language:
- es
- en
pretty_name: Nova Prime — Moderno Tech
model_name: Nova Prime
model_creator: Moderno Tech
tags:
- moderno-tech
- nova
- nova-prime
- code
- reasoning
- multimodal
license: apache-2.0
---

# NOVA PRIME
### Capacidad y razonamiento

**Una nueva dimensión de inteligencia bajo Moderno Tech.**

Nova Prime es un modelo de lenguaje de arquitectura Mixture of Experts (MoE), diseñado para tareas avanzadas de comprensión, razonamiento, programación, análisis y procesamiento multimodal.

Forma parte de la familia **Nova AI**, el ecosistema de inteligencia artificial desarrollado y distribuido bajo la identidad de **Moderno Tech**.

- Organización: Moderno Tech
- Familia: Nova AI
- Modelo: Nova Prime
- Versión de distribución: 2.0
- Arquitectura: Mixture of Experts (MoE)
- Modalidades: texto, imagen y video
- Parámetros totales: 35 mil millones
- Parámetros activos: aproximadamente 3 mil millones
- Contexto nativo: 262.144 tokens

Sitio oficial: https://moderno.com.ar

---

## 1. Visión general

Nova Prime está orientado a ofrecer capacidades avanzadas de inteligencia artificial mediante una arquitectura especializada que activa selectivamente sus expertos durante la inferencia.

Su diseño combina:

- Razonamiento avanzado.
- Comprensión de instrucciones complejas.
- Programación y desarrollo de software.
- Análisis de documentos.
- Procesamiento de imágenes.
- Comprensión de video.
- Interacción con herramientas y agentes.
- Manejo de contextos extensos.
- Resolución de problemas matemáticos y científicos.

Su arquitectura MoE permite seleccionar una parte de los expertos disponibles para cada token, en lugar de activar todos los expertos simultáneamente.

Esto no significa que el modelo ocupe solamente la memoria correspondiente a sus parámetros activos: los pesos completos, los componentes compartidos, la caché KV y los buffers también requieren memoria.

## 2. Arquitectura del modelo

| Característica | Especificación |
|---|---|
| Arquitectura | Causal Language Model con Vision Encoder |
| Diseño | Mixture of Experts |
| Parámetros totales | 35B |
| Parámetros activos | 3B |
| Dimensión oculta | 2048 |
| Embeddings | 248.320 |
| Capas | 40 |
| Expertos totales | 256 |
| Expertos activados | 8 routed + 1 shared |
| Dimensión intermedia de expertos | 512 |
| Predicción multietapa | Multi-Token Prediction |
| Contexto nativo | 262.144 tokens |
| Contexto extendido | Hasta 1.010.000 tokens mediante configuración compatible |

### Estructura interna

La arquitectura combina dos mecanismos de procesamiento:

- Gated DeltaNet.
- Gated Attention.

Distribución de bloques:

10 × (3 × (Gated DeltaNet → MoE) + 1 × (Gated Attention → MoE))

**Gated DeltaNet**
- 32 cabezas lineales para V.
- 16 cabezas para QK.
- Dimensión de cabeza: 128.

**Gated Attention**
- 16 cabezas Q.
- 2 cabezas KV.
- Dimensión de cabeza: 256.
- Dimensión RoPE: 64.

**Mixture of Experts**
- 256 expertos disponibles.
- 8 expertos routed por token.
- 1 experto compartido.
- Dimensión intermedia: 512.

La arquitectura también incorpora entrenamiento con Multi-Token Prediction (MTP).

## 3. Capacidades principales

### Razonamiento y análisis

Nova Prime está diseñado para abordar problemas complejos, análisis estructurados, comprensión contextual y tareas que requieren múltiples etapas de procesamiento.

### Programación

Capacidades documentadas en el modelo de referencia:

- Desarrollo de aplicaciones.
- Comprensión de repositorios.
- Generación y modificación de código.
- Resolución de problemas de programación.
- Flujos de trabajo de desarrollo asistidos por agentes.
- Uso de herramientas de terminal y edición de archivos.

### Inteligencia multimodal

La arquitectura incorpora un codificador visual y admite:

- Comprensión de imágenes.
- Reconocimiento de texto en imágenes.
- Análisis de documentos.
- Comprensión de contenido visual.
- Procesamiento de video mediante frameworks compatibles.

### Agentes y herramientas

El modelo admite escenarios de uso con herramientas, llamadas a funciones y sistemas de agentes.

La integración concreta depende del framework de inferencia y de la implementación del sistema de herramientas.

## 4. Contexto extendido

Nova Prime dispone de una longitud de contexto nativa de 262.144 tokens.

Con configuraciones compatibles de escalado RoPE mediante YaRN, puede extenderse hasta 1.010.000 tokens.

La extensión requiere configuración específica del framework. No debe considerarse una capacidad automáticamente habilitada en cualquier implementación.

Para preservar las capacidades de razonamiento en tareas extensas, la documentación de referencia recomienda mantener al menos 128K tokens cuando los recursos disponibles lo permitan.

## 5. Evaluaciones y benchmarks

Los siguientes resultados corresponden a las evaluaciones publicadas por los desarrolladores del checkpoint de referencia. No son benchmarks realizados por Moderno Tech ni resultados de una evaluación independiente de Nova Prime.

### Coding Agent

| Benchmark | Resultado publicado |
|---|---:|
| SWE-bench Verified | 73.4 |
| SWE-bench Multilingual | 67.2 |
| SWE-bench Pro | 49.5 |
| Terminal-Bench 2.0 | 51.5 |
| Claw-Eval Avg | 68.7 |
| SkillsBench Avg | 28.7 |
| QwenClawBench | 52.6 |
| NL2Repo | 29.4 |
| QwenWebBench | 1397 |

### General Agent

| Benchmark | Resultado publicado |
|---|---:|
| TAU3-Bench | 67.2 |
| VITA-Bench | 35.6 |
| DeepPlanning | 25.9 |
| Tool Decathlon | 26.9 |
| MCPMark | 37.0 |
| MCP-Atlas | 62.8 |
| WideSearch | 60.1 |

### Conocimiento y razonamiento

| Benchmark | Resultado publicado |
|---|---:|
| MMLU-Pro | 85.2 |
| MMLU-Redux | 93.3 |
| SuperGPQA | 64.7 |
| C-Eval | 90.0 |
| GPQA | 86.0 |
| HLE | 21.4 |
| LiveCodeBench v6 | 80.4 |
| AIME26 | 92.7 |

### Visión y comprensión multimodal

| Benchmark | Resultado publicado |
|---|---:|
| MMMU | 81.7 |
| MMMU-Pro | 75.3 |
| MathVista Mini | 86.4 |
| RealWorldQA | 85.3 |
| MMBench EN | 92.8 |
| SimpleVQA | 58.9 |
| HallusionBench | 69.8 |
| OmniDocBench 1.5 | 89.9 |
| CC-OCR | 81.9 |
| VideoMMMU | 83.7 |

Los resultados dependen del protocolo, el entorno, los parámetros de generación y las herramientas utilizadas. Consultar la documentación de evaluación del modelo de referencia para conocer las condiciones específicas.

## 6. Uso e inferencia

Nova Prime utiliza el formato de modelos compatible con Hugging Face Transformers.

La compatibilidad con otros motores depende de sus versiones y del soporte de la arquitectura.

Frameworks documentados para el checkpoint de referencia:

- Hugging Face Transformers.
- vLLM.
- SGLang.
- KTransformers.

Para despliegues de alto rendimiento, los requisitos de hardware y memoria deben evaluarse antes de seleccionar el motor.

### Parámetros de generación

**Razonamiento general**

- Temperature: 1.0
- Top P: 0.95
- Top K: 20
- Min P: 0.0
- Presence Penalty: 1.5
- Repetition Penalty: 1.0

**Programación precisa**

- Temperature: 0.6
- Top P: 0.95
- Top K: 20
- Min P: 0.0
- Presence Penalty: 0.0
- Repetition Penalty: 1.0

**Modo directo / Instruct**

- Temperature: 0.7
- Top P: 0.80
- Top K: 20
- Min P: 0.0
- Presence Penalty: 1.5
- Repetition Penalty: 1.0

Los parámetros disponibles pueden variar según el framework.

## 7. Modo de razonamiento

Nova Prime opera con razonamiento habilitado por defecto en la configuración de referencia.

El modelo puede generar bloques de razonamiento identificados mediante las etiquetas internas correspondientes.

Para obtener respuestas directas sin activar el modo de razonamiento, los frameworks compatibles permiten deshabilitarlo mediante sus parámetros de plantilla de chat.

La configuración de preservación de razonamiento histórico también puede utilizarse para conservar el contexto de razonamiento entre mensajes en escenarios de agentes.

Estas funciones dependen del soporte de la implementación utilizada.

## 8. Procesamiento multimodal

### Entrada de imágenes

El modelo puede recibir imágenes junto con instrucciones de texto mediante una API compatible con su arquitectura multimodal.

### Entrada de video

La comprensión de video está disponible mediante frameworks compatibles que implementen el procesamiento de fotogramas y la preparación de datos multimodales.

La frecuencia de muestreo y la cantidad de fotogramas afectan el consumo de recursos.

### Documentos

El modelo incluye capacidades de comprensión visual y reconocimiento de texto, útiles para analizar documentos, imágenes y contenido estructurado.

## 9. Uso con agentes

Nova Prime está preparado para integrarse en flujos de trabajo con agentes y herramientas externas.

Los posibles escenarios incluyen:

- Agentes de programación.
- Automatización de tareas.
- Análisis de repositorios.
- Interacción con sistemas de archivos.
- Herramientas MCP.
- Ejecución de flujos de trabajo.
- Asistencia técnica y desarrollo de software.

Las herramientas deben ser configuradas y autorizadas por la aplicación que ejecuta el modelo. El modelo no obtiene acceso automático al sistema operativo ni a los archivos del usuario.

## 10. Integración con el ecosistema Moderno Tech

Nova Prime forma parte de la familia Nova AI.

Su integración futura puede contemplar:

- Nova Home: interacción y asistencia inteligente.
- Nova Creative: generación y creación multimedia.
- Moderno OS: ejecución de modelos y agentes.
- Moderno Neural Engine: inferencia local y gestión de modelos MoE.
- Moderno Model Factory: entrenamiento, ajuste, evaluación y conversión de modelos.

Estas integraciones requieren sus respectivas implementaciones. Su mención en este documento no implica que todas estén habilitadas dentro del repositorio actual.

Sitio oficial: https://moderno.com.ar

## 11. Licencia, procedencia y atribución

**Importante:** esta distribución utiliza como base un checkpoint preentrenado de terceros.

La identidad de producto, presentación y distribución corresponde a Moderno Tech, pero los pesos originales no deben presentarse como entrenados desde cero por Moderno Tech.

Se deben conservar la licencia original, los avisos de copyright, la atribución y los términos de uso aplicables al repositorio de origen.

Consultar el archivo `LICENSE` y los avisos legales incluidos en este repositorio antes de utilizar o redistribuir el modelo.

La documentación técnica y los resultados publicados por los desarrolladores originales deben atribuirse a sus respectivas fuentes.

## 12. Referencias técnicas

- Documentación del checkpoint de referencia: Qwen3.6-35B-A3B.
- Arquitectura y especificaciones técnicas: documentación original del modelo.
- Frameworks de inferencia: Transformers, vLLM, SGLang y KTransformers.
- Referencias de evaluación: documentación y resultados publicados por los desarrolladores del checkpoint.

## 13. Identidad

**NOVA AI**

Desarrollado y distribuido bajo la identidad de:

**MODERNO TECH**

https://moderno.com.ar

*Inteligencia que evoluciona. Tecnología que transforma.*