| --- |
| language: |
| - es |
| - en |
| pretty_name: Nova Prime — Moderno Tech |
| model_name: Nova Prime |
| model_creator: Moderno Tech |
| tags: |
| - moderno-tech |
| - nova |
| - nova-prime |
| - code |
| - reasoning |
| - multimodal |
| license: apache-2.0 |
| --- |
| |
| # NOVA PRIME |
| ### Capacidad y razonamiento |
|
|
| **Una nueva dimensión de inteligencia bajo Moderno Tech.** |
|
|
| Nova Prime es un modelo de lenguaje de arquitectura Mixture of Experts (MoE), diseñado para tareas avanzadas de comprensión, razonamiento, programación, análisis y procesamiento multimodal. |
|
|
| Forma parte de la familia **Nova AI**, el ecosistema de inteligencia artificial desarrollado y distribuido bajo la identidad de **Moderno Tech**. |
|
|
| - Organización: Moderno Tech |
| - Familia: Nova AI |
| - Modelo: Nova Prime |
| - Versión de distribución: 2.0 |
| - Arquitectura: Mixture of Experts (MoE) |
| - Modalidades: texto, imagen y video |
| - Parámetros totales: 35 mil millones |
| - Parámetros activos: aproximadamente 3 mil millones |
| - Contexto nativo: 262.144 tokens |
|
|
| Sitio oficial: https://moderno.com.ar |
|
|
| --- |
|
|
| ## 1. Visión general |
|
|
| Nova Prime está orientado a ofrecer capacidades avanzadas de inteligencia artificial mediante una arquitectura especializada que activa selectivamente sus expertos durante la inferencia. |
|
|
| Su diseño combina: |
|
|
| - Razonamiento avanzado. |
| - Comprensión de instrucciones complejas. |
| - Programación y desarrollo de software. |
| - Análisis de documentos. |
| - Procesamiento de imágenes. |
| - Comprensión de video. |
| - Interacción con herramientas y agentes. |
| - Manejo de contextos extensos. |
| - Resolución de problemas matemáticos y científicos. |
|
|
| Su arquitectura MoE permite seleccionar una parte de los expertos disponibles para cada token, en lugar de activar todos los expertos simultáneamente. |
|
|
| Esto no significa que el modelo ocupe solamente la memoria correspondiente a sus parámetros activos: los pesos completos, los componentes compartidos, la caché KV y los buffers también requieren memoria. |
|
|
| ## 2. Arquitectura del modelo |
|
|
| | Característica | Especificación | |
| |---|---| |
| | Arquitectura | Causal Language Model con Vision Encoder | |
| | Diseño | Mixture of Experts | |
| | Parámetros totales | 35B | |
| | Parámetros activos | 3B | |
| | Dimensión oculta | 2048 | |
| | Embeddings | 248.320 | |
| | Capas | 40 | |
| | Expertos totales | 256 | |
| | Expertos activados | 8 routed + 1 shared | |
| | Dimensión intermedia de expertos | 512 | |
| | Predicción multietapa | Multi-Token Prediction | |
| | Contexto nativo | 262.144 tokens | |
| | Contexto extendido | Hasta 1.010.000 tokens mediante configuración compatible | |
|
|
| ### Estructura interna |
|
|
| La arquitectura combina dos mecanismos de procesamiento: |
|
|
| - Gated DeltaNet. |
| - Gated Attention. |
|
|
| Distribución de bloques: |
|
|
| 10 × (3 × (Gated DeltaNet → MoE) + 1 × (Gated Attention → MoE)) |
|
|
| **Gated DeltaNet** |
| - 32 cabezas lineales para V. |
| - 16 cabezas para QK. |
| - Dimensión de cabeza: 128. |
|
|
| **Gated Attention** |
| - 16 cabezas Q. |
| - 2 cabezas KV. |
| - Dimensión de cabeza: 256. |
| - Dimensión RoPE: 64. |
|
|
| **Mixture of Experts** |
| - 256 expertos disponibles. |
| - 8 expertos routed por token. |
| - 1 experto compartido. |
| - Dimensión intermedia: 512. |
|
|
| La arquitectura también incorpora entrenamiento con Multi-Token Prediction (MTP). |
|
|
| ## 3. Capacidades principales |
|
|
| ### Razonamiento y análisis |
|
|
| Nova Prime está diseñado para abordar problemas complejos, análisis estructurados, comprensión contextual y tareas que requieren múltiples etapas de procesamiento. |
|
|
| ### Programación |
|
|
| Capacidades documentadas en el modelo de referencia: |
|
|
| - Desarrollo de aplicaciones. |
| - Comprensión de repositorios. |
| - Generación y modificación de código. |
| - Resolución de problemas de programación. |
| - Flujos de trabajo de desarrollo asistidos por agentes. |
| - Uso de herramientas de terminal y edición de archivos. |
|
|
| ### Inteligencia multimodal |
|
|
| La arquitectura incorpora un codificador visual y admite: |
|
|
| - Comprensión de imágenes. |
| - Reconocimiento de texto en imágenes. |
| - Análisis de documentos. |
| - Comprensión de contenido visual. |
| - Procesamiento de video mediante frameworks compatibles. |
|
|
| ### Agentes y herramientas |
|
|
| El modelo admite escenarios de uso con herramientas, llamadas a funciones y sistemas de agentes. |
|
|
| La integración concreta depende del framework de inferencia y de la implementación del sistema de herramientas. |
|
|
| ## 4. Contexto extendido |
|
|
| Nova Prime dispone de una longitud de contexto nativa de 262.144 tokens. |
|
|
| Con configuraciones compatibles de escalado RoPE mediante YaRN, puede extenderse hasta 1.010.000 tokens. |
|
|
| La extensión requiere configuración específica del framework. No debe considerarse una capacidad automáticamente habilitada en cualquier implementación. |
|
|
| Para preservar las capacidades de razonamiento en tareas extensas, la documentación de referencia recomienda mantener al menos 128K tokens cuando los recursos disponibles lo permitan. |
|
|
| ## 5. Evaluaciones y benchmarks |
|
|
| Los siguientes resultados corresponden a las evaluaciones publicadas por los desarrolladores del checkpoint de referencia. No son benchmarks realizados por Moderno Tech ni resultados de una evaluación independiente de Nova Prime. |
|
|
| ### Coding Agent |
|
|
| | Benchmark | Resultado publicado | |
| |---|---:| |
| | SWE-bench Verified | 73.4 | |
| | SWE-bench Multilingual | 67.2 | |
| | SWE-bench Pro | 49.5 | |
| | Terminal-Bench 2.0 | 51.5 | |
| | Claw-Eval Avg | 68.7 | |
| | SkillsBench Avg | 28.7 | |
| | QwenClawBench | 52.6 | |
| | NL2Repo | 29.4 | |
| | QwenWebBench | 1397 | |
|
|
| ### General Agent |
|
|
| | Benchmark | Resultado publicado | |
| |---|---:| |
| | TAU3-Bench | 67.2 | |
| | VITA-Bench | 35.6 | |
| | DeepPlanning | 25.9 | |
| | Tool Decathlon | 26.9 | |
| | MCPMark | 37.0 | |
| | MCP-Atlas | 62.8 | |
| | WideSearch | 60.1 | |
|
|
| ### Conocimiento y razonamiento |
|
|
| | Benchmark | Resultado publicado | |
| |---|---:| |
| | MMLU-Pro | 85.2 | |
| | MMLU-Redux | 93.3 | |
| | SuperGPQA | 64.7 | |
| | C-Eval | 90.0 | |
| | GPQA | 86.0 | |
| | HLE | 21.4 | |
| | LiveCodeBench v6 | 80.4 | |
| | AIME26 | 92.7 | |
|
|
| ### Visión y comprensión multimodal |
|
|
| | Benchmark | Resultado publicado | |
| |---|---:| |
| | MMMU | 81.7 | |
| | MMMU-Pro | 75.3 | |
| | MathVista Mini | 86.4 | |
| | RealWorldQA | 85.3 | |
| | MMBench EN | 92.8 | |
| | SimpleVQA | 58.9 | |
| | HallusionBench | 69.8 | |
| | OmniDocBench 1.5 | 89.9 | |
| | CC-OCR | 81.9 | |
| | VideoMMMU | 83.7 | |
|
|
| Los resultados dependen del protocolo, el entorno, los parámetros de generación y las herramientas utilizadas. Consultar la documentación de evaluación del modelo de referencia para conocer las condiciones específicas. |
|
|
| ## 6. Uso e inferencia |
|
|
| Nova Prime utiliza el formato de modelos compatible con Hugging Face Transformers. |
|
|
| La compatibilidad con otros motores depende de sus versiones y del soporte de la arquitectura. |
|
|
| Frameworks documentados para el checkpoint de referencia: |
|
|
| - Hugging Face Transformers. |
| - vLLM. |
| - SGLang. |
| - KTransformers. |
|
|
| Para despliegues de alto rendimiento, los requisitos de hardware y memoria deben evaluarse antes de seleccionar el motor. |
|
|
| ### Parámetros de generación |
|
|
| **Razonamiento general** |
|
|
| - Temperature: 1.0 |
| - Top P: 0.95 |
| - Top K: 20 |
| - Min P: 0.0 |
| - Presence Penalty: 1.5 |
| - Repetition Penalty: 1.0 |
|
|
| **Programación precisa** |
|
|
| - Temperature: 0.6 |
| - Top P: 0.95 |
| - Top K: 20 |
| - Min P: 0.0 |
| - Presence Penalty: 0.0 |
| - Repetition Penalty: 1.0 |
|
|
| **Modo directo / Instruct** |
|
|
| - Temperature: 0.7 |
| - Top P: 0.80 |
| - Top K: 20 |
| - Min P: 0.0 |
| - Presence Penalty: 1.5 |
| - Repetition Penalty: 1.0 |
|
|
| Los parámetros disponibles pueden variar según el framework. |
|
|
| ## 7. Modo de razonamiento |
|
|
| Nova Prime opera con razonamiento habilitado por defecto en la configuración de referencia. |
|
|
| El modelo puede generar bloques de razonamiento identificados mediante las etiquetas internas correspondientes. |
|
|
| Para obtener respuestas directas sin activar el modo de razonamiento, los frameworks compatibles permiten deshabilitarlo mediante sus parámetros de plantilla de chat. |
|
|
| La configuración de preservación de razonamiento histórico también puede utilizarse para conservar el contexto de razonamiento entre mensajes en escenarios de agentes. |
|
|
| Estas funciones dependen del soporte de la implementación utilizada. |
|
|
| ## 8. Procesamiento multimodal |
|
|
| ### Entrada de imágenes |
|
|
| El modelo puede recibir imágenes junto con instrucciones de texto mediante una API compatible con su arquitectura multimodal. |
|
|
| ### Entrada de video |
|
|
| La comprensión de video está disponible mediante frameworks compatibles que implementen el procesamiento de fotogramas y la preparación de datos multimodales. |
|
|
| La frecuencia de muestreo y la cantidad de fotogramas afectan el consumo de recursos. |
|
|
| ### Documentos |
|
|
| El modelo incluye capacidades de comprensión visual y reconocimiento de texto, útiles para analizar documentos, imágenes y contenido estructurado. |
|
|
| ## 9. Uso con agentes |
|
|
| Nova Prime está preparado para integrarse en flujos de trabajo con agentes y herramientas externas. |
|
|
| Los posibles escenarios incluyen: |
|
|
| - Agentes de programación. |
| - Automatización de tareas. |
| - Análisis de repositorios. |
| - Interacción con sistemas de archivos. |
| - Herramientas MCP. |
| - Ejecución de flujos de trabajo. |
| - Asistencia técnica y desarrollo de software. |
|
|
| Las herramientas deben ser configuradas y autorizadas por la aplicación que ejecuta el modelo. El modelo no obtiene acceso automático al sistema operativo ni a los archivos del usuario. |
|
|
| ## 10. Integración con el ecosistema Moderno Tech |
|
|
| Nova Prime forma parte de la familia Nova AI. |
|
|
| Su integración futura puede contemplar: |
|
|
| - Nova Home: interacción y asistencia inteligente. |
| - Nova Creative: generación y creación multimedia. |
| - Moderno OS: ejecución de modelos y agentes. |
| - Moderno Neural Engine: inferencia local y gestión de modelos MoE. |
| - Moderno Model Factory: entrenamiento, ajuste, evaluación y conversión de modelos. |
|
|
| Estas integraciones requieren sus respectivas implementaciones. Su mención en este documento no implica que todas estén habilitadas dentro del repositorio actual. |
|
|
| Sitio oficial: https://moderno.com.ar |
|
|
| ## 11. Licencia, procedencia y atribución |
|
|
| **Importante:** esta distribución utiliza como base un checkpoint preentrenado de terceros. |
|
|
| La identidad de producto, presentación y distribución corresponde a Moderno Tech, pero los pesos originales no deben presentarse como entrenados desde cero por Moderno Tech. |
|
|
| Se deben conservar la licencia original, los avisos de copyright, la atribución y los términos de uso aplicables al repositorio de origen. |
|
|
| Consultar el archivo `LICENSE` y los avisos legales incluidos en este repositorio antes de utilizar o redistribuir el modelo. |
|
|
| La documentación técnica y los resultados publicados por los desarrolladores originales deben atribuirse a sus respectivas fuentes. |
|
|
| ## 12. Referencias técnicas |
|
|
| - Documentación del checkpoint de referencia: Qwen3.6-35B-A3B. |
| - Arquitectura y especificaciones técnicas: documentación original del modelo. |
| - Frameworks de inferencia: Transformers, vLLM, SGLang y KTransformers. |
| - Referencias de evaluación: documentación y resultados publicados por los desarrolladores del checkpoint. |
|
|
| ## 13. Identidad |
|
|
| **NOVA AI** |
|
|
| Desarrollado y distribuido bajo la identidad de: |
|
|
| **MODERNO TECH** |
|
|
| https://moderno.com.ar |
|
|
| *Inteligencia que evoluciona. Tecnología que transforma.* |
