Text Generation
Transformers
Safetensors
French
English
Chinese
deepseek_v4
cortex
code-generation
web-development
software-engineering
Mixture of Experts
8-bit precision
fp8
Instructions to use Frankenstein-Labs/cortex.6.sol with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use Frankenstein-Labs/cortex.6.sol with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="Frankenstein-Labs/cortex.6.sol")# pip install -U transformers accelerate # Load model directly from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained("Frankenstein-Labs/cortex.6.sol") model = AutoModelForCausalLM.from_pretrained("Frankenstein-Labs/cortex.6.sol", device_map="auto") - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- vLLM
How to use Frankenstein-Labs/cortex.6.sol with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "Frankenstein-Labs/cortex.6.sol" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Frankenstein-Labs/cortex.6.sol", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker
docker model run hf.co/Frankenstein-Labs/cortex.6.sol
- SGLang
How to use Frankenstein-Labs/cortex.6.sol with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "Frankenstein-Labs/cortex.6.sol" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Frankenstein-Labs/cortex.6.sol", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "Frankenstein-Labs/cortex.6.sol" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Frankenstein-Labs/cortex.6.sol", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }' - Docker Model Runner
How to use Frankenstein-Labs/cortex.6.sol with Docker Model Runner:
docker model run hf.co/Frankenstein-Labs/cortex.6.sol
File size: 4,674 Bytes
f7ae039 2763f1c f7ae039 2763f1c f7ae039 2763f1c c63bc31 2763f1c c63bc31 2763f1c f7ae039 2763f1c f7ae039 2763f1c | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 | # Documentation CORTEX
Documentation en français pour **CORTEX**, l'intelligence artificielle développée par
**Frankenstein-Labs** pour aider les personnes à apprendre, créer, programmer et progresser
dans la technologie.
CORTEX est un projet créé et développé par **Abdoulaye Coumbassa**, fondateur de
**Frankenstein-Labs**. Le modèle technique sur lequel s'appuie CORTEX est décrit, avec son
attribution et sa licence, dans la section « Provenance et licence » plus bas.
---
## Par où commencer
| Document | Contenu |
|---|---|
| [Guide de démarrage](guide-demarrage.fr.md) | Récupérer le modèle, comprendre le matériel requis, faire un premier appel |
| [Architecture de l'écosystème](architecture.fr.md) | Comment les briques s'assemblent, et le flux d'un appel en détail |
| [L'API CORTEX AI](api.fr.md) | Points d'accès, SDK OpenAI, outils, déploiement |
| [Encodage et appel d'outils](encodage.fr.md) | Format des messages, mode réflexion, appel d'outils, analyse des réponses |
| [Inférence distribuée](inference-distribuee.fr.md) | Conversion, génération multi-GPU, serveurs vLLM et SGLang |
| [Affinage du comportement](affinage.fr.md) | Préparer les données, configurer LoRA, entraîner |
| [Couche vision](vision.fr.md) | État réel de la couche vision, ce qui marche et ce qui ne marche pas |
---
## En une minute
CORTEX s'appuie sur un modèle de très grande taille, à mixture d'experts, conçu pour le
raisonnement long, la génération de code et la compréhension de contextes de plus d'un million
de tokens.
Trois choses à savoir avant de commencer :
1. **Le modèle est énorme.** Environ 893 Go sur disque. Il ne tourne pas sur une machine
ordinaire, ni sur un seul GPU. Prévoyez un serveur multi-GPU.
2. **Les poids sont distribués tels quels.** Frankenstein-Labs ne les a pas modifiés : ce sont
les fichiers d'origine, octet pour octet. L'attribution complète figure dans la section
« Provenance et licence ».
3. **La documentation est en français.** C'est la contribution propre du projet : rendre cette
intelligence utilisable par des développeurs francophones.
---
## Le français et les langues
Le modèle traite nativement le **français**, l'anglais et le chinois. Il n'a pas besoin d'être
affiné pour comprendre ou produire du français.
Ce qui manque aujourd'hui, ce n'est pas la capacité du modèle, c'est l'outillage autour : les
exemples, les guides, le vocabulaire technique, l'accompagnement. C'est exactement ce que cette
documentation apporte.
---
## Un mot sur l'honnêteté technique
Cette documentation suit une règle simple : **dire ce qui a été mesuré, et signaler ce qui ne
l'a pas été.**
Vous verrez donc régulièrement des mentions comme « non exécuté ici » ou « non vérifié ». Ce
n'est pas de la prudence excessive. Un checkpoint de 893 Go ne peut pas être chargé sur une
machine de développement ordinaire, et il serait malhonnête de présenter comme testé ce qui ne
l'est pas.
Quand une information vient de la documentation DeepSeek et non de nos propres mesures, elle est
citée comme telle.
---
## Structure du dépôt
```text
Cortex-ai
├── README.md carte du modèle
├── docs/ cette documentation
├── config.json architecture, quantification, MoE, MTP
├── tokenizer.json tokenizer BPE
├── model-00001..00066.safetensors 66 shards de poids
├── model.safetensors.index.json correspondance tenseur -> shard
├── encoding/ encodage des messages et analyse des sorties
├── inference/ conversion et génération distribuée
├── cortex_ai/ couche d'intégration CORTEX
│ ├── identity.py identité du projet
│ └── vision/ couche vision (expérimentale)
└── tests/ tests de la couche d'intégration
```
---
## Provenance et licence
Les poids proviennent de **`deepseek-ai/DeepSeek-V4-Pro-0813`** (DeepSeek-AI), sous licence MIT.
Le fichier [`LICENSE`](../LICENSE) est reproduit à l'identique et porte la mention
`Copyright (c) 2023 DeepSeek`.
Le travail de Frankenstein-Labs porte sur l'identité du projet, la documentation francophone,
la couche d'intégration et l'écosystème. Il ne porte pas sur l'entraînement du modèle.
Merci de citer le travail d'origine :
```bibtex
@misc{deepseekai2026deepseekv4,
title={DeepSeek-V4: Towards Highly Efficient Million-Token Context Intelligence},
author={DeepSeek-AI},
year={2026},
}
```
|