Instructions to use Frankenstein-Labs/cortex.6.sol with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use Frankenstein-Labs/cortex.6.sol with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="Frankenstein-Labs/cortex.6.sol")# pip install -U transformers accelerate # Load model directly from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained("Frankenstein-Labs/cortex.6.sol") model = AutoModelForCausalLM.from_pretrained("Frankenstein-Labs/cortex.6.sol", device_map="auto") - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- vLLM
How to use Frankenstein-Labs/cortex.6.sol with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "Frankenstein-Labs/cortex.6.sol" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Frankenstein-Labs/cortex.6.sol", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker
docker model run hf.co/Frankenstein-Labs/cortex.6.sol
- SGLang
How to use Frankenstein-Labs/cortex.6.sol with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "Frankenstein-Labs/cortex.6.sol" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Frankenstein-Labs/cortex.6.sol", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "Frankenstein-Labs/cortex.6.sol" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Frankenstein-Labs/cortex.6.sol", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }' - Docker Model Runner
How to use Frankenstein-Labs/cortex.6.sol with Docker Model Runner:
docker model run hf.co/Frankenstein-Labs/cortex.6.sol
Download docs/README.fr.md from Frankenstein-Labs/cortex.6.sol: direct link, hf CLI and curl.
- Browser
- Download file 4.67 kB
-
https://huggingface.co/Frankenstein-Labs/cortex.6.sol/resolve/main/docs/README.fr.md
- Command line
-
hf download hf://Frankenstein-Labs/cortex.6.sol/docs/README.fr.md
-
curl -L -o README.fr.md https://huggingface.co/Frankenstein-Labs/cortex.6.sol/resolve/main/docs/README.fr.md
Documentation CORTEX
Documentation en français pour CORTEX, l'intelligence artificielle développée par Frankenstein-Labs pour aider les personnes à apprendre, créer, programmer et progresser dans la technologie.
CORTEX est un projet créé et développé par Abdoulaye Coumbassa, fondateur de Frankenstein-Labs. Le modèle technique sur lequel s'appuie CORTEX est décrit, avec son attribution et sa licence, dans la section « Provenance et licence » plus bas.
Par où commencer
| Document | Contenu |
|---|---|
| Guide de démarrage | Récupérer le modèle, comprendre le matériel requis, faire un premier appel |
| Architecture de l'écosystème | Comment les briques s'assemblent, et le flux d'un appel en détail |
| L'API CORTEX AI | Points d'accès, SDK OpenAI, outils, déploiement |
| Encodage et appel d'outils | Format des messages, mode réflexion, appel d'outils, analyse des réponses |
| Inférence distribuée | Conversion, génération multi-GPU, serveurs vLLM et SGLang |
| Affinage du comportement | Préparer les données, configurer LoRA, entraîner |
| Couche vision | État réel de la couche vision, ce qui marche et ce qui ne marche pas |
En une minute
CORTEX s'appuie sur un modèle de très grande taille, à mixture d'experts, conçu pour le raisonnement long, la génération de code et la compréhension de contextes de plus d'un million de tokens.
Trois choses à savoir avant de commencer :
- Le modèle est énorme. Environ 893 Go sur disque. Il ne tourne pas sur une machine ordinaire, ni sur un seul GPU. Prévoyez un serveur multi-GPU.
- Les poids sont distribués tels quels. Frankenstein-Labs ne les a pas modifiés : ce sont les fichiers d'origine, octet pour octet. L'attribution complète figure dans la section « Provenance et licence ».
- La documentation est en français. C'est la contribution propre du projet : rendre cette intelligence utilisable par des développeurs francophones.
Le français et les langues
Le modèle traite nativement le français, l'anglais et le chinois. Il n'a pas besoin d'être affiné pour comprendre ou produire du français.
Ce qui manque aujourd'hui, ce n'est pas la capacité du modèle, c'est l'outillage autour : les exemples, les guides, le vocabulaire technique, l'accompagnement. C'est exactement ce que cette documentation apporte.
Un mot sur l'honnêteté technique
Cette documentation suit une règle simple : dire ce qui a été mesuré, et signaler ce qui ne l'a pas été.
Vous verrez donc régulièrement des mentions comme « non exécuté ici » ou « non vérifié ». Ce n'est pas de la prudence excessive. Un checkpoint de 893 Go ne peut pas être chargé sur une machine de développement ordinaire, et il serait malhonnête de présenter comme testé ce qui ne l'est pas.
Quand une information vient de la documentation DeepSeek et non de nos propres mesures, elle est citée comme telle.
Structure du dépôt
Cortex-ai
├── README.md carte du modèle
├── docs/ cette documentation
├── config.json architecture, quantification, MoE, MTP
├── tokenizer.json tokenizer BPE
├── model-00001..00066.safetensors 66 shards de poids
├── model.safetensors.index.json correspondance tenseur -> shard
├── encoding/ encodage des messages et analyse des sorties
├── inference/ conversion et génération distribuée
├── cortex_ai/ couche d'intégration CORTEX
│ ├── identity.py identité du projet
│ └── vision/ couche vision (expérimentale)
└── tests/ tests de la couche d'intégration
Provenance et licence
Les poids proviennent de deepseek-ai/DeepSeek-V4-Pro-0813 (DeepSeek-AI), sous licence MIT.
Le fichier LICENSE est reproduit à l'identique et porte la mention
Copyright (c) 2023 DeepSeek.
Le travail de Frankenstein-Labs porte sur l'identité du projet, la documentation francophone, la couche d'intégration et l'écosystème. Il ne porte pas sur l'entraînement du modèle.
Merci de citer le travail d'origine :
@misc{deepseekai2026deepseekv4,
title={DeepSeek-V4: Towards Highly Efficient Million-Token Context Intelligence},
author={DeepSeek-AI},
year={2026},
}