Text Generation
Transformers
Safetensors
French
English
Chinese
deepseek_v4
cortex
code-generation
web-development
software-engineering
Mixture of Experts
8-bit precision
fp8
Instructions to use Frankenstein-Labs/cortex.6.sol with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use Frankenstein-Labs/cortex.6.sol with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="Frankenstein-Labs/cortex.6.sol")# pip install -U transformers accelerate # Load model directly from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained("Frankenstein-Labs/cortex.6.sol") model = AutoModelForCausalLM.from_pretrained("Frankenstein-Labs/cortex.6.sol", device_map="auto") - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- vLLM
How to use Frankenstein-Labs/cortex.6.sol with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "Frankenstein-Labs/cortex.6.sol" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Frankenstein-Labs/cortex.6.sol", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker
docker model run hf.co/Frankenstein-Labs/cortex.6.sol
- SGLang
How to use Frankenstein-Labs/cortex.6.sol with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "Frankenstein-Labs/cortex.6.sol" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Frankenstein-Labs/cortex.6.sol", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "Frankenstein-Labs/cortex.6.sol" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Frankenstein-Labs/cortex.6.sol", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }' - Docker Model Runner
How to use Frankenstein-Labs/cortex.6.sol with Docker Model Runner:
docker model run hf.co/Frankenstein-Labs/cortex.6.sol
openhands
openhands
docs(cortex): center public presentation on CORTEX and Frankenstein-Labs
f7ae039 |
Download docs/README.fr.md from Frankenstein-Labs/cortex.6.sol: direct link, hf CLI and curl.
- Browser
- Download file 4.67 kB
-
https://huggingface.co/Frankenstein-Labs/cortex.6.sol/resolve/main/docs/README.fr.md
- Command line
-
hf download hf://Frankenstein-Labs/cortex.6.sol/docs/README.fr.md
-
curl -L -o README.fr.md https://huggingface.co/Frankenstein-Labs/cortex.6.sol/resolve/main/docs/README.fr.md
4.67 kB
| # Documentation CORTEX | |
| Documentation en français pour **CORTEX**, l'intelligence artificielle développée par | |
| **Frankenstein-Labs** pour aider les personnes à apprendre, créer, programmer et progresser | |
| dans la technologie. | |
| CORTEX est un projet créé et développé par **Abdoulaye Coumbassa**, fondateur de | |
| **Frankenstein-Labs**. Le modèle technique sur lequel s'appuie CORTEX est décrit, avec son | |
| attribution et sa licence, dans la section « Provenance et licence » plus bas. | |
| --- | |
| ## Par où commencer | |
| | Document | Contenu | | |
| |---|---| | |
| | [Guide de démarrage](guide-demarrage.fr.md) | Récupérer le modèle, comprendre le matériel requis, faire un premier appel | | |
| | [Architecture de l'écosystème](architecture.fr.md) | Comment les briques s'assemblent, et le flux d'un appel en détail | | |
| | [L'API CORTEX AI](api.fr.md) | Points d'accès, SDK OpenAI, outils, déploiement | | |
| | [Encodage et appel d'outils](encodage.fr.md) | Format des messages, mode réflexion, appel d'outils, analyse des réponses | | |
| | [Inférence distribuée](inference-distribuee.fr.md) | Conversion, génération multi-GPU, serveurs vLLM et SGLang | | |
| | [Affinage du comportement](affinage.fr.md) | Préparer les données, configurer LoRA, entraîner | | |
| | [Couche vision](vision.fr.md) | État réel de la couche vision, ce qui marche et ce qui ne marche pas | | |
| --- | |
| ## En une minute | |
| CORTEX s'appuie sur un modèle de très grande taille, à mixture d'experts, conçu pour le | |
| raisonnement long, la génération de code et la compréhension de contextes de plus d'un million | |
| de tokens. | |
| Trois choses à savoir avant de commencer : | |
| 1. **Le modèle est énorme.** Environ 893 Go sur disque. Il ne tourne pas sur une machine | |
| ordinaire, ni sur un seul GPU. Prévoyez un serveur multi-GPU. | |
| 2. **Les poids sont distribués tels quels.** Frankenstein-Labs ne les a pas modifiés : ce sont | |
| les fichiers d'origine, octet pour octet. L'attribution complète figure dans la section | |
| « Provenance et licence ». | |
| 3. **La documentation est en français.** C'est la contribution propre du projet : rendre cette | |
| intelligence utilisable par des développeurs francophones. | |
| --- | |
| ## Le français et les langues | |
| Le modèle traite nativement le **français**, l'anglais et le chinois. Il n'a pas besoin d'être | |
| affiné pour comprendre ou produire du français. | |
| Ce qui manque aujourd'hui, ce n'est pas la capacité du modèle, c'est l'outillage autour : les | |
| exemples, les guides, le vocabulaire technique, l'accompagnement. C'est exactement ce que cette | |
| documentation apporte. | |
| --- | |
| ## Un mot sur l'honnêteté technique | |
| Cette documentation suit une règle simple : **dire ce qui a été mesuré, et signaler ce qui ne | |
| l'a pas été.** | |
| Vous verrez donc régulièrement des mentions comme « non exécuté ici » ou « non vérifié ». Ce | |
| n'est pas de la prudence excessive. Un checkpoint de 893 Go ne peut pas être chargé sur une | |
| machine de développement ordinaire, et il serait malhonnête de présenter comme testé ce qui ne | |
| l'est pas. | |
| Quand une information vient de la documentation DeepSeek et non de nos propres mesures, elle est | |
| citée comme telle. | |
| --- | |
| ## Structure du dépôt | |
| ```text | |
| Cortex-ai | |
| ├── README.md carte du modèle | |
| ├── docs/ cette documentation | |
| ├── config.json architecture, quantification, MoE, MTP | |
| ├── tokenizer.json tokenizer BPE | |
| ├── model-00001..00066.safetensors 66 shards de poids | |
| ├── model.safetensors.index.json correspondance tenseur -> shard | |
| ├── encoding/ encodage des messages et analyse des sorties | |
| ├── inference/ conversion et génération distribuée | |
| ├── cortex_ai/ couche d'intégration CORTEX | |
| │ ├── identity.py identité du projet | |
| │ └── vision/ couche vision (expérimentale) | |
| └── tests/ tests de la couche d'intégration | |
| ``` | |
| --- | |
| ## Provenance et licence | |
| Les poids proviennent de **`deepseek-ai/DeepSeek-V4-Pro-0813`** (DeepSeek-AI), sous licence MIT. | |
| Le fichier [`LICENSE`](../LICENSE) est reproduit à l'identique et porte la mention | |
| `Copyright (c) 2023 DeepSeek`. | |
| Le travail de Frankenstein-Labs porte sur l'identité du projet, la documentation francophone, | |
| la couche d'intégration et l'écosystème. Il ne porte pas sur l'entraînement du modèle. | |
| Merci de citer le travail d'origine : | |
| ```bibtex | |
| @misc{deepseekai2026deepseekv4, | |
| title={DeepSeek-V4: Towards Highly Efficient Million-Token Context Intelligence}, | |
| author={DeepSeek-AI}, | |
| year={2026}, | |
| } | |
| ``` | |