Instructions to use Frankenstein-Labs/cortex.6.sol with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use Frankenstein-Labs/cortex.6.sol with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="Frankenstein-Labs/cortex.6.sol")

# pip install -U transformers accelerate
# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("Frankenstein-Labs/cortex.6.sol")
model = AutoModelForCausalLM.from_pretrained("Frankenstein-Labs/cortex.6.sol", device_map="auto")

Notebooks
Google Colab
Kaggle
Local Apps Settings

vLLM

How to use Frankenstein-Labs/cortex.6.sol with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "Frankenstein-Labs/cortex.6.sol"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Frankenstein-Labs/cortex.6.sol",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'

Use Docker

docker model run hf.co/Frankenstein-Labs/cortex.6.sol

SGLang

How to use Frankenstein-Labs/cortex.6.sol with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "Frankenstein-Labs/cortex.6.sol" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Frankenstein-Labs/cortex.6.sol",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "Frankenstein-Labs/cortex.6.sol" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Frankenstein-Labs/cortex.6.sol",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'

Docker Model Runner
How to use Frankenstein-Labs/cortex.6.sol with Docker Model Runner:
```
docker model run hf.co/Frankenstein-Labs/cortex.6.sol
```

cortex.6.sol / datasets /README.md

openhands

feat(cortex): add CORTEX training pipeline and model audit

6fbe100 about 1 month ago

preview code

Raw History Blame Contribute Delete

2.76 kB

# CORTEX — datasets

Datasets de code pour l'entraînement de CORTEX, avec traçabilité complète des sources et
des licences.

| Fichier | Rôle |
|---|---|
| `registry.json` | déclaration des sources, licences et jeux refusés |
| `build.py` | récupération reproductible des échantillons |
| `<id>.jsonl` | les enregistrements |
| `<id>.meta.json` | provenance : source, licence, compteurs, SHA-256 |

## Jeux retenus

| id | Source | Licence | Usage |
|---|---|---|---|
| `cortex-code-sft` | `sahil2801/CodeAlpaca-20k` | CC BY 4.0 | entraînement |
| `cortex-code-tests` | `google-research-datasets/mbpp` | CC BY 4.0 | entraînement / évaluation |
| `cortex-code-eval` | `openai/openai_humaneval` | MIT | **évaluation seule** |

Les licences ci-dessus ont été lues depuis l'API du Hub, pas reprises de mémoire.

### Attributions

- **CodeAlpaca-20k** — CC BY 4.0. Citer le dépôt `sahil2801/CodeAlpaca-20k`.
- **MBPP** — Google Research, CC BY 4.0. Citer `google-research-datasets/mbpp`.
- **HumanEval** — OpenAI, licence MIT. Citer `openai/openai_humaneval`.

## Jeux refusés

Ces sources existent et sont populaires, mais ne peuvent pas entrer dans CORTEX :

| Source | Licence déclarée | Motif du refus |
|---|---|---|
| `bigcode/the-stack-dedup` | `other` | accès sous conditions, termes non vérifiables |
| `bigcode/starcoderdata` | `other` | accès sous conditions, licences par fichier non déclarées |
| `codeparrot/codeparrot-clean` | aucune | aucun octroi de licence |
| `codeparrot/github-code` | `other` | termes non vérifiables |
| `iamtarun/python_code_instructions_18k_alpaca` | aucune | aucun octroi de licence |

`the-stack-dedup` et `starcoderdata` sont les sources les plus utilisées pour entraîner des
modèles de code. Elles restent hors de ce pipeline tant que leurs termes ne peuvent pas
être vérifiés depuis les métadonnées du Hub.

## Traçabilité

Chaque `<id>.meta.json` enregistre :

```json
{
  "source": "sahil2801/CodeAlpaca-20k",
  "license": "cc-by-4.0",
  "license_url": "https://huggingface.co/datasets/sahil2801/CodeAlpaca-20k",
  "attribution": "...",
  "rows_fetched": 200,
  "records_written": 200,
  "jsonl_sha256": "...",
  "fetched_via": "https://datasets-server.huggingface.co/rows"
}
```

Un test vérifie que le SHA-256 de chaque `.jsonl` correspond à celui de son `.meta.json`.

## Utilisation

```bash
python datasets/build.py --dataset cortex-code-sft --limit 200
python datasets/build.py --all --limit 200
```

Les échantillons sont volontairement petits (quelques centaines de lignes) pour que le
pipeline soit exécutable et vérifiable sur une machine de développement. Ce ne sont pas
des corpus d'entraînement à l'échelle : voir `docs/pipeline-cortex.fr.md`.

	# CORTEX — datasets

	Datasets de code pour l'entraînement de CORTEX, avec traçabilité complète des sources et
	des licences.

	\| Fichier \| Rôle \|
	\|---\|---\|
	\| `registry.json` \| déclaration des sources, licences et jeux refusés \|
	\| `build.py` \| récupération reproductible des échantillons \|
	\| `<id>.jsonl` \| les enregistrements \|
	\| `<id>.meta.json` \| provenance : source, licence, compteurs, SHA-256 \|

	## Jeux retenus

	\| id \| Source \| Licence \| Usage \|
	\|---\|---\|---\|---\|
	\| `cortex-code-sft` \| `sahil2801/CodeAlpaca-20k` \| CC BY 4.0 \| entraînement \|
	\| `cortex-code-tests` \| `google-research-datasets/mbpp` \| CC BY 4.0 \| entraînement / évaluation \|
	\| `cortex-code-eval` \| `openai/openai_humaneval` \| MIT \| évaluation seule \|

	Les licences ci-dessus ont été lues depuis l'API du Hub, pas reprises de mémoire.

	### Attributions

	- CodeAlpaca-20k — CC BY 4.0. Citer le dépôt `sahil2801/CodeAlpaca-20k`.
	- MBPP — Google Research, CC BY 4.0. Citer `google-research-datasets/mbpp`.
	- HumanEval — OpenAI, licence MIT. Citer `openai/openai_humaneval`.

	## Jeux refusés

	Ces sources existent et sont populaires, mais ne peuvent pas entrer dans CORTEX :

	\| Source \| Licence déclarée \| Motif du refus \|
	\|---\|---\|---\|
	\| `bigcode/the-stack-dedup` \| `other` \| accès sous conditions, termes non vérifiables \|
	\| `bigcode/starcoderdata` \| `other` \| accès sous conditions, licences par fichier non déclarées \|
	\| `codeparrot/codeparrot-clean` \| aucune \| aucun octroi de licence \|
	\| `codeparrot/github-code` \| `other` \| termes non vérifiables \|
	\| `iamtarun/python_code_instructions_18k_alpaca` \| aucune \| aucun octroi de licence \|

	`the-stack-dedup` et `starcoderdata` sont les sources les plus utilisées pour entraîner des
	modèles de code. Elles restent hors de ce pipeline tant que leurs termes ne peuvent pas
	être vérifiés depuis les métadonnées du Hub.

	## Traçabilité

	Chaque `<id>.meta.json` enregistre :

	```json
	{
	"source": "sahil2801/CodeAlpaca-20k",
	"license": "cc-by-4.0",
	"license_url": "https://huggingface.co/datasets/sahil2801/CodeAlpaca-20k",
	"attribution": "...",
	"rows_fetched": 200,
	"records_written": 200,
	"jsonl_sha256": "...",
	"fetched_via": "https://datasets-server.huggingface.co/rows"
	}
	```

	Un test vérifie que le SHA-256 de chaque `.jsonl` correspond à celui de son `.meta.json`.

	## Utilisation

	```bash
	python datasets/build.py --dataset cortex-code-sft --limit 200
	python datasets/build.py --all --limit 200
	```

	Les échantillons sont volontairement petits (quelques centaines de lignes) pour que le
	pipeline soit exécutable et vérifiable sur une machine de développement. Ce ne sont pas
	des corpus d'entraînement à l'échelle : voir `docs/pipeline-cortex.fr.md`.