Instructions to use Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3 with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3")
messages = [
    {"role": "user", "content": "Who are you?"},
]
pipe(messages)

# pip install -U transformers accelerate
# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3")
model = AutoModelForCausalLM.from_pretrained("Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3", device_map="auto")
messages = [
    {"role": "user", "content": "Who are you?"},
]
inputs = tokenizer.apply_chat_template(
	messages,
	add_generation_prompt=True,
	tokenize=True,
	return_dict=True,
	return_tensors="pt",
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=256)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:]))

Notebooks
Google Colab
Kaggle
Local Apps Settings

llama.cpp

How to use Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3 with llama.cpp:

Install (macOS, Linux)

curl -LsSf https://llama.app/install.sh | sh
# Start a local OpenAI-compatible server with a web UI:
llama serve -hf Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3:Q4_K_M
# Run inference directly in the terminal:
llama cli -hf Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3:Q4_K_M

Install from WinGet (Windows)

winget install llama.cpp
# Start a local OpenAI-compatible server with a web UI:
llama serve -hf Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3:Q4_K_M
# Run inference directly in the terminal:
llama cli -hf Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3:Q4_K_M

Use pre-built binary

# Download pre-built binary from:
# https://github.com/ggerganov/llama.cpp/releases
# Start a local OpenAI-compatible server with a web UI:
./llama-server -hf Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3:Q4_K_M
# Run inference directly in the terminal:
./llama-cli -hf Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3:Q4_K_M

Build from source code

git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
cmake -B build
cmake --build build -j --target llama-server llama-cli
# Start a local OpenAI-compatible server with a web UI:
./build/bin/llama-server -hf Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3:Q4_K_M
# Run inference directly in the terminal:
./build/bin/llama-cli -hf Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3:Q4_K_M

Use Docker

docker model run hf.co/Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3:Q4_K_M

Llama new
LM Studio
Jan

vLLM

How to use Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3 with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker

docker model run hf.co/Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3:Q4_K_M

SGLang

How to use Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3 with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Ollama
How to use Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3 with Ollama:
```
ollama run hf.co/Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3:Q4_K_M
```
Unsloth Desktop

How to use Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3 with Pi:

Start the llama.cpp server

# Install llama.cpp:
brew install llama.cpp
# Start a local OpenAI-compatible server:
llama serve -hf Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3:Q4_K_M

Configure the model in Pi

# Install Pi:
npm install -g @earendil-works/pi-coding-agent
# Add to ~/.pi/agent/models.json:
{
  "providers": {
    "llama-cpp": {
      "baseUrl": "http://localhost:8080/v1",
      "api": "openai-completions",
      "apiKey": "none",
      "models": [
        {
          "id": "Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3:Q4_K_M"
        }
      ]
    }
  }
}

Run Pi

# Start Pi in your project directory:
pi

Docker Model Runner
How to use Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3 with Docker Model Runner:
```
docker model run hf.co/Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3:Q4_K_M
```

Lemonade

How to use Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3 with Lemonade:

Pull the model

# Download Lemonade from https://lemonade-server.ai/
lemonade pull Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3:Q4_K_M

Run and chat with the model

lemonade run user.llama-3.2-1b-baoule-instruct-v3-Q4_K_M

List all available models

lemonade list

Hermes Agent

How to use Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3 with Hermes Agent:

Start the llama.cpp server

# Install llama.cpp:
brew install llama.cpp
# Start a local OpenAI-compatible server:
llama serve -hf Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3:Q4_K_M

Configure Hermes

# Install Hermes:
curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash
hermes setup
# Point Hermes at the local server:
hermes config set model.provider custom
hermes config set model.base_url http://127.0.0.1:8080/v1
hermes config set model.default Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3:Q4_K_M

Run Hermes

hermes

Atomic Chat

OpenClaw

How to use Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3 with OpenClaw:

Start the llama.cpp server

# Install llama.cpp:
brew install llama.cpp
# Start a local OpenAI-compatible server:
llama serve -hf Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3:Q4_K_M

Configure OpenClaw

# Install OpenClaw:
npm install -g openclaw@latest
# Register the local server and set it as the default model:
openclaw onboard --non-interactive --mode local \
  --auth-choice custom-api-key \
  --custom-base-url http://127.0.0.1:8080/v1 \
  --custom-model-id "Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3:Q4_K_M" \
  --custom-provider-id llama-cpp \
  --custom-compatibility openai \
  --custom-text-input \
  --accept-risk \
  --skip-health

Run OpenClaw

openclaw agent --local --agent main --message "Hello from Hugging Face"

You need to agree to share your Hugging Face information to access this model

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

🇨🇮 Llama-3.2-1B-Baoule-Instruct-V3 : Le Premier Modèle d'IA Baoulé de l'Histoire de la Côte d'Ivoire

🏆 Un Tournant Historique pour la Souveraineté Numérique Ivoirienne et Africaine

Llama-3.2-1B-Baoule-Instruct-V3 marque une étape historique fondamentale : c'est le tout premier modèle d'intelligence artificielle au monde capable de dialoguer, comprendre, traduire et raisonner en langue Baoulé, l'une des langues majeures et identitaires de la Côte d'Ivoire.

Conçu et entraîné par Tree AI Labs, ce modèle incarne la volonté de préserver, valoriser et hisser les langues et le patrimoine culturel africain au sommet des technologies d'intelligence artificielle de pointe.

« Ce n'est pas seulement un modèle de langage, c'est l'affirmation que nos langues maternelles ont toute leur place dans l'ère de l'intelligence artificielle générale. »

🚀 Annonce Exclusive : La Version V4 arrive très bientôt !

L'aventure ne fait que commencer. L'équipe de Tree AI Labs finalise actuellement la Version 4 (V4), qui représentera un saut qualitatif majeur :

📈 Dataset d'instruction colossal de 100K+ discussions (pipeline LMSYS multilingue intégral 4 directions : bci ↔ bci, fr ↔ bci, bci ↔ fr, fr ↔ fr).
🎯 Raisonnement culturel et contextuel approfondi : proverbes, contes traditionnels, nuances syntaxiques et dialectales du Baoulé.
⚖️ Alignement éthique et souverain (DPO) : identité forte et fière de ses racines ivoiriennes et africaines.
⚡ Optimisation extrême pour une exécution ultra-rapide sur smartphones, ordinateurs portables et dispositifs embarqués hors-ligne.

🤝 Appel aux Entreprises, Startups & Laboratoires de Recherche : Bâtissons l'AGI Africaine

Pour donner toute son ampleur à cette révolution technologique et accélérer la naissance d'une Intelligence Artificielle Générale (AGI) véritablement Africaine et Souveraine, nous ouvrons nos portes aux partenariats stratégiques.

Que vous soyez :

🏢 Une entreprise ou institution désireuse d'intégrer les langues ivoiriennes dans ses applications, services clients ou outils éducatifs,
🔬 Un laboratoire de recherche académique ou indépendant souhaitant collaborer sur le NLP appliqué aux langues à faibles ressources (low-resource languages),
💡 Un investisseur ou mécène technologique engagé pour l'émancipation technologique du continent africain :

📩 Contactez-nous directement par email :
👉 issoufzousko@gmail.com

Rejoignez le mouvement pour construire l'AGI de demain, par l'Afrique et pour le monde entier !

📦 Fichiers et Formats Disponibles

Le dépôt fournit l'ensemble des formats nécessaires pour le déploiement en recherche et en production :

Format	Fichier	Usage Recommandé
Safetensors	`model.safetensors`	Transformers, PyTorch, vLLM, SFT, Fine-tuning
GGUF Q4_K_M	`llama-3.2-1b-baoule-instruct-v3-Q4_K_M.gguf`	Llama.cpp, Ollama, LM Studio, Mobile/Edge
Tokenizer	`tokenizer.json`, `chat_template.jinja`	Format de dialogue Llama-3 officiel

💻 Utilisation Rapide (Quickstart)

1. Avec Hugging Face `transformers` (Python)

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM, pipeline

identifiant_modele = "Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3"

tokenizer = AutoTokenizer.from_pretrained(identifiant_modele)
modele = AutoModelForCausalLM.from_pretrained(
    identifiant_modele,
    torch_dtype=torch.bfloat16 if torch.cuda.is_available() else torch.float32,
    device_map="auto"
)

# Préparation du dialogue
messages = [
    {"role": "system", "content": "Tu es Kouman IA, une intelligence artificielle bienveillante capable de communiquer en langue Baoulé et en français."},
    {"role": "user", "content": "Aɲiho"}
]

invite = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
entrees = tokenizer(invite, return_tensors="pt").to(modele.device)

sorties = modele.generate(
    **entrees,
    max_new_tokens=256,
    temperature=0.7,
    top_p=0.9,
    do_sample=True
)

reponse = tokenizer.decode(sorties[0][entrees.input_ids.shape[1]:], skip_special_tokens=True)
print("Réponse du modèle :", reponse)

2. En local avec Llama.cpp ou Ollama (Fichier GGUF)

Téléchargez directement le fichier quantifié pour une utilisation instantanée sans GPU lourd :

# Téléchargement du modèle quantifié
huggingface-cli download Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3 llama-3.2-1b-baoule-instruct-v3-Q4_K_M.gguf --local-dir .

# Exécution avec llama.cpp
./llama-cli -m llama-3.2-1b-baoule-instruct-v3-Q4_K_M.gguf -p "<|begin_of_text|><|start_header_id|>user<|end_header_id|>

N ti Baoule<|eot_id|><|start_header_id|>assistant<|end_header_id|>

" -n 128

🏛️ À Propos de Tree AI Labs & Travail d'Équipe

Tree AI Labs est un collectif et laboratoire de recherche indépendant en intelligence artificielle, réunissant des chercheurs, ingénieurs, linguistes et contributeurs passionnés engagés pour la souveraineté technologique de l'Afrique.

Ce modèle est le fruit d'un effort d'équipe collaboratif et interdisciplinaire, associant :

👥 L'équipe de recherche & ingénierie Tree AI Labs : architecture des données, fine-tuning, quantification et alignement.
🗣️ Locuteurs natifs et linguistes partenaires : validation contextuelle, vérification des nuances dialectales et respect des traditions orales du Baoulé.
🌍 La communauté open-source africaine : relectures, tests et retours d'expérience.

Notre mission commune est de démocratiser l'accès aux technologies génératives tout en valorisant la diversité linguistique et culturelle du continent.

Équipe de développement : Collectif Tree AI Labs & contributeurs communautaires
Contact Partenariats & Recherche : issoufzousko@gmail.com
Organisation Hugging Face : Tree-AI-lab

📜 Citation

Si vous utilisez ce modèle dans vos recherches, projets ou publications, merci de citer le travail collectif de l'équipe :

@misc{treeailabs2026llamabaoule,
  title        = {Llama-3.2-1B-Baoule-Instruct-V3: The First Sovereign Ivorian Baoulé Language Model},
  author       = {Tree AI Labs Team and Contributors},
  year         = {2026},
  publisher    = {Hugging Face},
  howpublished = {\url{https://huggingface.co/Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3}}
}

_{Fait avec passion et dévouement pour la Côte d'Ivoire et l'Afrique 🇨🇮🌍}

Downloads last month: 746

Safetensors

Model size

1B params

Tensor type

BF16

Model tree for Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3

Base model

meta-llama/Llama-3.2-1B-Instruct

Quantized

(432)

this model

You need to agree to share your Hugging Face information to access this model

🇨🇮 Llama-3.2-1B-Baoule-Instruct-V3 : Le Premier Modèle d'IA Baoulé de l'Histoire de la Côte d'Ivoire

🏆 Un Tournant Historique pour la Souveraineté Numérique Ivoirienne et Africaine

🚀 Annonce Exclusive : La Version V4 arrive très bientôt !

🤝 Appel aux Entreprises, Startups & Laboratoires de Recherche : Bâtissons l'AGI Africaine

📦 Fichiers et Formats Disponibles

💻 Utilisation Rapide (Quickstart)

1. Avec Hugging Face transformers (Python)

2. En local avec Llama.cpp ou Ollama (Fichier GGUF)

🏛️ À Propos de Tree AI Labs & Travail d'Équipe

📜 Citation

Model tree for Tree-AI-lab/llama-3.2-1b-baoule-instruct-v3

1. Avec Hugging Face `transformers` (Python)