issoufzousko07's picture
Fix size_categories: ajustement a 100K<n<1M selon le nombre de shards en ligne
7211414 verified
|
Raw History Blame Contribute Delete
3.31 kB
---
language:
- en
- fr
- bci
license: apache-2.0
task_categories:
- text-generation
- question-answering
tags:
- tree-ai-lab
- baoulé
- bci
- french
- multilingual
- instruction-tuning
- sft
- african-languages
- cote-d-ivoire
size_categories:
- 100K<n<1M
configs:
- config_name: default
data_files:
- split: train
path: data/train/*.parquet
---
# SmolTalk Multilingue (EN x FR x BCI) — Tree AI Lab
Dataset d'instructions et d'alignement conversationnel multilingue à grande échelle, couvrant l'**Anglais**, le **Français** et le **Baoulé** (`bci`).
Publié et certifié par **Tree AI Lab** (`Tree-AI-lab`).
---
## 📊 Répartition des Classes Linguistiques
Le dataset est partitionné équitablement entre les **7 configurations canoniques** :
| Classe / Direction | Question (Prompt) | Réponse (Assistant) | Rôle / Objectif | Consigne Utilisateur (50% Préfixe / 50% Suffixe) |
|---|---|---|---|---|
| `en_en` | Anglais | Anglais | Préservation des capacités en Anglais original | Aucune (Monolingue naturel) |
| `en_fr` | Anglais | Français | Instruction bilingue Anglais -> Français | Consigne en Anglais demandant de répondre en Français |
| `en_bci` | Anglais | Baoulé | Capacité de réponse directe en Baoulé sur prompt Anglais | Consigne en Anglais demandant de répondre en Baoulé |
| `fr_fr` | Français | Français | Alignement conversationnel francophone | Aucune (Monolingue naturel) |
| `fr_bci` | Français | Baoulé | Questionnement en Français avec réponse authentique en Baoulé | Consigne en Français demandant de répondre en Baoulé |
| `bci_fr` | Baoulé | Français | Questionnement en Baoulé avec réponse en Français | Consigne en Baoulé demandant de répondre en Français |
| `bci_bci` | Baoulé | Baoulé | Dialogue souverain 100% en Baoulé | Aucune (Monolingue naturel) |
---
## 🎯 Conditionnement Cross-Lingual (Préfixes & Suffixes)
Pour toutes les paires cross-linguistiques (`en_fr`, `en_bci`, `fr_bci`, `bci_fr`), afin de lever toute ambiguïté sur la langue de réponse attendue lors du fine-tuning (SFT) :
- **50% en Préfixe** : placé en tête de la requête utilisateur (ex. *"Réponds en baoulé : {prompt}"*, *"Answer in French: {prompt}"*).
- **50% en Suffixe** : placé en fin de requête (ex. *"{prompt}\n\n(Réponds en baoulé.)"*).
- **Directions monolingues** (`en_en`, `fr_fr`, `bci_bci`) : conservent un dialogue 100% naturel sans consigne ajoutée.
- Deux métadonnées explicites sont fournies pour chaque entrée : `langue_de_reponse_attendue` (texte de la consigne) et `position_consigne` (`prefixe`, `suffixe`, ou `""`).
---
## 🧬 Format des Données (Apache Parquet & JSONL)
Chaque exemple respecte le schéma structuré suivant :
```json
{
"messages": [
{"role": "user", "content": "Answer in French: Explain photosynthesis."},
{"role": "assistant", "content": "La photosynthèse est le processus par lequel..."}
],
"source": "smoltalk",
"direction": "en_fr",
"question_language": "en",
"answer_language": "fr",
"langue_de_reponse_attendue": "Answer in French:",
"position_consigne": "prefixe"
}
```
---
## 🏢 Organisation
Développé et certifié par **Tree AI Lab** (`Tree-AI-lab`).