|
Download README.md from Tree-AI-lab/smoltalk-multilingue: direct link, hf CLI and curl.
- Browser
- Download file 3.31 kB
-
https://huggingface.co/datasets/Tree-AI-lab/smoltalk-multilingue/resolve/main/README.md
- Command line
-
hf download hf://datasets/Tree-AI-lab/smoltalk-multilingue/README.md
-
curl -L -o README.md https://huggingface.co/datasets/Tree-AI-lab/smoltalk-multilingue/resolve/main/README.md
3.31 kB
| language: | |
| - en | |
| - fr | |
| - bci | |
| license: apache-2.0 | |
| task_categories: | |
| - text-generation | |
| - question-answering | |
| tags: | |
| - tree-ai-lab | |
| - baoulé | |
| - bci | |
| - french | |
| - multilingual | |
| - instruction-tuning | |
| - sft | |
| - african-languages | |
| - cote-d-ivoire | |
| size_categories: | |
| - 100K<n<1M | |
| configs: | |
| - config_name: default | |
| data_files: | |
| - split: train | |
| path: data/train/*.parquet | |
| # SmolTalk Multilingue (EN x FR x BCI) — Tree AI Lab | |
| Dataset d'instructions et d'alignement conversationnel multilingue à grande échelle, couvrant l'**Anglais**, le **Français** et le **Baoulé** (`bci`). | |
| Publié et certifié par **Tree AI Lab** (`Tree-AI-lab`). | |
| --- | |
| ## 📊 Répartition des Classes Linguistiques | |
| Le dataset est partitionné équitablement entre les **7 configurations canoniques** : | |
| | Classe / Direction | Question (Prompt) | Réponse (Assistant) | Rôle / Objectif | Consigne Utilisateur (50% Préfixe / 50% Suffixe) | | |
| |---|---|---|---|---| | |
| | `en_en` | Anglais | Anglais | Préservation des capacités en Anglais original | Aucune (Monolingue naturel) | | |
| | `en_fr` | Anglais | Français | Instruction bilingue Anglais -> Français | Consigne en Anglais demandant de répondre en Français | | |
| | `en_bci` | Anglais | Baoulé | Capacité de réponse directe en Baoulé sur prompt Anglais | Consigne en Anglais demandant de répondre en Baoulé | | |
| | `fr_fr` | Français | Français | Alignement conversationnel francophone | Aucune (Monolingue naturel) | | |
| | `fr_bci` | Français | Baoulé | Questionnement en Français avec réponse authentique en Baoulé | Consigne en Français demandant de répondre en Baoulé | | |
| | `bci_fr` | Baoulé | Français | Questionnement en Baoulé avec réponse en Français | Consigne en Baoulé demandant de répondre en Français | | |
| | `bci_bci` | Baoulé | Baoulé | Dialogue souverain 100% en Baoulé | Aucune (Monolingue naturel) | | |
| --- | |
| ## 🎯 Conditionnement Cross-Lingual (Préfixes & Suffixes) | |
| Pour toutes les paires cross-linguistiques (`en_fr`, `en_bci`, `fr_bci`, `bci_fr`), afin de lever toute ambiguïté sur la langue de réponse attendue lors du fine-tuning (SFT) : | |
| - **50% en Préfixe** : placé en tête de la requête utilisateur (ex. *"Réponds en baoulé : {prompt}"*, *"Answer in French: {prompt}"*). | |
| - **50% en Suffixe** : placé en fin de requête (ex. *"{prompt}\n\n(Réponds en baoulé.)"*). | |
| - **Directions monolingues** (`en_en`, `fr_fr`, `bci_bci`) : conservent un dialogue 100% naturel sans consigne ajoutée. | |
| - Deux métadonnées explicites sont fournies pour chaque entrée : `langue_de_reponse_attendue` (texte de la consigne) et `position_consigne` (`prefixe`, `suffixe`, ou `""`). | |
| --- | |
| ## 🧬 Format des Données (Apache Parquet & JSONL) | |
| Chaque exemple respecte le schéma structuré suivant : | |
| ```json | |
| { | |
| "messages": [ | |
| {"role": "user", "content": "Answer in French: Explain photosynthesis."}, | |
| {"role": "assistant", "content": "La photosynthèse est le processus par lequel..."} | |
| ], | |
| "source": "smoltalk", | |
| "direction": "en_fr", | |
| "question_language": "en", | |
| "answer_language": "fr", | |
| "langue_de_reponse_attendue": "Answer in French:", | |
| "position_consigne": "prefixe" | |
| } | |
| ``` | |
| --- | |
| ## 🏢 Organisation | |
| Développé et certifié par **Tree AI Lab** (`Tree-AI-lab`). | |