issoufzousko07's picture
Fix YAML metadata: remove conversational, set active train split for Dataset Viewer
4d4c35d verified
|
Raw History Blame Contribute Delete
2.21 kB
metadata
language:
  - en
  - fr
  - bci
license: apache-2.0
task_categories:
  - text-generation
  - question-answering
tags:
  - tree-ai-lab
  - baoulé
  - bci
  - french
  - multilingual
  - instruction-tuning
  - smoltalk
  - african-languages
  - cote-d-ivoire
size_categories:
  - 1M<n<10M
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train/*.parquet

SmolTalk Multilingue (EN x FR x BCI) — Tree AI Lab

Traduction et harmonisation multilingue du sous-ensemble data/all du dataset HuggingFaceTB/smoltalk vers le Français et le Baoulé (bci), langue ivoirienne, dans le cadre du projet souverain BABA (Tree AI Lab).

🛡️ Préservation Intégrale du Code Informatique et des Formules Mathématiques

  • Les blocs de code (Python, C++, Java, Shell...) et les expressions mathématiques LaTeX ($$...$$, \[...\], \(...\), $..$) ont été rigoureusement protégés par des jetons invariants QQ{idx}QQ.
  • Aucun code informatique n'a été corrompu ni traduit en texte littéral.

📊 Répartition Équilibrée des Classes Linguistiques

Le dataset est partitionné équitablement entre les 7 directions canoniques :

Classe / Direction Question (Prompt) Réponse (Assistant) Rôle
en_en Anglais Anglais Préservation des capacités en Anglais original
en_fr Anglais Français Instruction bilingue Anglais -> Français
en_bci Anglais Baoulé Capacité de réponse directe en Baoulé sur prompt Anglais
fr_fr Français Français Alignement conversationnel francophone
fr_bci Français Baoulé Questionnement en Français avec réponse authentique en Baoulé
bci_fr Baoulé Français Questionnement en Baoulé avec réponse en Français
bci_bci Baoulé Baoulé Dialogue souverain 100% en Baoulé

🧬 Format Structuré (Apache Parquet & JSONL)

Chaque ligne comporte :

{
  "messages": [
    {"role": "user", "content": "..."},
    {"role": "assistant", "content": "..."}
  ],
  "source": "smoltalk",
  "direction": "fr_bci",
  "question_language": "fr",
  "answer_language": "bci"
}