issoufzousko07's picture
Fix metadata: nch au lieu de nshi + config 27k
a754b4d verified
|
Raw History Blame Contribute Delete
3.07 kB
metadata
license: apache-2.0
task_categories:
  - text-generation
language:
  - fr
  - en
  - bci
  - dyu
  - nch
pretty_name: Kouman IA Identity Instruct
size_categories:
  - 10K<n<100K
tags:
  - identity
  - instruction-tuning
  - sft
  - baoule
  - dioula
  - nouchi
  - kouman-ia
  - tree-ia-labs
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/identity_multilingue_instruct_27k.jsonl
  - config_name: legacy_4k
    data_files:
      - split: train
        path: data/identity_multilingue_instruct_4k.jsonl
  - config_name: fr_fr
    data_files:
      - split: train
        path: data/identity_fr_fr.jsonl
  - config_name: bci_fr
    data_files:
      - split: train
        path: data/identity_bci_fr.jsonl
  - config_name: fr_bci
    data_files:
      - split: train
        path: data/identity_fr_bci.jsonl
  - config_name: bci_bci
    data_files:
      - split: train
        path: data/identity_bci_bci.jsonl

Kouman IA Identity Instruct

Jeu de données instructionnel synthétique consacré à l'identité, à la mission, aux langues et à l'orientation de Kouman IA et de Tree IA Labs.

Jeu consolidé

La configuration default charge le fichier data/identity_multilingue_instruct_27k.jsonl. Il rassemble 27 000 échanges JSONL issus de 54 blocs de 500 exemples :

  • 1 500 exemples des trois lots français d'origine.
  • 24 000 exemples issus des 16 paires entre le baoulé (bci), le dioula (dyu), l'anglais (en) et le français (fr), avec 1 500 exemples par paire.
  • 1 500 exemples de la paire français → nouchi (fr-nshi), avec 500 exemples dans chacun des trois lots.

Format

Chaque ligne contient un objet JSON avec deux messages, user et assistant, ainsi que des métadonnées. Les métadonnées conservent notamment la paire linguistique, le lot, l'intention et le fichier source. Aucun message system n'est inclus.

{"messages":[{"role":"user","content":"..."},{"role":"assistant","content":"..."}],"metadata":{"language":"fr-nshi","language_pair":"fr_nshi","input_language":"fr","response_language":"nshi","source_file":"..."}}

Chargement de la configuration consolidée :

from datasets import load_dataset

ds = load_dataset("Tree-AI-lab/kouman-identity-instruct", "default")

La configuration legacy_4k et les anciennes configurations directionnelles restent disponibles dans leurs fichiers existants. Elles conservent leur ancien format conversations (from / value).

Limites connues

Les traductions des 16 paires ont été générées automatiquement et n'ont pas été relues par des locuteurs natifs. Le bloc fr-nshi est un brouillon dérivé du français : les prompts demandent une réponse en nouchi et des expressions nouchi y ont été intégrées, mais les réponses ne sont pas encore traduites intégralement en nouchi. Une révision linguistique native est nécessaire avant de considérer ce bloc comme un corpus nouchi validé.

Les exemples sont synthétiques et les formulations s'appuient sur un nombre limité de cartes d'identité et de cas de raisonnement. Les doublons éventuels n'ont pas été supprimés.