Datasets:
|
Download README.md from Tree-AI-lab/kouman-identity-instruct: direct link, hf CLI and curl.
- Browser
- Download file 3.07 kB
-
https://huggingface.co/datasets/Tree-AI-lab/kouman-identity-instruct/resolve/main/README.md
- Command line
-
hf download hf://datasets/Tree-AI-lab/kouman-identity-instruct/README.md
-
curl -L -H "Authorization: Bearer $HF_TOKEN" -o README.md https://huggingface.co/datasets/Tree-AI-lab/kouman-identity-instruct/resolve/main/README.md
3.07 kB
| license: apache-2.0 | |
| task_categories: | |
| - text-generation | |
| language: | |
| - fr | |
| - en | |
| - bci | |
| - dyu | |
| - nch | |
| pretty_name: Kouman IA Identity Instruct | |
| size_categories: | |
| - 10K<n<100K | |
| tags: | |
| - identity | |
| - instruction-tuning | |
| - sft | |
| - baoule | |
| - dioula | |
| - nouchi | |
| - kouman-ia | |
| - tree-ia-labs | |
| configs: | |
| - config_name: default | |
| data_files: | |
| - split: train | |
| path: data/identity_multilingue_instruct_27k.jsonl | |
| - config_name: legacy_4k | |
| data_files: | |
| - split: train | |
| path: data/identity_multilingue_instruct_4k.jsonl | |
| - config_name: fr_fr | |
| data_files: | |
| - split: train | |
| path: data/identity_fr_fr.jsonl | |
| - config_name: bci_fr | |
| data_files: | |
| - split: train | |
| path: data/identity_bci_fr.jsonl | |
| - config_name: fr_bci | |
| data_files: | |
| - split: train | |
| path: data/identity_fr_bci.jsonl | |
| - config_name: bci_bci | |
| data_files: | |
| - split: train | |
| path: data/identity_bci_bci.jsonl | |
| # Kouman IA Identity Instruct | |
| Jeu de données instructionnel synthétique consacré à l'identité, à la mission, | |
| aux langues et à l'orientation de Kouman IA et de Tree IA Labs. | |
| ## Jeu consolidé | |
| La configuration `default` charge le fichier `data/identity_multilingue_instruct_27k.jsonl`. | |
| Il rassemble 27 000 échanges JSONL issus de 54 blocs de 500 exemples : | |
| - 1 500 exemples des trois lots français d'origine. | |
| - 24 000 exemples issus des 16 paires entre le baoulé (`bci`), le dioula (`dyu`), | |
| l'anglais (`en`) et le français (`fr`), avec 1 500 exemples par paire. | |
| - 1 500 exemples de la paire français → nouchi (`fr-nshi`), avec 500 exemples | |
| dans chacun des trois lots. | |
| ## Format | |
| Chaque ligne contient un objet JSON avec deux messages, `user` et `assistant`, | |
| ainsi que des métadonnées. Les métadonnées conservent notamment la paire | |
| linguistique, le lot, l'intention et le fichier source. Aucun message `system` | |
| n'est inclus. | |
| ```json | |
| {"messages":[{"role":"user","content":"..."},{"role":"assistant","content":"..."}],"metadata":{"language":"fr-nshi","language_pair":"fr_nshi","input_language":"fr","response_language":"nshi","source_file":"..."}} | |
| ``` | |
| Chargement de la configuration consolidée : | |
| ```python | |
| from datasets import load_dataset | |
| ds = load_dataset("Tree-AI-lab/kouman-identity-instruct", "default") | |
| ``` | |
| La configuration `legacy_4k` et les anciennes configurations directionnelles | |
| restent disponibles dans leurs fichiers existants. Elles conservent leur ancien | |
| format `conversations` (`from` / `value`). | |
| ## Limites connues | |
| Les traductions des 16 paires ont été générées automatiquement et n'ont pas été | |
| relues par des locuteurs natifs. Le bloc `fr-nshi` est un brouillon dérivé du | |
| français : les prompts demandent une réponse en nouchi et des expressions | |
| nouchi y ont été intégrées, mais les réponses ne sont pas encore traduites | |
| intégralement en nouchi. Une révision linguistique native est nécessaire avant | |
| de considérer ce bloc comme un corpus nouchi validé. | |
| Les exemples sont synthétiques et les formulations s'appuient sur un nombre | |
| limité de cartes d'identité et de cas de raisonnement. Les doublons éventuels | |
| n'ont pas été supprimés. | |