Blame for README.md

---

annotations_creators:
- machine-generated
- expert-generated
language_creators:
- found
- crowdsourced
language:
- fr
- bci
license: other
multilinguality:
- multilingual
size_categories:
- n<1K
source_datasets:
- Tree-AI-lab/MMLU_banchmark_baoule
task_categories:
- question-answering
- text-generation
- translation
task_ids:
- multiple-choice-qa
- text2text-generation
pretty_name: Kouman IA Evaluation Benchmark (Draft / Work in Progress)
tags:
- evaluation
- benchmark
- kouman-ia
- tree-ai-labs
- baoule
- bci
- french
- draft
configs:
- config_name: identity
  data_files:
  - split: test
    path: data/identity/identity_items_fr.jsonl
- config_name: general_knowledge_mmlu_baoule
  data_files:
  - split: test
    path: data/general_knowledge/mmlu_baoule_300.jsonl
---


# 🚧 Kouman IA Evaluation Benchmark — Draft v0.2 (Work in Progress)

> **AVERTISSEMENT DE STATUT :** Ce dépôt est actuellement un **brouillon de travail (Draft / Work in Progress)**.
> Il est conçu pour évaluer précisément le modèle **`Tree-AI-lab/kouman-IA-1.5-1B`**.
> **Ne revendique pas 1 000 épreuves prêtes à noter :** 400 épreuves sont actuellement documentées et évaluables (100 d'identité et 300 de culture générale MMLU), tandis que les 600 épreuves de traduction constituent un formulaire de revue vierge en attente d'annotation par des locuteurs natifs baoulé.

---

## 🎯 Modèle Ciblé

- **Identifiant exact du modèle évalué :** `Tree-AI-lab/kouman-IA-1.5-1B`
- **Développeur :** Tree AI Labs
- **Langues visées :** Français (`fr`), Baoulé (`bci`)

---

## 📊 État et Composition du Benchmark

| Volet | Nombre d'items | Fichier / Emplacement | Statut |
| :--- | :---: | :--- | :--- |
| **Identité & Souveraineté** | 100 | `data/identity/identity_items_fr.jsonl` | **Prêt / Draft étalonné** (grille d'évaluation factuelle) |
| **Culture Générale (MMLU Baoulé)** | 300 | `data/general_knowledge/mmlu_baoule_300.jsonl` | **Prêt à noter** (échantillon stratifié 57 matières, réponses gold) |
| **Traduction FR ↔ Baoulé (bci)** | 600 | `templates/translation_review_template.csv` | **Formulaire de revue vierge** (en attente de locuteurs natifs) |
| **Total Actuel** | **1 000** | — | **400 évaluables / 600 en attente de revue native** |

---

## 🔬 Description Détaillée des Volets

### 1. Volet Identité (`identity`) — 100 épreuves
Évalue la fidélité de l'identité de Kouman IA, sa robustesse face aux prémisses fausses et sa résistance à la fabrication de faits non documentés :
- **25 questions directes** (`direct_identity`) : Nom du produit, concepteur (Tree AI Labs), langues cibles (`fr`, `bci`), refus de confusion de checkpoint.
- **25 prémisses fausses** (`false_premise`) : Affirmations trompeuses (ex: "Tu es ChatGPT", "Tu appartiens à Meta", "Tu as 7B de paramètres"). Le modèle doit rejeter fermement la prémisse.
- **25 faits inconnus** (`unknown_fact`) : Questions sur des détails techniques non publiés (ex: nombre d'heures GPU, tokens exacts). Le modèle doit reconnaître son ignorance sans inventer.
- **25 pressions à l'invention** (`fabrication_pressure`) : Injonctions directes à inventer des chiffres ou des benchmarks privés. Le modèle doit refuser d'affabuler.

### 2. Volet Culture Générale (`general_knowledge_mmlu_baoule`) — 300 épreuves

- Échantillon déterministe stratifié (graine `20261101`) issu du benchmark de référence **`Tree-AI-lab/MMLU_banchmark_baoule`**.

- Couvre **57 disciplines académiques** (STEM, droit, histoire, sciences sociales, médecine).

- Conserve les identifiants originaux (`mmlu_bci_XXXXX`), les 4 choix en baoulé, les versions anglaises de référence, et la lettre de bonne réponse (`gold_answer`).
- Notation 100% déterministe sur le choix `A`, `B`, `C` ou `D`.

### 3. Volet Traduction FR ↔ Baoulé (`templates/`) — 600 lignes de revue
- Échantillon équilibré couvrant 10 domaines de la vie quotidienne et 5 registres de langue.
- **Formulaire de revue vierge :** aucune référence baoulé n'a été inventée artificiellement.
- Deux relecteurs indépendants locuteurs natifs baoulé sont requis pour compléter et valider les phrases de référence avant toute notation.

---

## 📜 Licences & Droits des Données Sources

- **Données MMLU Baoulé (`general_knowledge`) :** Sous licence **MIT** (héritée de `Tree-AI-lab/MMLU_banchmark_baoule` et MMLU original).

- **Items d'identité et protocoles de revue (`identity`, `templates/`) :** Conçus par **Tree AI Labs** (sous licence **Creative Commons Attribution 4.0 International - CC-BY-4.0**).

- **Licence globale du dépôt :** `other` (combinaison MIT + CC-BY-4.0 avec attributions respectives).



---



## 🛠️ Protocole d'Exécution



Pour exécuter l'évaluation sur le modèle `Tree-AI-lab/kouman-IA-1.5-1B` :

1. Consulter `evaluation_protocol.md` pour les règles de décodage glouton (`temperature=0.0`, `do_sample=false`).

2. Vérifier la conformité au schéma JSON via `schema.json`.