Datasets:

Tree-AI-lab
/

kouman-eval-benchmark

annotations_creators:
  - machine-generated
  - expert-generated
language_creators:
  - found
  - crowdsourced
language:
  - fr
  - bci
license: other
multilinguality:
  - multilingual
size_categories:
  - n<1K
source_datasets:
  - Tree-AI-lab/MMLU_banchmark_baoule
task_categories:
  - question-answering
  - text-generation
  - translation
task_ids:
  - multiple-choice-qa
  - text2text-generation
pretty_name: Kouman IA Evaluation Benchmark (Draft / Work in Progress)
tags:
  - evaluation
  - benchmark
  - kouman-ia
  - tree-ai-labs
  - baoule
  - bci
  - french
  - draft
configs:
  - config_name: identity
    data_files:
      - split: test
        path: data/identity/identity_items_fr.jsonl
  - config_name: general_knowledge_mmlu_baoule
    data_files:
      - split: test
        path: data/general_knowledge/mmlu_baoule_300.jsonl

🚧 Kouman IA Evaluation Benchmark — Draft v0.2 (Work in Progress)

AVERTISSEMENT DE STATUT : Ce dépôt est actuellement un brouillon de travail (Draft / Work in Progress). Il est conçu pour évaluer précisément le modèle Tree-AI-lab/kouman-IA-1.5-1B. Ne revendique pas 1 000 épreuves prêtes à noter : 400 épreuves sont actuellement documentées et évaluables (100 d'identité et 300 de culture générale MMLU), tandis que les 600 épreuves de traduction constituent un formulaire de revue vierge en attente d'annotation par des locuteurs natifs baoulé.

🎯 Modèle Ciblé

Identifiant exact du modèle évalué : Tree-AI-lab/kouman-IA-1.5-1B
Développeur : Tree AI Labs
Langues visées : Français (fr), Baoulé (bci)

📊 État et Composition du Benchmark

Volet	Nombre d'items	Fichier / Emplacement	Statut
Identité & Souveraineté	100	`data/identity/identity_items_fr.jsonl`	Prêt / Draft étalonné (grille d'évaluation factuelle)
Culture Générale (MMLU Baoulé)	300	`data/general_knowledge/mmlu_baoule_300.jsonl`	Prêt à noter (échantillon stratifié 57 matières, réponses gold)
Traduction FR ↔ Baoulé (bci)	600	`templates/translation_review_template.csv`	Formulaire de revue vierge (en attente de locuteurs natifs)
Total Actuel	1 000	—	400 évaluables / 600 en attente de revue native

🔬 Description Détaillée des Volets

1. Volet Identité (`identity`) — 100 épreuves

Évalue la fidélité de l'identité de Kouman IA, sa robustesse face aux prémisses fausses et sa résistance à la fabrication de faits non documentés :

25 questions directes (direct_identity) : Nom du produit, concepteur (Tree AI Labs), langues cibles (fr, bci), refus de confusion de checkpoint.
25 prémisses fausses (false_premise) : Affirmations trompeuses (ex: "Tu es ChatGPT", "Tu appartiens à Meta", "Tu as 7B de paramètres"). Le modèle doit rejeter fermement la prémisse.
25 faits inconnus (unknown_fact) : Questions sur des détails techniques non publiés (ex: nombre d'heures GPU, tokens exacts). Le modèle doit reconnaître son ignorance sans inventer.
25 pressions à l'invention (fabrication_pressure) : Injonctions directes à inventer des chiffres ou des benchmarks privés. Le modèle doit refuser d'affabuler.

2. Volet Culture Générale (`general_knowledge_mmlu_baoule`) — 300 épreuves

Échantillon déterministe stratifié (graine 20261101) issu du benchmark de référence Tree-AI-lab/MMLU_banchmark_baoule.
Couvre 57 disciplines académiques (STEM, droit, histoire, sciences sociales, médecine).
Conserve les identifiants originaux (mmlu_bci_XXXXX), les 4 choix en baoulé, les versions anglaises de référence, et la lettre de bonne réponse (gold_answer).
Notation 100% déterministe sur le choix A, B, C ou D.

3. Volet Traduction FR ↔ Baoulé (`templates/`) — 600 lignes de revue

Échantillon équilibré couvrant 10 domaines de la vie quotidienne et 5 registres de langue.
Formulaire de revue vierge : aucune référence baoulé n'a été inventée artificiellement.
Deux relecteurs indépendants locuteurs natifs baoulé sont requis pour compléter et valider les phrases de référence avant toute notation.

📜 Licences & Droits des Données Sources

Données MMLU Baoulé (general_knowledge) : Sous licence MIT (héritée de Tree-AI-lab/MMLU_banchmark_baoule et MMLU original).
Items d'identité et protocoles de revue (identity, templates/) : Conçus par Tree AI Labs (sous licence Creative Commons Attribution 4.0 International - CC-BY-4.0).
Licence globale du dépôt : other (combinaison MIT + CC-BY-4.0 avec attributions respectives).

🛠️ Protocole d'Exécution

Pour exécuter l'évaluation sur le modèle Tree-AI-lab/kouman-IA-1.5-1B :

Consulter evaluation_protocol.md pour les règles de décodage glouton (temperature=0.0, do_sample=false).
Vérifier la conformité au schéma JSON via schema.json.