{"group_id": "data-engineering-000", "category": "data-engineering", "instruction": "Pourquoi et comment nettoyer un jeu de donnees avant l'entrainement ?", "input": "", "output": "La qualite des donnees plafonne la qualite du modele. Le nettoyage vise a supprimer les doublons, qui biaisent l'apprentissage et faussent l'evaluation s'ils traversent le split ; retirer les exemples vides, trop courts ou mal formes ; normaliser l'encodage et les espaces ; filtrer le contenu hors domaine ; et harmoniser le format. Pour un dataset d'instruction, on verifie que chaque paire comporte bien une instruction ET une reponse non triviales. On documente chaque regle appliquee et le nombre d'exemples ecartes, pour la tracabilite. Ce travail, souvent juge ingrat, offre en general un meilleur retour sur investissement qu'un changement d'architecture."}
{"group_id": "data-engineering-001", "category": "data-engineering", "instruction": "Qu'est-ce que la fuite de donnees (data leakage) et comment l'eviter ?", "input": "", "output": "La fuite de donnees survient quand de l'information indisponible au moment de la prediction reelle se glisse dans l'entrainement, gonflant artificiellement les performances. Exemples typiques : normaliser ou encoder sur l'ensemble complet AVANT le split, ce qui fait fuiter les statistiques du test ; avoir le meme exemple ou des quasi-doublons dans train et test ; utiliser une variable qui encode indirectement la cible ; sur des series temporelles, melanger passe et futur. Preventions : toujours splitter d'abord, apprendre les transformations sur le seul train via un Pipeline, dedupliquer avant le split, et respecter l'ordre chronologique. Un score anormalement parfait est souvent le symptome d'une fuite."}
{"group_id": "data-engineering-010", "category": "data-engineering", "instruction": "Comment anonymiser des donnees personnelles dans un corpus d'entrainement ?", "input": "", "output": "La demarche commence par identifier les donnees a caractere personnel presentes : noms, adresses, courriels, numeros de telephone, identifiants, mais aussi elements indirectement identifiants. On applique ensuite des techniques adaptees : suppression pure, masquage, remplacement par des valeurs fictives coherentes, ou hachage lorsqu'il faut conserver la possibilite de rapprocher des enregistrements. Une detection automatique par expressions regulieres et par modele de reconnaissance d'entites nommees est necessaire, mais un controle manuel sur un echantillon reste indispensable. Point crucial pour un LLM : un modele peut memoriser puis restituer des donnees vues en entrainement, donc l'anonymisation doit intervenir AVANT l'entrainement, et non au moment de l'affichage."}
{"group_id": "deep-learning-llm-007", "category": "deep-learning-llm", "instruction": "Pourquoi masque-t-on le prompt lors du calcul de la loss en fine-tuning instruct ?", "input": "", "output": "En fine-tuning d'instruction, on veut apprendre au modele a GENERER la reponse, pas a reproduire la question qu'on lui a deja fournie. On met donc les labels des tokens du prompt, instruction systeme et question utilisateur, a -100, valeur ignoree par la cross-entropy de PyTorch, de sorte que seule la partie reponse contribue au gradient. Sans ce masquage, le modele depense de la capacite a modeliser les questions, ce qui dilue le signal utile et peut degrader la qualite des reponses. En pratique, on construit la sequence complete via le chat template, puis on masque tout ce qui precede le debut du tour de l'assistant."}
{"group_id": "deep-learning-llm-006", "category": "deep-learning-llm", "instruction": "Qu'est-ce qu'un token et pourquoi le nombre de tokens compte-t-il ?", "input": "", "output": "Un token est l'unite de base traitee par un LLM : souvent un morceau de mot, pas necessairement un mot entier. Un tokenizer, typiquement de type BPE, decoupe le texte selon un vocabulaire appris ; en anglais, un token vaut environ 4 caracteres, soit environ 0,75 mot. Le nombre de tokens compte pour trois raisons : la fenetre de contexte est limitee, entree et sortie confondues ; la facturation des API se fait au token ; et le cout de calcul de l'attention croit avec la longueur de sequence. D'ou l'importance de prompts concis et, pour l'entrainement, d'un `max_seq_length` bien choisi pour equilibrer couverture et memoire."}
{"group_id": "deep-learning-llm-002", "category": "deep-learning-llm", "instruction": "Qu'est-ce que la quantization 4-bit et QLoRA ?", "input": "", "output": "La quantization reduit la precision des poids, par exemple de 16 a 4 bits, ce qui divise l'empreinte memoire par environ 4 au prix d'une legere perte de precision. QLoRA combine deux idees : (1) charger le modele de base quantise en 4-bit au format NF4, optimise pour des poids distribues normalement, et le geler ; (2) entrainer par-dessus des adaptateurs LoRA en precision plus haute. Deux astuces completent le dispositif : la double quantization compresse aussi les constantes de quantization, et un optimiseur pagine absorbe les pics memoire. Resultat : on peut fine-tuner un modele de plusieurs milliards de parametres sur un seul GPU grand public, ce qui etait impossible en pleine precision."}
{"group_id": "deep-learning-llm-000", "category": "deep-learning-llm", "instruction": "Qu'est-ce que le fine-tuning et en quoi differe-t-il du RAG ?", "input": "", "output": "Le fine-tuning ajuste les poids d'un modele pre-entraine sur un jeu de donnees specifique pour lui inculquer un style, un format ou un savoir-faire. Le RAG (Retrieval-Augmented Generation) laisse le modele intact mais lui fournit, au moment de l'inference, des documents pertinents recuperes dans une base externe. Difference : le fine-tuning modifie le comportement, le COMMENT ; le RAG apporte des connaissances factuelles a jour, le QUOI. On fine-tune pour un ton, un format de sortie ou une tache recurrente ; on utilise le RAG pour des faits qui changent souvent ou une base documentaire volumineuse. Les deux sont complementaires et se combinent tres bien."}
{"group_id": "deep-learning-llm-001", "category": "deep-learning-llm", "instruction": "Explique ce qu'est LoRA et pourquoi c'est efficace.", "input": "", "output": "LoRA (Low-Rank Adaptation) est une methode de fine-tuning parametre-efficace. Au lieu de mettre a jour toute une matrice de poids W, on la gele et on apprend une petite correction de rang faible : delta_W = B @ A, ou A et B sont deux matrices bien plus petites de rang r, typiquement 8 a 64. Seuls A et B sont entraines, soit souvent moins de 1 % des parametres. Avantages : beaucoup moins de memoire et de calcul, des adaptateurs legers de quelques dizaines de Mo que l'on peut echanger a volonte, et une base partagee entre plusieurs taches. L'hypothese sous-jacente est que l'adaptation a une tache vit dans un sous-espace de faible dimension. A l'inference, on peut fusionner delta_W dans W sans surcout."}
{"group_id": "evaluation-005", "category": "evaluation", "instruction": "Qu'est-ce que BERTScore et en quoi differe-t-il de ROUGE ?", "input": "", "output": "BERTScore compare une generation a sa reference en passant par des embeddings contextuels plutot que par des mots exacts. Chaque token de la generation est apparie au token le plus similaire de la reference, par similarite cosinus, puis on agrege ces similarites en precision, rappel et F-mesure. L'avantage decisif sur ROUGE est la prise en compte du SENS : une reformulation avec des synonymes obtient un bon score, alors que ROUGE la penaliserait lourdement. Les limites subsistent : le score depend du modele d'embedding choisi et de la langue, il reste couteux a calculer, et il ne verifie pas la veracite factuelle, seulement la proximite semantique avec une reference supposee correcte."}
{"group_id": "evaluation-001", "category": "evaluation", "instruction": "Qu'est-ce que le score ROUGE ?", "input": "", "output": "ROUGE (Recall-Oriented Understudy for Gisting Evaluation) est une famille de metriques orientees rappel, surtout utilisee pour le resume. ROUGE-N compte le recouvrement de n-grammes entre generation et reference ; ROUGE-L se base sur la plus longue sous-sequence commune, ce qui capture l'ordre sans exiger la contiguite. Contrairement a BLEU qui est oriente precision, ROUGE privilegie le rappel : a-t-on couvert le contenu de la reference ? On rapporte souvent la F-mesure, compromis entre precision et rappel. Memes limites que BLEU : purement lexical, aveugle aux synonymes. Utile comme signal automatique rapide et bon marche, a completer par une evaluation semantique ou humaine."}
{"group_id": "evaluation-006", "category": "evaluation", "instruction": "Pourquoi faut-il des intervalles de confiance sur les metriques d'evaluation ?", "input": "", "output": "Parce qu'un score calcule sur un echantillon fini est une estimation bruitee, pas une verite. Sur un jeu de test de quelques dizaines d'exemples, un ecart de plusieurs points entre deux modeles peut n'etre que du bruit d'echantillonnage. Annoncer une amelioration sans mesure d'incertitude expose a conclure a tort. La methode standard, simple et sans hypothese forte, est le bootstrap : on reechantillonne le jeu de test avec remise un millier de fois, on recalcule la metrique a chaque fois, et on prend les percentiles 2,5 et 97,5 de la distribution obtenue. Si les intervalles des deux modeles se recouvrent largement, la difference n'est pas etablie. Il est egalement essentiel de repeter l'entrainement avec plusieurs graines aleatoires, car la variance vient aussi de l'entrainement."}
{"group_id": "ml-fundamentals-011", "category": "ml-fundamentals", "instruction": "Quelle est la difference entre precision et rappel, et comment choisir ?", "input": "", "output": "La precision repond a la question : parmi les cas que j'ai predits positifs, combien le sont vraiment ? Le rappel repond a : parmi les cas reellement positifs, combien en ai-je trouve ? Il y a un arbitrage, regle par le seuil de decision : abaisser le seuil augmente le rappel et degrade la precision, et inversement. Le choix depend du cout des erreurs. On privilegie le rappel quand manquer un cas est grave : depistage medical, detection de fraude, alertes de securite. On privilegie la precision quand une fausse alerte est couteuse ou nuit a l'experience : filtrage de spam, recommandation. Le F1 les combine, et la courbe precision-rappel resume le comportement sur tous les seuils."}
{"group_id": "ml-fundamentals-009", "category": "ml-fundamentals", "instruction": "A quoi sert le learning rate et que se passe-t-il s'il est mal regle ?", "input": "", "output": "Le learning rate controle la taille du pas effectue a chaque mise a jour des parametres. C'est generalement l'hyperparametre le plus important. S'il est trop grand, la loss oscille ou diverge, car on saute par-dessus le minimum ; s'il est trop petit, l'entrainement est extremement lent et peut se bloquer dans une region plate. En pratique, on utilise un ordonnanceur : un warmup progressif au debut evite les mises a jour brutales quand les gradients sont instables, puis une decroissance (cosine ou lineaire) affine la convergence en fin d'entrainement. Un bon diagnostic consiste a tracer la loss : une courbe en dents de scie signale un pas trop grand, une courbe quasi plate un pas trop petit."}
{"group_id": "ml-fundamentals-017", "category": "ml-fundamentals", "instruction": "Qu'est-ce que le clustering k-means et quelles sont ses limites ?", "input": "", "output": "K-means partitionne les donnees en k groupes en alternant deux etapes : affecter chaque point au centroide le plus proche, puis recalculer chaque centroide comme la moyenne de ses points, jusqu'a stabilisation. Il est simple, rapide et passe bien a l'echelle. Ses limites sont importantes : il faut choisir k a l'avance, souvent via la methode du coude ou le score de silhouette ; il suppose des groupes spheriques de taille comparable et echoue sur des formes allongees ou imbriquees ; il est sensible a l'initialisation, d'ou l'usage de k-means++ ; il exige des variables standardisees car il repose sur la distance euclidienne ; et il est sensible aux valeurs extremes. Pour des formes arbitraires, DBSCAN ou un modele de melange gaussien sont plus adaptes."}
{"group_id": "mlops-004", "category": "mlops", "instruction": "Qu'est-ce que le drift d'un modele en production et comment le surveiller ?", "input": "", "output": "Le drift designe la degradation progressive des performances d'un modele apres deploiement, parce que le monde change. On distingue le data drift, ou la distribution des entrees evolue, et le concept drift, ou la relation entre entrees et cible se modifie. La difficulte est que les etiquettes reelles arrivent souvent avec retard, voire jamais. On surveille donc a plusieurs niveaux : la distribution des variables d'entree, comparee a une reference d'entrainement ; la distribution des predictions ; les indicateurs indirects comme le taux de rejet ou de reformulation par les utilisateurs ; et, quand les etiquettes finissent par arriver, les metriques de performance reelles. On declenche alors un reentrainement, idealement automatise et valide avant mise en service."}
{"group_id": "mlops-010", "category": "mlops", "instruction": "Qu'est-ce que l'integration continue appliquee a un projet de machine learning ?", "input": "", "output": "L'integration continue execute automatiquement, a chaque modification du code, une serie de verifications afin de detecter tot les regressions. Sur un projet ML, elle couvre plusieurs niveaux : verification du style et du typage ; tests unitaires des fonctions de preparation des donnees, de tokenisation et de collate ; tests de validite du jeu de donnees, notamment l'absence de fuite entre les splits ; et un entrainement de fumee sur quelques exemples pour verifier que le pipeline complet s'execute sans erreur. Les entrainements complets, trop couteux, sont declenches separement. L'apport est double : une base de code toujours fonctionnelle, et un signal de confiance immediatement visible pour les relecteurs."}
{"group_id": "mlops-006", "category": "mlops", "instruction": "Qu'est-ce qu'un model registry et une model card ?", "input": "", "output": "Un model registry est un catalogue versionne des modeles entraines : chaque version y est enregistree avec ses metriques, ses artefacts, son lignage et son statut, par exemple staging ou production. Il permet de savoir precisement ce qui tourne, de revenir en arriere et de tracer l'origine d'une prediction. La model card est la documentation qui accompagne un modele : usage prevu et usages deconseilles, donnees d'entrainement et leurs limites, performances mesurees et protocole d'evaluation, biais connus, cas d'echec identifies, considerations ethiques et licence. Elle est devenue une norme de fait, notamment sur le Hugging Face Hub. Ensemble, ils repondent a une exigence croissante de tracabilite et de conformite."}
{"group_id": "numpy-pandas-013", "category": "numpy-pandas", "instruction": "Comment travailler avec des dates dans Pandas ?", "input": "", "output": "La premiere etape est de convertir explicitement la colonne avec `pd.to_datetime`, en precisant `format` quand c'est possible : l'inference automatique est lente et parfois ambigue entre les formats jour/mois. Une fois la colonne en `datetime64`, l'accesseur `.dt` donne acces aux composantes (`.dt.year`, `.dt.dayofweek`, `.dt.month`) pour construire des variables explicatives. Placer les dates en index permet le slicing temporel (`df['2024-03']`) et surtout le reechantillonnage avec `resample('D').sum()` pour agreger par jour, semaine ou mois. Attention aux fuseaux horaires : on rend une serie consciente du fuseau avec `tz_localize` puis on la convertit avec `tz_convert`, faute de quoi les comparaisons entre series naives et conscientes echouent."}
{"group_id": "numpy-pandas-007", "category": "numpy-pandas", "instruction": "Comment gerer les valeurs manquantes dans un DataFrame ?", "input": "", "output": "D'abord les quantifier : `df.isna().sum()` et `df.isna().mean()` donnent le nombre et la proportion par colonne. Ensuite, le choix depend de la cause. Supprimer (`dropna`) convient si les manquants sont rares et aleatoires. Imputer (`fillna`) avec la mediane, la moyenne ou le mode est courant pour les variables numeriques ; pour des series temporelles, `ffill` ou une interpolation respectent la continuite. Point critique en ML : l'imputation doit etre apprise sur le TRAIN uniquement puis appliquee au test, via un `SimpleImputer` dans un Pipeline scikit-learn, sinon on cree une fuite de donnees. Il est aussi souvent utile d'ajouter une colonne indicatrice signalant que la valeur etait manquante."}
{"group_id": "numpy-pandas-001", "category": "numpy-pandas", "instruction": "Comment eviter le warning `SettingWithCopyWarning` dans Pandas ?", "input": "", "output": "Ce warning signale une modification ambigue : Pandas ne sait pas si l'on modifie une copie ou la vue originale (chained indexing). La cause typique est `df[df.a > 0]['b'] = 1`, qui peut ne rien modifier du tout. La solution est d'utiliser une indexation unique avec `.loc` : `df.loc[df.a > 0, 'b'] = 1`. Si l'on veut volontairement travailler sur une copie independante, il faut etre explicite avec `.copy()` : `sous = df[df.a > 0].copy()`. Regle generale : eviter le double crochet successif en assignation. A partir de Pandas 3.0, le mode Copy-on-Write devient le defaut et rend ce comportement previsible."}
{"group_id": "numpy-pandas-010", "category": "numpy-pandas", "instruction": "Comment lire efficacement un fichier CSV trop volumineux pour la memoire ?", "input": "", "output": "Plusieurs strategies se combinent. D'abord ne charger que le necessaire : `usecols` pour restreindre les colonnes et `dtype` pour imposer des types compacts des la lecture, ce qui evite l'inference couteuse en `object`. Ensuite traiter par morceaux avec `chunksize`, qui renvoie un iterateur de DataFrames : on agrege chaque morceau et on ne conserve que le resultat. Si le fichier doit etre relu souvent, le convertir une fois en Parquet divise la taille et accelere fortement les lectures suivantes. Enfin, pour un jeu qui depasse durablement la RAM, passer a Polars (execution paresseuse et streaming) ou Dask (partitionnement et parallelisme) est plus pertinent que d'optimiser Pandas indefiniment."}
{"group_id": "python-core-004", "category": "python-core", "instruction": "Explique le fonctionnement de `async`/`await` en Python.", "input": "", "output": "`async`/`await` permet la programmation asynchrone cooperative : une coroutine peut se mettre en pause a un point `await` pour laisser d'autres taches s'executer, le tout sur un seul thread via une boucle d'evenements (`asyncio`). C'est ideal pour les taches I/O-bound (requetes reseau, acces disque, appels API) ou l'on passe l'essentiel du temps a attendre. Exemple : lancer 100 requetes HTTP concurrentes avec `asyncio.gather` est bien plus rapide qu'en sequentiel, sans le cout des threads. Attention : cela n'accelere PAS le code CPU-bound, car tout tourne sur un seul coeur ; pour cela il faut du multiprocessing. Regle d'or : ne jamais bloquer la boucle avec du code synchrone lourd."}
{"group_id": "python-core-014", "category": "python-core", "instruction": "Quand utiliser une dataclass plutot qu'un dictionnaire ou une classe classique ?", "input": "", "output": "Une dataclass est adaptee quand on veut un conteneur de donnees structure et type sans ecrire de boilerplate : le decorateur `@dataclass` genere `__init__`, `__repr__` et `__eq__` automatiquement. Comparee a un dictionnaire, elle apporte des champs explicites, l'autocompletion, la verification statique des types et empeche les fautes de frappe sur les cles. Comparee a une classe classique, elle evite une dizaine de lignes repetitives. On peut la rendre immuable avec `@dataclass(frozen=True)`, ce qui la rend hashable. On garde le dictionnaire pour des donnees vraiment dynamiques (cles inconnues a l'avance) et on passe a Pydantic quand il faut valider des donnees externes a l'execution."}
{"group_id": "python-core-012", "category": "python-core", "instruction": "Pourquoi un dictionnaire ou un set sont-ils plus rapides qu'une liste pour tester l'appartenance ?", "input": "", "output": "Parce qu'ils reposent sur une table de hachage : la position d'un element est calculee directement a partir de son hash, ce qui donne une recherche en temps constant moyen, note O(1). Une liste, elle, doit parcourir ses elements un par un : c'est du O(n). Sur 1 million d'elements, `x in mon_set` est quasi instantane la ou `x in ma_liste` peut prendre des millisecondes, et la difference explose si le test est fait dans une boucle. Regle pratique : des qu'on teste l'appartenance de facon repetee, convertir la liste en set. Contrepartie : les elements doivent etre hashables (immuables) et l'ordre d'insertion n'est garanti que pour les dictionnaires depuis Python 3.7."}