corpus/data_engineering.json

[
  {
    "instruction": "Pourquoi et comment nettoyer un jeu de donnees avant l'entrainement ?",
    "output": "La qualite des donnees plafonne la qualite du modele. Le nettoyage vise a supprimer les doublons, qui biaisent l'apprentissage et faussent l'evaluation s'ils traversent le split ; retirer les exemples vides, trop courts ou mal formes ; normaliser l'encodage et les espaces ; filtrer le contenu hors domaine ; et harmoniser le format. Pour un dataset d'instruction, on verifie que chaque paire comporte bien une instruction ET une reponse non triviales. On documente chaque regle appliquee et le nombre d'exemples ecartes, pour la tracabilite. Ce travail, souvent juge ingrat, offre en general un meilleur retour sur investissement qu'un changement d'architecture."
  },
  {
    "instruction": "Qu'est-ce que la fuite de donnees (data leakage) et comment l'eviter ?",
    "output": "La fuite de donnees survient quand de l'information indisponible au moment de la prediction reelle se glisse dans l'entrainement, gonflant artificiellement les performances. Exemples typiques : normaliser ou encoder sur l'ensemble complet AVANT le split, ce qui fait fuiter les statistiques du test ; avoir le meme exemple ou des quasi-doublons dans train et test ; utiliser une variable qui encode indirectement la cible ; sur des series temporelles, melanger passe et futur. Preventions : toujours splitter d'abord, apprendre les transformations sur le seul train via un Pipeline, dedupliquer avant le split, et respecter l'ordre chronologique. Un score anormalement parfait est souvent le symptome d'une fuite."
  },
  {
    "instruction": "Pourquoi preferer le format Parquet au CSV pour de gros volumes ?",
    "output": "Parquet est un format colonnaire binaire, la ou le CSV est un format texte ligne par ligne. Avantages de Parquet : le stockage colonnaire permet de ne lire que les colonnes necessaires, donc moins d'entrees-sorties ; la compression est bien plus efficace car les donnees d'une meme colonne sont homogenes ; les types sont preserves, ce qui evite le reparsing des dates et des nombres ; et le schema est embarque dans le fichier. Resultat : des fichiers nettement plus petits et une lecture souvent plusieurs fois plus rapide. Le CSV reste utile pour l'interoperabilite et l'inspection humaine, mais pour un pipeline de donnees performant, Parquet est le choix par defaut."
  },
  {
    "instruction": "Comment structurer un dataset pour le fine-tuning d'instruction ?",
    "output": "Le format le plus courant est une liste de paires instruction-reponse, souvent au schema dit Alpaca : instruction, input optionnel, output. Au moment de l'entrainement, on assemble ces champs via le CHAT TEMPLATE du modele cible, car chaque famille attend un formatage precis des tours systeme, utilisateur et assistant. Bonnes pratiques : des instructions variees et representatives de l'usage reel, des reponses de qualite et coherentes en style, une longueur maitrisee, et un stockage en JSONL, une ligne par exemple, pratique a streamer. On separe ensuite en train, validation et test, en veillant a ce que des variantes d'une meme question ne se retrouvent pas de part et d'autre du decoupage."
  },
  {
    "instruction": "Qu'est-ce qu'un split par groupe (group-aware split) et quand est-il obligatoire ?",
    "output": "Un split par groupe garantit que tous les exemples partageant une meme entite se retrouvent dans un seul et meme sous-ensemble. Il devient obligatoire des que les lignes ne sont pas independantes : plusieurs mesures d'un meme patient, plusieurs sessions d'un meme utilisateur, plusieurs photographies d'un meme objet, ou plusieurs reformulations d'une meme question partageant la meme reponse de reference. Un decoupage aleatoire ligne par ligne repartirait ces variantes entre train et test, et le modele obtiendrait un excellent score en ayant simplement memorise. Les outils standard existent, comme GroupKFold ou GroupShuffleSplit, et la regle pratique est de toujours se demander quelle est l'unite reellement independante avant de decouper."
  },
  {
    "instruction": "Qu'est-ce que l'augmentation de donnees en NLP et quels sont ses pieges ?",
    "output": "L'augmentation cree de nouveaux exemples d'entrainement a partir des exemples existants afin d'ameliorer la robustesse : paraphrase, substitution par synonymes, traduction aller-retour, injection de bruit typographique, ou generation par un modele de langage. Elle est utile quand les donnees annotees sont rares. Deux pieges majeurs guettent. Le premier est la degradation silencieuse de la qualite, quand la transformation altere le sens ou l'etiquette. Le second, plus insidieux, est la fuite : si l'augmentation est appliquee AVANT le decoupage, des variantes d'un meme exemple se retrouvent dans train et test, ce qui gonfle artificiellement les scores. La regle est donc de decouper d'abord et de n'augmenter que le jeu d'entrainement."
  },
  {
    "instruction": "Comment detecter des quasi-doublons dans un corpus textuel ?",
    "output": "L'egalite stricte ne suffit pas, car une simple difference de ponctuation ou de casse la met en echec. On procede par etapes croissantes en cout. D'abord une normalisation, avec mise en minuscules, suppression des espaces multiples et de la ponctuation, puis comparaison d'empreintes : cela elimine les doublons triviaux. Ensuite une detection lexicale approchee, par similarite de Jaccard sur des n-grammes de caracteres, acceleree par MinHash et LSH pour passer a l'echelle sur des millions de documents. Enfin, une detection semantique par embeddings et recherche des plus proches voisins, qui capture les paraphrases veritables mais coute davantage. En pratique, on combine les deux premieres pour le nettoyage de masse et la troisieme pour verifier l'etancheite entre train et test."
  },
  {
    "instruction": "Comment traiter les valeurs aberrantes (outliers) dans un jeu de donnees ?",
    "output": "La premiere question n'est pas comment les supprimer mais d'ou elles viennent. Une valeur aberrante peut etre une erreur de saisie ou de capteur, auquel cas la corriger ou l'ecarter est legitime ; elle peut aussi etre un evenement rare mais reel, et c'est parfois precisement ce que l'on cherche a detecter, comme une fraude. Pour les reperer, on utilise la regle de l'ecart interquartile, le z-score si la distribution est approximativement normale, ou des methodes multivariees comme Isolation Forest. Les traitements possibles sont la suppression, l'ecretage a un percentile, une transformation logarithmique qui comprime la queue de distribution, ou le choix d'un modele robuste. Toute decision doit etre documentee et appliquee de facon identique en production."
  },
  {
    "instruction": "Quelle est la difference entre ETL et ELT ?",
    "output": "Dans une approche ETL, on extrait les donnees, on les transforme sur un systeme intermediaire, puis on charge le resultat deja structure dans l'entrepot. Dans une approche ELT, on extrait et on charge les donnees brutes dans l'entrepot, puis on transforme directement a l'interieur, en s'appuyant sur sa puissance de calcul. L'ELT s'est impose avec les entrepots cloud modernes, dont le stockage est bon marche et le calcul elastique. Ses avantages sont de conserver la donnee brute, donc de pouvoir rejouer une transformation apres correction d'une erreur de logique, et de rendre les transformations versionnables sous forme de requetes SQL testables. L'ETL garde sa pertinence quand il faut filtrer ou anonymiser avant meme le chargement, pour des raisons de volume ou de conformite."
  },
  {
    "instruction": "Qu'est-ce qu'un data contract et a quoi sert-il ?",
    "output": "Un data contract est un accord explicite entre le producteur et les consommateurs d'un jeu de donnees, portant sur le schema, les types, les contraintes de valeurs, la frequence de mise a jour et les garanties de qualite. Il est formalise dans un fichier versionne et verifie automatiquement a chaque livraison. Son interet est de transformer une rupture silencieuse en echec explicite et localise : sans contrat, un producteur qui renomme une colonne ou change une unite casse des pipelines en aval, souvent sans que personne s'en apercoive avant que des predictions erronees ne soient produites. En machine learning, il protege particulierement contre le decalage entre les donnees d'entrainement et celles rencontrees en production."
  },
  {
    "instruction": "Comment anonymiser des donnees personnelles dans un corpus d'entrainement ?",
    "output": "La demarche commence par identifier les donnees a caractere personnel presentes : noms, adresses, courriels, numeros de telephone, identifiants, mais aussi elements indirectement identifiants. On applique ensuite des techniques adaptees : suppression pure, masquage, remplacement par des valeurs fictives coherentes, ou hachage lorsqu'il faut conserver la possibilite de rapprocher des enregistrements. Une detection automatique par expressions regulieres et par modele de reconnaissance d'entites nommees est necessaire, mais un controle manuel sur un echantillon reste indispensable. Point crucial pour un LLM : un modele peut memoriser puis restituer des donnees vues en entrainement, donc l'anonymisation doit intervenir AVANT l'entrainement, et non au moment de l'affichage."
  },
  {
    "instruction": "Pourquoi le format JSONL est-il adapte aux gros jeux de donnees ?",
    "output": "Le JSONL, ou JSON Lines, place un objet JSON complet par ligne. Contrairement a un unique grand tableau JSON, il se lit de facon incrementale : on traite une ligne a la fois, sans charger le fichier entier en memoire, ce qui permet de manipuler des corpus de plusieurs Go sur une machine ordinaire. Il se prete naturellement au streaming et au traitement parallele, puisqu'on peut decouper le fichier sur les sauts de ligne. Ajouter des exemples se fait par simple concatenation en fin de fichier. Enfin, un enregistrement corrompu n'invalide que sa ligne au lieu de rendre tout le fichier illisible. C'est la raison pour laquelle il s'est impose comme format d'echange pour les jeux de fine-tuning."
  },
  {
    "instruction": "Comment equilibrer la diversite et la qualite dans un corpus d'instruction ?",
    "output": "Les deux dimensions comptent, mais l'experience montre qu'un petit corpus soigneusement cure surpasse souvent un grand corpus bruite. La qualite se travaille par une relecture des reponses, une coherence de style et de niveau de detail, et l'elimination des exemples ambigus ou factuellement faux, que le modele apprendrait fidelement. La diversite se travaille en couvrant les differents types de taches attendus, en variant les formulations et les niveaux de difficulte, et en incluant des cas limites ainsi que des demandes hors perimetre auxquelles on souhaite un refus. Un bon controle consiste a cartographier la couverture par categorie et a verifier qu'aucun theme ne domine excessivement, sous peine de deformer le comportement du modele."
  },
  {
    "instruction": "Qu'est-ce qu'un pipeline de donnees idempotent et pourquoi est-ce important ?",
    "output": "Un traitement est idempotent lorsque l'executer plusieurs fois avec les memes entrees produit exactement le meme resultat qu'une seule execution. C'est une propriete essentielle en production, car les pannes, les reprises apres incident et les reexecutions manuelles sont inevitables : sans idempotence, relancer un traitement duplique les lignes ou double les compteurs. On l'obtient en ecrivant par remplacement d'une partition plutot que par ajout aveugle, en utilisant des cles naturelles et des operations de fusion plutot que des insertions, et en rendant chaque execution deterministe pour une fenetre de donnees donnee. L'idempotence est ce qui permet de rejouer sereinement un historique complet apres correction d'un bug."
  }
]