Datasets:

mrSvet0zar
/

corpus-python-ds-ml-fr

[
  {
    "instruction": "Pourquoi fusionner (merge) les poids LoRA avant le deploiement ?",
    "output": "Pendant l'entrainement, l'adaptateur LoRA reste separe du modele de base. Pour le deploiement, on peut fusionner delta_W dans les poids d'origine avec `merge_and_unload()`, obtenant un modele standard autonome. Avantages : l'inference est plus simple et legerement plus rapide, sans calcul d'adaptateur separe ; le modele fusionne est un checkpoint classique, compatible avec des outils comme llama.cpp, Ollama ou l'export GGUF ; et il n'y a plus de dependance a PEFT au runtime. Inconvenient : on perd la modularite, puisqu'on ne peut plus echanger l'adaptateur, et le fichier est bien plus gros. On garde donc souvent l'adaptateur pour l'experimentation et l'on fusionne pour la production."
  },
  {
    "instruction": "Qu'est-ce que le format GGUF et Ollama ?",
    "output": "GGUF est un format de fichier concu pour executer des LLM efficacement sur CPU et GPU grand public, notamment via llama.cpp. Il stocke poids quantises et metadonnees dans un seul fichier portable, avec differents niveaux de quantization, par exemple Q4_K_M pour un bon compromis taille/qualite. Ollama est un outil qui simplifie l'execution locale de LLM : il gere le telechargement, la quantization GGUF et sert une API locale. On decrit le modele dans un `Modelfile` precisant le fichier de base, les parametres et le template de prompt, puis on lance `ollama create` et `ollama run`. C'est ideal pour deployer localement un modele fine-tune et fusionne, sans GPU serveur ni dependances Python lourdes."
  },
  {
    "instruction": "Comment servir un modele fine-tune via une API ?",
    "output": "Le schema classique : un serveur web comme FastAPI charge le modele UNE fois au demarrage, puis expose un endpoint qui recoit un prompt et renvoie la generation. Bonnes pratiques : charger le modele au startup et non a chaque requete ; valider les entrees avec Pydantic ; borner le nombre de tokens generes ; ajouter un endpoint de sante. Point critique souvent oublie : la generation est bloquante, il ne faut donc pas l'appeler directement dans une coroutine asynchrone sous peine de bloquer toute la boucle d'evenements. Pour la production a forte charge, on prefere un moteur d'inference optimise comme vLLM ou TGI, qui apportent le batching continu et un bien meilleur debit."
  },
  {
    "instruction": "Qu'est-ce que le suivi d'experiences (experiment tracking) et pourquoi est-ce important ?",
    "output": "Le suivi d'experiences consiste a enregistrer systematiquement, pour chaque run d'entrainement, les hyperparametres, les metriques au fil du temps, les artefacts produits et l'environnement d'execution. Des outils comme TensorBoard, Weights & Biases ou MLflow centralisent ces informations. Pourquoi c'est crucial : la reproductibilite, c'est-a-dire retrouver exactement quelle configuration a produit quel resultat ; la comparaison objective de plusieurs runs ; le debogage, en reperant une divergence de loss ; et la collaboration. Sans tracking, on retombe vite dans le fameux ca marchait la semaine derniere. Il est recommande d'y joindre le hash du commit git et la graine aleatoire utilisee."
  },
  {
    "instruction": "Qu'est-ce que le drift d'un modele en production et comment le surveiller ?",
    "output": "Le drift designe la degradation progressive des performances d'un modele apres deploiement, parce que le monde change. On distingue le data drift, ou la distribution des entrees evolue, et le concept drift, ou la relation entre entrees et cible se modifie. La difficulte est que les etiquettes reelles arrivent souvent avec retard, voire jamais. On surveille donc a plusieurs niveaux : la distribution des variables d'entree, comparee a une reference d'entrainement ; la distribution des predictions ; les indicateurs indirects comme le taux de rejet ou de reformulation par les utilisateurs ; et, quand les etiquettes finissent par arriver, les metriques de performance reelles. On declenche alors un reentrainement, idealement automatise et valide avant mise en service."
  },
  {
    "instruction": "Pourquoi conteneuriser une application de machine learning avec Docker ?",
    "output": "Parce que le principal probleme de mise en production d'un modele est la dependance a l'environnement : versions de bibliotheques, pilotes CUDA, systeme d'exploitation. Docker fige tout cela dans une image reproductible qui s'execute a l'identique en local, en CI et en production. Pour le ML, quelques specificites comptent : partir d'une image de base contenant le bon runtime CUDA, utiliser un build multi-etapes pour ne pas embarquer les outils de compilation dans l'image finale, ne pas inclure les poids du modele dans l'image mais les monter en volume ou les telecharger au demarrage, et epingler precisement les versions. On obtient ainsi des images plus legeres, plus rapides a deployer et bien plus faciles a auditer."
  },
  {
    "instruction": "Qu'est-ce qu'un model registry et une model card ?",
    "output": "Un model registry est un catalogue versionne des modeles entraines : chaque version y est enregistree avec ses metriques, ses artefacts, son lignage et son statut, par exemple staging ou production. Il permet de savoir precisement ce qui tourne, de revenir en arriere et de tracer l'origine d'une prediction. La model card est la documentation qui accompagne un modele : usage prevu et usages deconseilles, donnees d'entrainement et leurs limites, performances mesurees et protocole d'evaluation, biais connus, cas d'echec identifies, considerations ethiques et licence. Elle est devenue une norme de fait, notamment sur le Hugging Face Hub. Ensemble, ils repondent a une exigence croissante de tracabilite et de conformite."
  },
  {
    "instruction": "Comment reduire la latence d'inference d'un LLM ?",
    "output": "Plusieurs leviers, du plus rentable au plus specifique. Utiliser un moteur d'inference optimise comme vLLM ou TGI, qui apportent le batching continu et une gestion efficace du cache KV, transforme generalement le debit. Quantizer le modele en 8 ou 4 bits reduit la memoire et accelere le transfert. Reduire le nombre de tokens generes, en bornant la longueur et en imposant un format concis, agit directement sur la latence, puisque la generation est sequentielle. Le streaming n'ameliore pas la latence totale mais transforme la perception en affichant les premiers tokens immediatement. Enfin, un modele plus petit specialise par distillation est souvent le meilleur compromis, et un cache des requetes frequentes elimine purement et simplement le calcul."
  },
  {
    "instruction": "Quelle est la difference entre latence et debit dans un service d'inference ?",
    "output": "La latence est le temps de reponse d'une requete individuelle, du point de vue de l'utilisateur. Le debit est le nombre de requetes ou de tokens traites par unite de temps, du point de vue du systeme. Les deux s'opposent partiellement : regrouper les requetes en lots augmente fortement le debit, car le GPU travaille sur plus de donnees a la fois, mais ajoute une attente de constitution du lot, donc de la latence. Pour un LLM, on distingue en outre le temps jusqu'au premier token, determinant pour la perception, et le temps entre tokens, qui fixe la vitesse d'affichage. On dimensionne un service en fixant un objectif de latence au percentile 95 et en maximisant le debit sous cette contrainte."
  },
  {
    "instruction": "Comment securiser une API exposant un LLM ?",
    "output": "Plusieurs couches sont necessaires. Sur l'acces : authentification par cle ou jeton, limitation de debit par client et quotas, pour eviter l'abus et maitriser le cout. Sur les entrees : bornes strictes sur la taille du prompt et le nombre de tokens generes, delais d'expiration, validation stricte du schema. Sur le contenu : filtrage des demandes abusives et attention a l'injection de prompt, particulierement quand le modele traite des documents externes ou dispose d'outils, car des instructions malveillantes peuvent y etre dissimulees. Sur la sortie : ne jamais executer directement le texte genere, et l'echapper avant tout affichage. Enfin, journaliser sans stocker de donnees sensibles, et documenter la retention et l'usage des prompts collectes."
  },
  {
    "instruction": "Qu'est-ce que l'integration continue appliquee a un projet de machine learning ?",
    "output": "L'integration continue execute automatiquement, a chaque modification du code, une serie de verifications afin de detecter tot les regressions. Sur un projet ML, elle couvre plusieurs niveaux : verification du style et du typage ; tests unitaires des fonctions de preparation des donnees, de tokenisation et de collate ; tests de validite du jeu de donnees, notamment l'absence de fuite entre les splits ; et un entrainement de fumee sur quelques exemples pour verifier que le pipeline complet s'execute sans erreur. Les entrainements complets, trop couteux, sont declenches separement. L'apport est double : une base de code toujours fonctionnelle, et un signal de confiance immediatement visible pour les relecteurs."
  },
  {
    "instruction": "Comment gerer les versions d'un jeu de donnees ?",
    "output": "Un modele n'est reproductible que si l'on sait exactement sur quelles donnees il a ete entraine. Les fichiers volumineux n'ayant pas leur place dans git, on utilise des outils dedies comme DVC ou LakeFS, qui versionnent des pointeurs dans git et stockent le contenu ailleurs. Le minimum viable, meme sans outil, consiste a calculer une empreinte cryptographique du jeu et a la journaliser avec le run d'entrainement, a horodater les jeux plutot qu'a les ecraser, et a documenter la procedure de generation dans du code versionne plutot que dans des manipulations manuelles. On conserve aussi la definition exacte des splits, afin qu'une evaluation ulterieure porte bien sur les memes exemples de test."
  },
  {
    "instruction": "Qu'est-ce qu'un deploiement canari et un rollback ?",
    "output": "Un deploiement canari consiste a exposer la nouvelle version a une petite fraction du trafic, par exemple 1 a 5 %, tout en laissant la majorite sur l'ancienne. On surveille alors les indicateurs techniques et metier sur ce sous-ensemble ; si tout est conforme, on augmente progressivement la part, sinon on interrompt. Le rollback est le retour immediat a la version precedente en cas d'anomalie ; il suppose que l'ancienne version reste deployable instantanement et que les changements de schema soient retrocompatibles. Pour un modele, cela implique de conserver les poids et la configuration des versions precedentes dans le registry. Ces pratiques transforment une mise en production risquee en operation reversible et controlee."
  },
  {
    "instruction": "Que faut-il journaliser dans un service de LLM en production ?",
    "output": "Sur le plan technique : identifiant de requete, horodatage, version du modele et du prompt systeme, nombre de tokens en entree et en sortie, latence decomposee, code de statut et erreurs. Sur le plan produit : les signaux de qualite disponibles, comme un pouce leve ou baisse, une reformulation immediate, un abandon, ou l'acceptation d'une suggestion. Ces informations permettent de correler une degradation a un changement precis et d'alimenter les jeux d'evaluation futurs. Sur le plan de la confidentialite, il faut arbitrer explicitement : le contenu des prompts est souvent sensible, il convient donc d'anonymiser ou de ne conserver que des empreintes, de definir une duree de retention, et d'informer les utilisateurs de l'usage qui en est fait."
  },
  {
    "instruction": "Pourquoi epingler les versions des dependances dans un projet ML ?",
    "output": "Parce que les bibliotheques de l'ecosysteme evoluent vite et introduisent regulierement des ruptures d'API. Un projet qui declare seulement des versions minimales fonctionnera aujourd'hui et echouera dans six mois sur une machine neuve, souvent avec des erreurs obscures. Pire, un changement silencieux de comportement numerique peut modifier les resultats sans provoquer d'erreur, rendant les experiences incomparables. La bonne pratique distingue deux niveaux : les dependances directes, exprimees avec des contraintes lisibles, et un fichier de verrouillage qui fige l'integralite des versions resolues, y compris transitives. On y ajoute la version de Python et celle du runtime CUDA, souvent oubliees alors qu'elles sont determinantes pour un projet GPU."
  },
  {
    "instruction": "Comment estimer le cout d'un projet de fine-tuning et d'inference ?",
    "output": "Le cout se decompose en trois postes. L'entrainement se calcule a partir du temps GPU multiplie par le prix horaire, en tenant compte des essais rates et des recherches d'hyperparametres, qui dominent souvent le cout total. Le stockage couvre les poids, les checkpoints intermediaires et les jeux de donnees. L'inference est generalement le poste principal sur la duree : on l'estime a partir du volume de requetes, du nombre moyen de tokens en entree et en sortie, et du debit obtenu par instance GPU. Un fine-tuning LoRA se chiffre souvent en quelques euros, alors que servir le modele en continu represente un cout recurrent. C'est pourquoi la comparaison avec une API existante, ou avec un modele plus petit, doit etre faite avant de s'engager."
  }
]

	[
	{
	"instruction": "Pourquoi fusionner (merge) les poids LoRA avant le deploiement ?",
	"output": "Pendant l'entrainement, l'adaptateur LoRA reste separe du modele de base. Pour le deploiement, on peut fusionner delta_W dans les poids d'origine avec `merge_and_unload()`, obtenant un modele standard autonome. Avantages : l'inference est plus simple et legerement plus rapide, sans calcul d'adaptateur separe ; le modele fusionne est un checkpoint classique, compatible avec des outils comme llama.cpp, Ollama ou l'export GGUF ; et il n'y a plus de dependance a PEFT au runtime. Inconvenient : on perd la modularite, puisqu'on ne peut plus echanger l'adaptateur, et le fichier est bien plus gros. On garde donc souvent l'adaptateur pour l'experimentation et l'on fusionne pour la production."
	},
	{
	"instruction": "Qu'est-ce que le format GGUF et Ollama ?",
	"output": "GGUF est un format de fichier concu pour executer des LLM efficacement sur CPU et GPU grand public, notamment via llama.cpp. Il stocke poids quantises et metadonnees dans un seul fichier portable, avec differents niveaux de quantization, par exemple Q4_K_M pour un bon compromis taille/qualite. Ollama est un outil qui simplifie l'execution locale de LLM : il gere le telechargement, la quantization GGUF et sert une API locale. On decrit le modele dans un `Modelfile` precisant le fichier de base, les parametres et le template de prompt, puis on lance `ollama create` et `ollama run`. C'est ideal pour deployer localement un modele fine-tune et fusionne, sans GPU serveur ni dependances Python lourdes."
	},
	{
	"instruction": "Comment servir un modele fine-tune via une API ?",
	"output": "Le schema classique : un serveur web comme FastAPI charge le modele UNE fois au demarrage, puis expose un endpoint qui recoit un prompt et renvoie la generation. Bonnes pratiques : charger le modele au startup et non a chaque requete ; valider les entrees avec Pydantic ; borner le nombre de tokens generes ; ajouter un endpoint de sante. Point critique souvent oublie : la generation est bloquante, il ne faut donc pas l'appeler directement dans une coroutine asynchrone sous peine de bloquer toute la boucle d'evenements. Pour la production a forte charge, on prefere un moteur d'inference optimise comme vLLM ou TGI, qui apportent le batching continu et un bien meilleur debit."
	},
	{
	"instruction": "Qu'est-ce que le suivi d'experiences (experiment tracking) et pourquoi est-ce important ?",
	"output": "Le suivi d'experiences consiste a enregistrer systematiquement, pour chaque run d'entrainement, les hyperparametres, les metriques au fil du temps, les artefacts produits et l'environnement d'execution. Des outils comme TensorBoard, Weights & Biases ou MLflow centralisent ces informations. Pourquoi c'est crucial : la reproductibilite, c'est-a-dire retrouver exactement quelle configuration a produit quel resultat ; la comparaison objective de plusieurs runs ; le debogage, en reperant une divergence de loss ; et la collaboration. Sans tracking, on retombe vite dans le fameux ca marchait la semaine derniere. Il est recommande d'y joindre le hash du commit git et la graine aleatoire utilisee."
	},
	{
	"instruction": "Qu'est-ce que le drift d'un modele en production et comment le surveiller ?",
	"output": "Le drift designe la degradation progressive des performances d'un modele apres deploiement, parce que le monde change. On distingue le data drift, ou la distribution des entrees evolue, et le concept drift, ou la relation entre entrees et cible se modifie. La difficulte est que les etiquettes reelles arrivent souvent avec retard, voire jamais. On surveille donc a plusieurs niveaux : la distribution des variables d'entree, comparee a une reference d'entrainement ; la distribution des predictions ; les indicateurs indirects comme le taux de rejet ou de reformulation par les utilisateurs ; et, quand les etiquettes finissent par arriver, les metriques de performance reelles. On declenche alors un reentrainement, idealement automatise et valide avant mise en service."
	},
	{
	"instruction": "Pourquoi conteneuriser une application de machine learning avec Docker ?",
	"output": "Parce que le principal probleme de mise en production d'un modele est la dependance a l'environnement : versions de bibliotheques, pilotes CUDA, systeme d'exploitation. Docker fige tout cela dans une image reproductible qui s'execute a l'identique en local, en CI et en production. Pour le ML, quelques specificites comptent : partir d'une image de base contenant le bon runtime CUDA, utiliser un build multi-etapes pour ne pas embarquer les outils de compilation dans l'image finale, ne pas inclure les poids du modele dans l'image mais les monter en volume ou les telecharger au demarrage, et epingler precisement les versions. On obtient ainsi des images plus legeres, plus rapides a deployer et bien plus faciles a auditer."
	},
	{
	"instruction": "Qu'est-ce qu'un model registry et une model card ?",
	"output": "Un model registry est un catalogue versionne des modeles entraines : chaque version y est enregistree avec ses metriques, ses artefacts, son lignage et son statut, par exemple staging ou production. Il permet de savoir precisement ce qui tourne, de revenir en arriere et de tracer l'origine d'une prediction. La model card est la documentation qui accompagne un modele : usage prevu et usages deconseilles, donnees d'entrainement et leurs limites, performances mesurees et protocole d'evaluation, biais connus, cas d'echec identifies, considerations ethiques et licence. Elle est devenue une norme de fait, notamment sur le Hugging Face Hub. Ensemble, ils repondent a une exigence croissante de tracabilite et de conformite."
	},
	{
	"instruction": "Comment reduire la latence d'inference d'un LLM ?",
	"output": "Plusieurs leviers, du plus rentable au plus specifique. Utiliser un moteur d'inference optimise comme vLLM ou TGI, qui apportent le batching continu et une gestion efficace du cache KV, transforme generalement le debit. Quantizer le modele en 8 ou 4 bits reduit la memoire et accelere le transfert. Reduire le nombre de tokens generes, en bornant la longueur et en imposant un format concis, agit directement sur la latence, puisque la generation est sequentielle. Le streaming n'ameliore pas la latence totale mais transforme la perception en affichant les premiers tokens immediatement. Enfin, un modele plus petit specialise par distillation est souvent le meilleur compromis, et un cache des requetes frequentes elimine purement et simplement le calcul."
	},
	{
	"instruction": "Quelle est la difference entre latence et debit dans un service d'inference ?",
	"output": "La latence est le temps de reponse d'une requete individuelle, du point de vue de l'utilisateur. Le debit est le nombre de requetes ou de tokens traites par unite de temps, du point de vue du systeme. Les deux s'opposent partiellement : regrouper les requetes en lots augmente fortement le debit, car le GPU travaille sur plus de donnees a la fois, mais ajoute une attente de constitution du lot, donc de la latence. Pour un LLM, on distingue en outre le temps jusqu'au premier token, determinant pour la perception, et le temps entre tokens, qui fixe la vitesse d'affichage. On dimensionne un service en fixant un objectif de latence au percentile 95 et en maximisant le debit sous cette contrainte."
	},
	{
	"instruction": "Comment securiser une API exposant un LLM ?",
	"output": "Plusieurs couches sont necessaires. Sur l'acces : authentification par cle ou jeton, limitation de debit par client et quotas, pour eviter l'abus et maitriser le cout. Sur les entrees : bornes strictes sur la taille du prompt et le nombre de tokens generes, delais d'expiration, validation stricte du schema. Sur le contenu : filtrage des demandes abusives et attention a l'injection de prompt, particulierement quand le modele traite des documents externes ou dispose d'outils, car des instructions malveillantes peuvent y etre dissimulees. Sur la sortie : ne jamais executer directement le texte genere, et l'echapper avant tout affichage. Enfin, journaliser sans stocker de donnees sensibles, et documenter la retention et l'usage des prompts collectes."
	},
	{
	"instruction": "Qu'est-ce que l'integration continue appliquee a un projet de machine learning ?",
	"output": "L'integration continue execute automatiquement, a chaque modification du code, une serie de verifications afin de detecter tot les regressions. Sur un projet ML, elle couvre plusieurs niveaux : verification du style et du typage ; tests unitaires des fonctions de preparation des donnees, de tokenisation et de collate ; tests de validite du jeu de donnees, notamment l'absence de fuite entre les splits ; et un entrainement de fumee sur quelques exemples pour verifier que le pipeline complet s'execute sans erreur. Les entrainements complets, trop couteux, sont declenches separement. L'apport est double : une base de code toujours fonctionnelle, et un signal de confiance immediatement visible pour les relecteurs."
	},
	{
	"instruction": "Comment gerer les versions d'un jeu de donnees ?",
	"output": "Un modele n'est reproductible que si l'on sait exactement sur quelles donnees il a ete entraine. Les fichiers volumineux n'ayant pas leur place dans git, on utilise des outils dedies comme DVC ou LakeFS, qui versionnent des pointeurs dans git et stockent le contenu ailleurs. Le minimum viable, meme sans outil, consiste a calculer une empreinte cryptographique du jeu et a la journaliser avec le run d'entrainement, a horodater les jeux plutot qu'a les ecraser, et a documenter la procedure de generation dans du code versionne plutot que dans des manipulations manuelles. On conserve aussi la definition exacte des splits, afin qu'une evaluation ulterieure porte bien sur les memes exemples de test."
	},
	{
	"instruction": "Qu'est-ce qu'un deploiement canari et un rollback ?",
	"output": "Un deploiement canari consiste a exposer la nouvelle version a une petite fraction du trafic, par exemple 1 a 5 %, tout en laissant la majorite sur l'ancienne. On surveille alors les indicateurs techniques et metier sur ce sous-ensemble ; si tout est conforme, on augmente progressivement la part, sinon on interrompt. Le rollback est le retour immediat a la version precedente en cas d'anomalie ; il suppose que l'ancienne version reste deployable instantanement et que les changements de schema soient retrocompatibles. Pour un modele, cela implique de conserver les poids et la configuration des versions precedentes dans le registry. Ces pratiques transforment une mise en production risquee en operation reversible et controlee."
	},
	{
	"instruction": "Que faut-il journaliser dans un service de LLM en production ?",
	"output": "Sur le plan technique : identifiant de requete, horodatage, version du modele et du prompt systeme, nombre de tokens en entree et en sortie, latence decomposee, code de statut et erreurs. Sur le plan produit : les signaux de qualite disponibles, comme un pouce leve ou baisse, une reformulation immediate, un abandon, ou l'acceptation d'une suggestion. Ces informations permettent de correler une degradation a un changement precis et d'alimenter les jeux d'evaluation futurs. Sur le plan de la confidentialite, il faut arbitrer explicitement : le contenu des prompts est souvent sensible, il convient donc d'anonymiser ou de ne conserver que des empreintes, de definir une duree de retention, et d'informer les utilisateurs de l'usage qui en est fait."
	},
	{
	"instruction": "Pourquoi epingler les versions des dependances dans un projet ML ?",
	"output": "Parce que les bibliotheques de l'ecosysteme evoluent vite et introduisent regulierement des ruptures d'API. Un projet qui declare seulement des versions minimales fonctionnera aujourd'hui et echouera dans six mois sur une machine neuve, souvent avec des erreurs obscures. Pire, un changement silencieux de comportement numerique peut modifier les resultats sans provoquer d'erreur, rendant les experiences incomparables. La bonne pratique distingue deux niveaux : les dependances directes, exprimees avec des contraintes lisibles, et un fichier de verrouillage qui fige l'integralite des versions resolues, y compris transitives. On y ajoute la version de Python et celle du runtime CUDA, souvent oubliees alors qu'elles sont determinantes pour un projet GPU."
	},
	{
	"instruction": "Comment estimer le cout d'un projet de fine-tuning et d'inference ?",
	"output": "Le cout se decompose en trois postes. L'entrainement se calcule a partir du temps GPU multiplie par le prix horaire, en tenant compte des essais rates et des recherches d'hyperparametres, qui dominent souvent le cout total. Le stockage couvre les poids, les checkpoints intermediaires et les jeux de donnees. L'inference est generalement le poste principal sur la duree : on l'estime a partir du volume de requetes, du nombre moyen de tokens en entree et en sortie, et du debit obtenu par instance GPU. Un fine-tuning LoRA se chiffre souvent en quelques euros, alors que servir le modele en continu represente un cout recurrent. C'est pourquoi la comparaison avec une API existante, ou avec un modele plus petit, doit etre faite avant de s'engager."
	}
	]