« Maîtrisez l'IA générative grâce à une formation pratique sur les grands modèles linguistiques (LLM), les techniques PEFT (LoRA, QLoRA) et les modèles de diffusion à l'aide de Hugging Face, diffusers, peft, trl et bitsandbytes. Ce cours vous emmène de l’exploration des rouages internes des transformateurs « decoder-only » à la création d’un LLM spécialisé et finement ajusté, en passant par la génération d’images de haute qualité et contrôlables avec ControlNet.

Dans le module 1, vous explorerez les architectures de transformateurs « decoder-only », l’auto-attention, le masquage causal, la mise en cache KV et les mécanismes de flux de tokens. Le module 2 se concentre sur l’ajustement fin à faible consommation de paramètres (PEFT) : vous y implémenterez LoRA, QLoRA et la quantification à 4 bits pour ajuster finement de grands modèles sur des GPU grand public à l’aide de pipelines SFT. Le module 3 se penche sur les modèles de diffusion, en abordant les processus directs et inverses, UNet, les planificateurs (DDIM, Euler, DPM++) et le conditionnement ControlNet. Le module 4 constitue le projet de fin de formation, au cours duquel vous construirez un LLM spécialisé — de la création du jeu de données à l’exportation de l’adaptateur et à l’évaluation. À l’issue de ce cours, vous serez capable de : - Construire et optimiser des pipelines de transformateurs « décodeur seul » avec mise en cache KV - Affiner des LLM de plus de 7 milliards de paramètres à l’aide de LoRA, QLoRA et de pipelines SFT sur du matériel limité - Configurer des pipelines de diffuseurs avec ControlNet pour la génération d’images contrôlable - Entraîner, exporter et évaluer de bout en bout un adaptateur LLM avec une spécialisation dans un domaine spécifique Avertissement : Il s’agit d’une ressource pédagogique indépendante créée par Board Infinity à des fins d’information et d’enseignement uniquement. Sauf mention contraire explicite, ce cours n’est ni affilié à, ni approuvé par, ni sponsorisé par, ni officiellement associé à aucune entreprise, organisation ou organisme de certification. Le contenu fourni s’appuie sur les connaissances du secteur et les meilleures pratiques, mais ne constitue pas un support de formation officiel pour un employeur ou un programme de certification spécifique. Tous les noms d’entreprises, marques déposées, marques de service et logos mentionnés sont la propriété de leurs détenteurs respectifs et sont utilisés uniquement à des fins pédagogiques d’identification et de comparaison.