Les apprenants acquerront les compétences nécessaires pour servir de puissants modèles de langage sous forme d'API web pratiques et évolutives. Ils apprendront à utiliser le serveur d'exemple llama.cpp pour exposer un grand modèle de langage à travers un ensemble de points d'extrémité d'API REST pour des tâches telles que la génération de texte, la tokenisation et l'extraction d'embedding. Le cours plonge dans les détails techniques de l'exécution du serveur llama.cpp, de la configuration de diverses options pour personnaliser le comportement du modèle et de la gestion efficace des requêtes. Les apprenants comprendront comment interagir avec l'API en utilisant des outils comme curl et Python, ce qui leur permettra d'intégrer les capacités des modèles de langage dans leurs propres applications. Tout au long du cours, des exercices pratiques et des exemples de code renforcent les concepts et fournissent aux apprenants une expérience pratique de la configuration et de l'utilisation du serveur llama.cpp. À la fin du cours, les participants seront équipés pour déployer des API de modèles de langage robustes pour une variété de tâches de traitement du langage naturel. Le cours se distingue en se concentrant sur les aspects pratiques du service de grands modèles de langage dans des environnements de production en utilisant le cadre efficace et flexible de llama.cpp. Il permet aux apprenants d'exploiter la puissance des modèles NLP de pointe dans leurs projets grâce à une interface API pratique et performante.