Learn to build production-grade LLM systems using AWS Bedrock, local inference toolchains, and systematic quality evaluation. You will explore retrieval-augmented generation (RAG) on AWS, configuring Bedrock knowledge bases with S3 data sources for document-grounded responses, and building Rust applications that interact with Bedrock model APIs. The course covers tokenization fundamentals, multi-model architectures for routing requests to appropriate foundation models, and the Bedrock knowledge agent workflow from data ingestion to response generation. You will compile llama.cpp with hardware-specific optimization flags, work with the GGUF file format for quantized model distribution, and deploy Qwen 2.5 Coder as a local coding assistant on AWS GPU instances. The local LLM toolchain module demonstrates Amdahl's law applied to parallel compilation, Bedrock provisioned throughput for dedicated model capacity, and prompt evaluation in the Bedrock console. You will use the UV package manager for Python dependency management in LLM projects and explore Amazon Q Developer for AI-assisted code generation and documentation. The course also covers SageMaker Canvas for no-code ML development, including dataset preparation and AutoML training. By completing this course, you will be able to design RAG pipelines on AWS, run optimized local LLM inference with llama.cpp, and evaluate LLM quality metrics for production deployments.

Deterministic LLM programming

Deterministic LLM programming
Ce cours fait partie de Spécialisation "AI Tooling"


Instructeurs : Alfredo Deza
Inclus avec
Obtenez un aperçu d'un sujet et apprenez les principes fondamentaux.
niveau Débutant
Expérience recommandée
4 heures à compléter
Planning flexible
Apprenez à votre propre rythme
Ce que vous apprendrez
Implement RAG pipelines on AWS using Bedrock knowledge bases, S3 data sources, and Rust SDK integration for document-grounded LLM responses
Evaluate LLM quality through Bedrock prompt evaluation, provisioned throughput configuration, and SageMaker Canvas no-code ML workflows
Compétences que vous acquerrez
- Catégorie : Generative AI Agents
- Catégorie : Performance Tuning
- Catégorie : Model Optimization
- Catégorie : Token Optimization
- Catégorie : Large Language Modeling
- Catégorie : LLM Application
- Catégorie : Retrieval-Augmented Generation
- Catégorie : Model Training
- Catégorie : Package and Software Management
Outils que vous découvrirez
- Catégorie : Amazon Web Services
- Catégorie : Prompt Engineering
- Catégorie : Generative AI
- Catégorie : AWS SageMaker
- Catégorie : AI Orchestration
- Catégorie : No-Code Development
- Catégorie : Amazon Bedrock
- Catégorie : Rust (Programming Language)
- Catégorie : Model Deployment
Détails à connaître

Certificat partageable
Ajouter à votre profil LinkedIn
Récemment mis à jour !
avril 2026
Évaluations
3 devoirs
Enseigné en Anglais
Découvrez comment les employés des entreprises prestigieuses maîtrisent des compétences recherchées

Élaborez votre expertise du sujet
Ce cours fait partie de la Spécialisation "AI Tooling"
Lorsque vous vous inscrivez à ce cours, vous êtes également inscrit(e) à cette Spécialisation.
- Apprenez de nouveaux concepts auprès d'experts du secteur
- Acquérez une compréhension de base d'un sujet ou d'un outil
- Développez des compétences professionnelles avec des projets pratiques
- Obtenez un certificat professionnel partageable

Il y a 4 modules dans ce cours
Obtenez un certificat professionnel
Ajoutez ce titre à votre profil LinkedIn, à votre curriculum vitae ou à votre CV. Partagez-le sur les médias sociaux et dans votre évaluation des performances.
Offert par
En savoir plus sur Software Development
Statut : Essai gratuit
Statut : Essai gratuit
Statut : Essai gratuit
Pour quelles raisons les étudiants sur Coursera nous choisissent-ils pour leur carrière ?

Felipe M.
Étudiant(e) depuis 2018
’Pouvoir suivre des cours à mon rythme à été une expérience extraordinaire. Je peux apprendre chaque fois que mon emploi du temps me le permet et en fonction de mon humeur.’

Jennifer J.
Étudiant(e) depuis 2020
’J'ai directement appliqué les concepts et les compétences que j'ai appris de mes cours à un nouveau projet passionnant au travail.’

Larry W.
Étudiant(e) depuis 2021
’Lorsque j'ai besoin de cours sur des sujets que mon université ne propose pas, Coursera est l'un des meilleurs endroits où se rendre.’

Chaitanya A.
’Apprendre, ce n'est pas seulement s'améliorer dans son travail : c'est bien plus que cela. Coursera me permet d'apprendre sans limites.’
Faites progresser votre carrière avec un diplôme en ligne
Obtenez un diplôme auprès d’universités de renommée mondiale - 100 % en ligne
Foire Aux Questions
Plus de questions
Aide financière disponible,




