Lernen Sie, LLM-Systeme in Produktionsqualität mit AWS Bedrock, lokalen Inferenz-Toolchains und systematischer Qualitätsbewertung zu erstellen. Sie werden die abruferweiterte Generierung (RAG) auf AWS, die Konfiguration von Bedrock-Wissensdatenbanken mit S3-Datenquellen für dokumentenbasierte Antworten und die Erstellung von Rust-Anwendungen, die mit Bedrock-Modell-APIs interagieren, erkunden. Der Kurs deckt die Grundlagen der Tokenisierung, Multi-Modell-Architekturen für das Routing von Anfragen an geeignete Foundation-Modelle und den Bedrock-Wissensagenten-Workflow von der Datenaufnahme bis zur Antwortgenerierung ab. Sie werden llama.cpp mit hardwarespezifischen Optimierungsflags kompilieren, mit dem GGUF-Dateiformat für die Verteilung quantisierter Modelle arbeiten und Qwen 2.5 Coder als lokalen Kodierungsassistenten auf AWS GPU-Instanzen einsetzen. Das lokale LLM-Toolchain-Modul demonstriert die Anwendung des Amdahlschen Gesetzes auf die parallele Kompilierung, den von Bedrock bereitgestellten Durchsatz für dedizierte Modellkapazitäten und die sofortige Auswertung in der Bedrock-Konsole. Sie werden den UV-Paketmanager für die Verwaltung von Python-Abhängigkeiten in LLM-Projekten verwenden und Amazon Q Developer für die KI-unterstützte Codegenerierung und Dokumentation erkunden. Der Kurs behandelt auch SageMaker Canvas für die ML-Entwicklung ohne Code, einschließlich der Vorbereitung von Datensätzen und AutoML-Training. Nach Abschluss dieses Kurses werden Sie in der Lage sein, RAG-Pipelines auf AWS zu entwerfen, optimierte lokale LLM-Inferenz mit llama.cpp auszuführen und LLM-Qualitätsmetriken für Produktionsbereitstellungen zu bewerten.