Die Teilnehmer erwerben die Fähigkeit, leistungsstarke Sprachmodelle als praktische und skalierbare Web APIs bereitzustellen. Sie lernen, wie Sie den Beispielserver llama.cpp verwenden, um ein großes Sprachmodell über eine Reihe von REST API-Endpunkten für Aufgaben wie Texterzeugung, Tokenisierung und Einbettungsextraktion bereitzustellen. Der Kurs geht auf die technischen Details der Ausführung des llama.cpp-Servers, die Konfiguration verschiedener Optionen zur Anpassung des Modellverhaltens und die effiziente Bearbeitung von Anfragen ein. Die Kursteilnehmer lernen, wie sie mit Tools wie curl und Python mit der API interagieren können, so dass sie die Funktionen des Sprachmodells in ihre eigenen Anwendungen integrieren können. Während des gesamten Kurses werden die Konzepte durch praktische Übungen und Codebeispiele vertieft, so dass die Kursteilnehmer praktische Erfahrungen bei der Einrichtung und Verwendung des llama.cpp-Servers sammeln können. Am Ende des Kurses werden die Teilnehmer in der Lage sein, robuste Sprachmodell-APIs für eine Vielzahl von Aufgaben zur Verarbeitung natürlicher Sprache einzusetzen. Der Kurs zeichnet sich dadurch aus, dass er sich auf die praktischen Aspekte der Bereitstellung großer Sprachmodelle in Produktionsumgebungen unter Verwendung des effizienten und flexiblen llama.cpp-Frameworks konzentriert. Er versetzt die Teilnehmer in die Lage, die Leistungsfähigkeit modernster NLP-Modelle in ihren Projekten über eine praktische und leistungsfähige API-Schnittstelle zu nutzen.