KI-Modelle werden immer leistungsfähiger - aber auch immer anspruchsvoller. AS Generative KI bewegt sich von Rechenzentren in der Cloud zu Mobiltelefonen, autonomen Systemen und eingebetteten IoT-Geräten. Die Optimierung der Leistung in verschiedenen Hardware-Umgebungen war noch nie so wichtig wie heute. Arm-basierte Prozessoren treiben weltweit mehr als 300 Milliarden Geräte an, von Smartphones bis hin zu Hyperscale-Cloud-Servern, und sind damit eine wichtige Grundlage für die effiziente Bereitstellung von KI in der gesamten Rechenlandschaft. Um diese wachsende Nachfrage zu befriedigen, müssen Lernende in der Lage sein, Modelle des Maschinellen Lernens in Echtzeit in Hardware-bewusste Implementierungen auf Arm-basierten Plattformen umzusetzen.

Optimizing Generative KI on Arm Processors: from Edge to Cloud richtet sich an fortgeschrittene Praktiker des Maschinellen Lernens, die die Lücke zwischen Maschinenkonzept und effizienter Bereitstellung schließen wollen. Dieser Kurs befasst sich nicht mit den Grundlagen des maschinellen Lernens, sondern mit dem Performance-Engineering für Generative KI auf Arm-basierten Plattformen, einschließlich mobiler, Edge- und Cloud-Umgebungen. sie werden reale Einschränkungen, Merkmale der Arm-Architektur und Softwaretechniken zur Beschleunigung der KI-Inferenz kennenlernen - einschließlich SIMD (SVE, Neon), Low-Bit-Quantisierung und der KleidiAI-Bibliothek. Jedes Konzept wird anhand von prägnanten, interaktiven Notizbüchern und kommentierten Beispielen vermittelt, die es Ihnen ermöglichen, auf echter Hardware wie dem Raspberry Pi 5 oder AWS Graviton3 Cloud Instanzen zu messen, zu optimieren und zu iterieren.