Les modèles d'IA deviennent de plus en plus puissants-mais aussi de plus en plus exigeants. Alors que l'IA générative passe des centres de données cloud aux téléphones mobiles, aux systèmes autonomes et aux appareils IoT embarqués, la nécessité d'optimiser les performances sur divers environnements matériels n'a jamais été aussi cruciale. Les processeurs basés sur Arm équipent plus de 300 milliards d'appareils dans le monde, des smartphones aux serveurs cloud hyperscale, ce qui en fait une base essentielle pour un déploiement efficace de l'IA dans l'ensemble du paysage de calcul. Pour répondre à cette demande croissante, les apprenants doivent disposer des compétences nécessaires pour traduire les modèles d'apprentissage automatique en implémentations en temps réel et tenant compte du matériel sur les plateformes basées sur Arm.

Optimiser l'IA générative sur les processeurs Arm : de l'Edge au Cloud est conçu pour les praticiens intermédiaires de l'apprentissage automatique qui souhaitent combler le fossé entre la conception du modèle et l'efficacité du déploiement. Plutôt que de revisiter les fondamentaux du ML, ce cours plonge directement dans l'ingénierie des performances pour l'IA générative sur les plateformes basées sur Arm, y compris les environnements mobiles, edge et cloud. vous explorerez les contraintes du monde réel, les caractéristiques de l'architecture Arm et les techniques logicielles utilisées pour accélérer l'inférence IA - y compris SIMD (SVE, Neon), la quantification à faible bit et la bibliothèque KleidiAI. Chaque concept est enseigné à l'aide de Bloc-notes interactifs concis et d'exemples narrés, ce qui vous permet de mesurer, d'ajuster et d'itérer sur du matériel réel comme le Raspberry Pi 5 ou les instances de cloud AWS Graviton3.