When will I receive my Course Certificate?

If you complete the course successfully, your electronic Course Certificate will be added to your Accomplishments page - from there, you can print your Course Certificate or add it to your LinkedIn profile.

Why can’t I audit this course?

This course is currently available only to learners who have paid or received financial aid, when available.

Is financial aid available?

Yes. In select learning programs, you can apply for financial aid or a scholarship if you can’t afford the enrollment fee. If fin aid or scholarship is available for your learning program selection, you’ll find a link to apply on the description page.

Certified Ethical Hacker (CEH): Unit 8

Saisissez l'occasion de faire des économies ! Bénéficiez de 40 % de réduction sur 3 mois de Coursera Plus et d'un accès complet à des milliers de cours.

Ce cours n'est pas disponible en Français (France)

Nous sommes actuellement en train de le traduire dans plus de langues.

Certified Ethical Hacker (CEH): Unit 8

Ce cours fait partie de Spécialisation "Certified Ethical Hacker (CEH)"

Instructeurs : Pearson

Inclus avec

1 module

Obtenez un aperçu d'un sujet et apprenez les principes fondamentaux.

niveau Intermédiaire

Expérience recommandée

7 heures à compléter

Planning flexible

Apprenez à votre propre rythme

1 module

Obtenez un aperçu d'un sujet et apprenez les principes fondamentaux.

niveau Intermédiaire

Expérience recommandée

7 heures à compléter

Planning flexible

Apprenez à votre propre rythme

Ce que vous apprendrez

Develop a foundational understanding of AI threats and LLM security frameworks.
Master techniques to mitigate risks such as prompt injection and training data poisoning.
Implement best practices for securing AI supply chains and protecting sensitive information.
Enhance AI system resilience through proactive security testing and incident response strategies.

Compétences que vous acquerrez

Catégorie : Embeddings
Catégorie : System Monitoring
Catégorie : Responsible AI
Catégorie : AI Security
Catégorie : Threat Detection
Catégorie : Event Monitoring
Catégorie : Threat Modeling
Catégorie : Continuous Monitoring
Catégorie : Large Language Modeling
Catégorie : Security Testing
Catégorie : Threat Management

Outils que vous découvrirez

Catégorie : LangGraph
Catégorie : Prompt Engineering
Catégorie : Vector Databases
Catégorie : MITRE ATT&CK Framework
Catégorie : Generative AI
Catégorie : LangChain

Détails à connaître

Certificat partageable

Ajouter à votre profil LinkedIn

Évaluations

7 devoirs

Enseigné en Anglais

Découvrez comment les employés des entreprises prestigieuses maîtrisent des compétences recherchées

En savoir plus sur Coursera pour les affaires

logos de Petrobras, TATA, Danone, Capgemini, P&G et L'Oreal

Élaborez votre expertise du sujet

Ce cours fait partie de la Spécialisation "Certified Ethical Hacker (CEH)"

Lorsque vous vous inscrivez à ce cours, vous êtes également inscrit(e) à cette Spécialisation.

Apprenez de nouveaux concepts auprès d'experts du secteur
Acquérez une compréhension de base d'un sujet ou d'un outil
Développez des compétences professionnelles avec des projets pratiques
Obtenez un certificat professionnel partageable

Il y a un module dans ce cours

This course is designed to equip you with the knowledge to protect large language models (LLMs) and AI systems from emerging threats. You will explore critical security challenges such as prompt injection, training data poisoning, and model theft. You will gain insights into frameworks like MITRE ATLAS and NIST, and learn to implement best practices for securing AI ecosystems. By the end of this course, you will be proficient in identifying vulnerabilities, applying mitigation strategies, and enhancing the resilience of AI systems.

This module covers securing generative AI. It begins with an introduction to AI threats and large language model (LLM) security. You will learn about OS Top 10 for LLM applications and the MITRE ATLAS framework. You will learn about the Coalition for Secure AI and the best practices being developed by organizations like NIST and others. You will learn about prompt injection, insecure output handling, training data poisoning, model denial of service, and supply chain security. You'll also learn about other threats, like sensitive information disclosure, insecure plugin design, and excessive agency. You will learn concepts that will help you understand overreliance in AI, model theft attacks, and understanding red teaming of AI models. The module will also cover retrieval-augmented generation (RAG) and its different permutations, as well as explore tools like LangChain, LlamaIndex, LangGraph, and other orchestration libraries used with AI. You will learn how to secure embedding models, secure vector databases, and develop strategies for monitoring and incident response.

Inclus

36 vidéos7 devoirs

36 vidéos Total 224 minutes

Module Introduction 2 minutes
Learning objectives 1 minute
Understanding the Significance of LLMs in the AI Landscape 7 minutes
Exploring the Resources for this Course - GitHub Repositories and Others 3 minutes
Introducing Retrieval Augmented Generation (RAG) 12 minutes
Understanding the OWASP Top-10 Risks for LLMs 6 minutes
Exploring the MITRE ATLAS™ (Adversarial Threat Landscape for Artificial-Intelligence Systems) Framework 6 minutes
Understanding the NIST Taxonomy and Terminology of Attacks and Mitigations 7 minutes
Learning objectives 1 minute
Defining Prompt Injection Attacks 12 minutes
Exploring Real-life Prompt Injection Attacks 4 minutes
Using ChatML for OpenAI API Calls to Indicate to the LLM the Source of Prompt Input 10 minutes
Enforcing Privilege Control on LLM Access to Backend Systems 6 minutes
Best Practices Around API Tokens for Plugins, Data Access, and Function-level Permissions 3 minutes
Understanding Insecure Output Handling Attacks 3 minutes
Using the OWASP ASVS to Protect Against Insecure Output Handling 5 minutes
Learning objectives 1 minute
Understanding Training Data Poisoning Attacks 4 minutes
Exploring Model Denial of Service Attacks 3 minutes
Understanding the Risks of the AI and ML Supply Chain 9 minutes
Best Practices when Using Open-Source Models from Hugging Face and Other Sources 13 minutes
Securing Amazon BedRock, SageMaker, Microsoft Azure AI Services, and Other Environments 16 minutes
Learning objectives 1 minute
Understanding Sensitive Information Disclosure 3 minutes
Exploiting Insecure Plugin Design 3 minutes
Avoiding Excessive Agency 4 minutes
Learning objectives 1 minute
Understanding Overreliance 5 minutes
Exploring Model Theft Attacks 5 minutes
Understanding Red Teaming of AI Models 14 minutes
Learning objectives 1 minute
Understanding the RAG, LangChain, Llama Index, and AI Orchestration 17 minutes
Securing Embedding Models 10 minutes
Securing Vector Databases 12 minutes
Monitoring and Incident Response 8 minutes
Course Summary 8 minutes

7 devoirs Total 210 minutes

Introduction to AI Threats and LLM Security Quiz 30 minutes
Understanding Prompt Injection & Insecure Output Handling Quiz 30 minutes
Training Data Poisoning, Model Denial of Service & Supply Chain Vulnerabilities Quiz 30 minutes
Sensitive Information Disclosure, Insecure Plugin Design, and Excessive Agency Quiz 30 minutes
Overreliance, Model Theft, and Red Teaming AI Models Quiz 30 minutes
Protecting Retrieval Augmented Generation (RAG) Implementations Quiz 30 minutes
End of Course Assessment 30 minutes

Obtenez un certificat professionnel

Ajoutez ce titre à votre profil LinkedIn, à votre curriculum vitae ou à votre CV. Partagez-le sur les médias sociaux et dans votre évaluation des performances.

Instructeurs

Pearson

268 Cours 44 063 apprenants

Offert par

Pearson

En savoir plus sur Security

Statut : Essai gratuit
Coursera
Secure AI Systems Across Lifecycle Stages
Cours
Statut : Essai gratuit
Pearson
Certified Ethical Hacker (CEH): Unit 3
Cours
Statut : Essai gratuit
Pearson
Certified Ethical Hacker (CEH): Unit 1
Cours
Statut : Essai gratuit
Coursera
Secure AI: Red-Teaming & Safety Filters
Cours

Pour quelles raisons les étudiants sur Coursera nous choisissent-ils pour leur carrière ?

Felipe M.

Étudiant(e) depuis 2018

’Pouvoir suivre des cours à mon rythme à été une expérience extraordinaire. Je peux apprendre chaque fois que mon emploi du temps me le permet et en fonction de mon humeur.’

Jennifer J.

Étudiant(e) depuis 2020

’J'ai directement appliqué les concepts et les compétences que j'ai appris de mes cours à un nouveau projet passionnant au travail.’

Larry W.

Étudiant(e) depuis 2021

’Lorsque j'ai besoin de cours sur des sujets que mon université ne propose pas, Coursera est l'un des meilleurs endroits où se rendre.’

Chaitanya A.

’Apprendre, ce n'est pas seulement s'améliorer dans son travail : c'est bien plus que cela. Coursera me permet d'apprendre sans limites.’

Ouvrez de nouvelles portes avec Coursera Plus

Accès illimité à 10,000+ cours de niveau international, projets pratiques et programmes de certification prêts à l'emploi - tous inclus dans votre abonnement.

Faites progresser votre carrière avec un diplôme en ligne

Obtenez un diplôme auprès d’universités de renommée mondiale - 100 % en ligne

Découvrir les diplômes

Rejoignez plus de 3 400 entreprises mondiales qui ont choisi Coursera pour les affaires

Améliorez les compétences de vos employés pour exceller dans l’économie numérique

Foire Aux Questions

Yes, you can preview the first video and view the syllabus before you enroll. You must purchase the course to access content not included in the preview.

If you decide to enroll in the course before the session start date, you will have access to all of the lecture videos and readings for the course. You’ll be able to submit assignments once the session starts.

Once you enroll and your session begins, you will have access to all videos and other resources, including reading items and the course discussion forum. You’ll be able to view and submit practice assessments, and complete required graded assignments to earn a grade and a Course Certificate.