When will I receive my Course Certificate?

If you complete the course successfully, your electronic Course Certificate will be added to your Accomplishments page - from there, you can print your Course Certificate or add it to your LinkedIn profile.

Why can’t I audit this course?

This course is currently available only to learners who have paid or received financial aid, when available.

Is financial aid available?

Yes. In select learning programs, you can apply for financial aid or a scholarship if you can’t afford the enrollment fee. If fin aid or scholarship is available for your learning program selection, you’ll find a link to apply on the description page.

Certified Ethical Hacker (CEH): Unit 8

Ce cours n'est pas disponible en Français (France)

Nous sommes actuellement en train de le traduire dans plus de langues.

Certified Ethical Hacker (CEH): Unit 8

Ce cours fait partie de Spécialisation "Certified Ethical Hacker (CEH)"

Instructeurs : Pearson

Inclus avec En savoir plus

Demander à Coursera

1 module

Obtenez un aperçu d'un sujet et apprenez les principes fondamentaux.

niveau Intermédiaire

Expérience recommandée

7 heures à compléter

Planning flexible

Apprenez à votre propre rythme

1 module

Obtenez un aperçu d'un sujet et apprenez les principes fondamentaux.

niveau Intermédiaire

Expérience recommandée

7 heures à compléter

Planning flexible

Apprenez à votre propre rythme

Ce que vous apprendrez

Develop a foundational understanding of AI threats and LLM security frameworks.
Master techniques to mitigate risks such as prompt injection and training data poisoning.
Implement best practices for securing AI supply chains and protecting sensitive information.
Enhance AI system resilience through proactive security testing and incident response strategies.

Compétences que vous acquerrez

Catégorie : Security Testing
Catégorie : Cyber Threat Intelligence
Catégorie : Threat Modeling
Catégorie : Continuous Monitoring
Catégorie : Threat Detection
Catégorie : Threat Management
Catégorie : LLM Application
Catégorie : Embeddings
Catégorie : AI Security
Catégorie : Event Monitoring
Catégorie : Large Language Modeling

Outils que vous découvrirez

Catégorie : MITRE ATT&CK Framework
Catégorie : Generative AI
Catégorie : LangGraph
Catégorie : Prompt Engineering
Catégorie : LangChain
Catégorie : Vector Databases

Détails à connaître

Certificat partageable

Ajouter à votre profil LinkedIn

Évaluations

7 devoirs

Enseigné en Anglais

Découvrez comment les employés des entreprises prestigieuses maîtrisent des compétences recherchées

En savoir plus sur Coursera pour les affaires

logos de Petrobras, TATA, Danone, Capgemini, P&G et L'Oreal

Élaborez votre expertise du sujet

Ce cours fait partie de la Spécialisation "Certified Ethical Hacker (CEH)"

Lorsque vous vous inscrivez à ce cours, vous êtes également inscrit(e) à cette Spécialisation.

Apprenez de nouveaux concepts auprès d'experts du secteur
Acquérez une compréhension de base d'un sujet ou d'un outil
Développez des compétences professionnelles avec des projets pratiques
Obtenez un certificat professionnel partageable

Il y a un module dans ce cours

This course is designed to equip you with the knowledge to protect large language models (LLMs) and AI systems from emerging threats. You will explore critical security challenges such as prompt injection, training data poisoning, and model theft. You will gain insights into frameworks like MITRE ATLAS and NIST, and learn to implement best practices for securing AI ecosystems. By the end of this course, you will be proficient in identifying vulnerabilities, applying mitigation strategies, and enhancing the resilience of AI systems.

This module covers securing generative AI. It begins with an introduction to AI threats and large language model (LLM) security. You will learn about OS Top 10 for LLM applications and the MITRE ATLAS framework. You will learn about the Coalition for Secure AI and the best practices being developed by organizations like NIST and others. You will learn about prompt injection, insecure output handling, training data poisoning, model denial of service, and supply chain security. You'll also learn about other threats, like sensitive information disclosure, insecure plugin design, and excessive agency. You will learn concepts that will help you understand overreliance in AI, model theft attacks, and understanding red teaming of AI models. The module will also cover retrieval-augmented generation (RAG) and its different permutations, as well as explore tools like LangChain, LlamaIndex, LangGraph, and other orchestration libraries used with AI. You will learn how to secure embedding models, secure vector databases, and develop strategies for monitoring and incident response.

Inclus

36 vidéos7 devoirs

36 vidéosTotal 224 minutes

Module Introduction2 minutes
Learning objectives1 minute
Understanding the Significance of LLMs in the AI Landscape7 minutes
Exploring the Resources for this Course - GitHub Repositories and Others3 minutes
Introducing Retrieval Augmented Generation (RAG)12 minutes
Understanding the OWASP Top-10 Risks for LLMs6 minutes
Exploring the MITRE ATLAS™ (Adversarial Threat Landscape for Artificial-Intelligence Systems) Framework6 minutes
Understanding the NIST Taxonomy and Terminology of Attacks and Mitigations7 minutes
Learning objectives1 minute
Defining Prompt Injection Attacks12 minutes
Exploring Real-life Prompt Injection Attacks4 minutes
Using ChatML for OpenAI API Calls to Indicate to the LLM the Source of Prompt Input10 minutes
Enforcing Privilege Control on LLM Access to Backend Systems6 minutes
Best Practices Around API Tokens for Plugins, Data Access, and Function-level Permissions3 minutes
Understanding Insecure Output Handling Attacks3 minutes
Using the OWASP ASVS to Protect Against Insecure Output Handling5 minutes
Learning objectives1 minute
Understanding Training Data Poisoning Attacks4 minutes
Exploring Model Denial of Service Attacks3 minutes
Understanding the Risks of the AI and ML Supply Chain9 minutes
Best Practices when Using Open-Source Models from Hugging Face and Other Sources13 minutes
Securing Amazon BedRock, SageMaker, Microsoft Azure AI Services, and Other Environments16 minutes
Learning objectives1 minute
Understanding Sensitive Information Disclosure3 minutes
Exploiting Insecure Plugin Design3 minutes
Avoiding Excessive Agency4 minutes
Learning objectives1 minute
Understanding Overreliance5 minutes
Exploring Model Theft Attacks5 minutes
Understanding Red Teaming of AI Models14 minutes
Learning objectives1 minute
Understanding the RAG, LangChain, Llama Index, and AI Orchestration17 minutes
Securing Embedding Models10 minutes
Securing Vector Databases12 minutes
Monitoring and Incident Response8 minutes
Course Summary8 minutes

7 devoirsTotal 210 minutes

Introduction to AI Threats and LLM Security Quiz30 minutes
Understanding Prompt Injection & Insecure Output Handling Quiz30 minutes
Training Data Poisoning, Model Denial of Service & Supply Chain Vulnerabilities Quiz30 minutes
Sensitive Information Disclosure, Insecure Plugin Design, and Excessive Agency Quiz30 minutes
Overreliance, Model Theft, and Red Teaming AI Models Quiz30 minutes
Protecting Retrieval Augmented Generation (RAG) Implementations Quiz30 minutes
End of Course Assessment30 minutes

Obtenez un certificat professionnel

Ajoutez ce titre à votre profil LinkedIn, à votre curriculum vitae ou à votre CV. Partagez-le sur les médias sociaux et dans votre évaluation des performances.

Instructeurs

Pearson

268 Cours75 241 apprenants

Offert par

Pearson

En savoir plus sur Security

Statut : Essai gratuit
Edureka
Generative AI and LLM Security
Cours
Statut : Essai gratuit
Pearson
Certified Ethical Hacker (CEH): Unit 3
Cours
Statut : Essai gratuit
Pearson
Certified Ethical Hacker (CEH): Unit 1
Cours
Statut : Essai gratuit
Coursera
Secure AI: Threat Model & Test Endpoints
Cours

Pour quelles raisons les étudiants sur Coursera nous choisissent-ils pour leur carrière ?

Felipe M.

Étudiant(e) depuis 2018

’Pouvoir suivre des cours à mon rythme à été une expérience extraordinaire. Je peux apprendre chaque fois que mon emploi du temps me le permet et en fonction de mon humeur.’

Jennifer J.

Étudiant(e) depuis 2020

’J'ai directement appliqué les concepts et les compétences que j'ai appris de mes cours à un nouveau projet passionnant au travail.’

Larry W.

Étudiant(e) depuis 2021

’Lorsque j'ai besoin de cours sur des sujets que mon université ne propose pas, Coursera est l'un des meilleurs endroits où se rendre.’

Chaitanya A.

’Apprendre, ce n'est pas seulement s'améliorer dans son travail : c'est bien plus que cela. Coursera me permet d'apprendre sans limites.’

Débloquez l'accès à plus de 10 000 cours grâce à un abonnement
Faites progresser votre carrière avec un diplôme en ligne
Obtenez un diplôme auprès d’universités de renommée mondiale - 100 % en ligne
Rejoignez les 4 700 entreprises internationales qui ont choisi Coursera for Business.

Foire Aux Questions

Yes, you can preview the first video and view the syllabus before you enroll. You must purchase the course to access content not included in the preview.

If you decide to enroll in the course before the session start date, you will have access to all of the lecture videos and readings for the course. You’ll be able to submit assignments once the session starts.

Once you enroll and your session begins, you will have access to all videos and other resources, including reading items and the course discussion forum. You’ll be able to view and submit practice assessments, and complete required graded assignments to earn a grade and a Course Certificate.