When will I have access to the lectures and assignments?

To access the course materials, assignments and to earn a Certificate, you will need to purchase the Certificate experience when you enroll in a course. You can try a Free Trial instead, or apply for Financial Aid. The course may offer 'Full Course, No Certificate' instead. This option lets you see all course materials, submit required assessments, and get a final grade. This also means that you will not be able to purchase a Certificate experience.

What will I get if I subscribe to this Specialization?

When you enroll in the course, you get access to all of the courses in the Specialization, and you earn a certificate when you complete the work. Your electronic Certificate will be added to your Accomplishments page - from there, you can print your Certificate or add it to your LinkedIn profile.

Is financial aid available?

Yes. In select learning programs, you can apply for financial aid or a scholarship if you can’t afford the enrollment fee. If fin aid or scholarship is available for your learning program selection, you’ll find a link to apply on the description page.

Introduction to Prompt Injection Vulnerabilities

Ce cours n'est pas disponible en Français (France)

Nous sommes actuellement en train de le traduire dans plus de langues. Consultez les langues disponibles.

Introduction to Prompt Injection Vulnerabilities

Ce cours fait partie de Spécialisation "Data Privacy, Ethics, and Responsible AI"

Instructeurs : Kevin Cardwell

1 841 déjà inscrits

Inclus avec

1 module

Obtenez un aperçu d'un sujet et apprenez les principes fondamentaux.

20 avis

niveau Débutant

Expérience recommandée

4 heures à compléter

Planning flexible

Apprenez à votre propre rythme

1 module

Obtenez un aperçu d'un sujet et apprenez les principes fondamentaux.

20 avis

niveau Débutant

Expérience recommandée

4 heures à compléter

Planning flexible

Apprenez à votre propre rythme

Ce que vous apprendrez

Analyze and discuss various attack methods targeting Large Language Model (LLM) applications.
Demonstrate the ability to identify and comprehend the primary attack method, Prompt Injection, used against LLMs.
Evaluate the risks associated with Prompt Injection attacks and gain an understanding of the different attack scenarios involving LLMs.
Formulate strategies for mitigating Prompt Injection attacks, enhancing their knowledge of security measures against such threats.

Compétences que vous acquerrez

Catégorie : Threat Modeling
Catégorie : Network Security
Catégorie : Vulnerability Assessments
Catégorie : Cyber Security Assessment
Catégorie : LLM Application
Catégorie : Large Language Modeling
Catégorie : AI Security
Catégorie : Cybersecurity
Catégorie : Application Security
Catégorie : Security Testing
Catégorie : Exploitation techniques

Outils que vous découvrirez

Catégorie : Prompt Engineering

Détails à connaître

Certificat partageable

Ajouter à votre profil LinkedIn

Évaluations

4 affectations¹

Noté par l'IA voir l'avis de non-responsabilité

Enseigné en Anglais

91%

of learners achieved a positive career outcome

Découvrez comment les employés des entreprises prestigieuses maîtrisent des compétences recherchées

En savoir plus sur Coursera pour les affaires

logos de Petrobras, TATA, Danone, Capgemini, P&G et L'Oreal

Élaborez votre expertise du sujet

Ce cours fait partie de la Spécialisation "Data Privacy, Ethics, and Responsible AI"

Lorsque vous vous inscrivez à ce cours, vous êtes également inscrit(e) à cette Spécialisation.

Apprenez de nouveaux concepts auprès d'experts du secteur
Acquérez une compréhension de base d'un sujet ou d'un outil
Développez des compétences professionnelles avec des projets pratiques
Obtenez un certificat professionnel partageable

Il y a un module dans ce cours

In this course, we enter the space of Prompt Injection Attacks, a critical concern for businesses utilizing Large Language Model systems in their AI applications. By exploring practical examples and real-world implications, such as potential data breaches, system malfunctions, and compromised user interactions, you will grasp the mechanics of these attacks and their potential impact on AI systems.

As businesses increasingly rely on AI applications, understanding and mitigating Prompt Injection Attacks is essential for safeguarding data and ensuring operational continuity. This course empowers you to recognize vulnerabilities, assess risks, and implement effective countermeasures. This course is for anyone who wants to learn about Large Language Models and their susceptibility to attacks, such as AI Developers, Cybersecurity Professionals, Web Application Security Analysts, AI Enthusiasts. Learners should have knowledge of computers and their usage as part of a network, as well as familiarity with fundamental cybersecurity concepts, and proficiency in using command-line interfaces (CLI). Prior experience with programming languages (Python, JavaScript, etc.) is beneficial but not mandatory. By the end of this course, you will be equipped with actionable insights and strategies to protect your organization's AI systems from the ever-evolving threat landscape, making you an asset in today's AI-driven business environment.

Détails du module

Inclus

17 vidéos6 lectures4 devoirs

17 vidéosTotal 103 minutes

Welcome and Meet Your Instructor 5 minutes
Define Large Language Models (LLM)7 minutes
Example LLM Application10 minutes
Demonstration: LLM Capabilities2 minutes
Exploring the OWASP Top 1011 minutes
Identifying LLM Attack Methods10 minutes
LLM Attack8 minutes
Ultimate Black Box Technology7 minutes
Security Testing Challenges5 minutes
Demonstration: Prompt Injection Risk4 minutes
Passive and Active Methods4 minutes
Concatenation of Prompts8 minutes
Demonstration: Prompt Injection Attack Techniques4 minutes
Principle of Least Services and Privileges5 minutes
Human Loop6 minutes
Segregation and Isolation4 minutes
Demonstration: Segregation3 minutes

6 lecturesTotal 30 minutes

Welcome to the Course: Course Overview5 minutes
Universal and Transferable Adversarial Attacks5 minutes
OWASP Top 10 for LLMs: An Overview with SOCRadar5 minutes
Prompt Injections: How Can We Protect Against Them?5 minutes
AI Prompts5 minutes
Network Segregation and Segmentation 5 minutes

4 devoirsTotal 114 minutes

OWASP Top 10 for LLMs Analysis30 minutes
Prompt Injection Attack Techniques Analysis30 minutes
Prompt Injection Security Assessment30 minutes
Final Assessment24 minutes

Obtenez un certificat professionnel

Ajoutez ce titre à votre profil LinkedIn, à votre curriculum vitae ou à votre CV. Partagez-le sur les médias sociaux et dans votre évaluation des performances.