Sicherheit
Fortgeschritten
Hybrid
KI-Security Basics: Prompt-Injection, Data Leakage, Model Theft
Die 10 Angriffe auf Ihre KI — und die 10 Verteidigungen
Beschreibung
Praxis-Workshop für IT-Security und DevOps. Deckt OWASP LLM Top 10 ab, mit Live-Demos von Prompt-Injection und Secrets-Leakage. Inklusive einer Red-Team-Uebung im Kleinformat.
Am Ende haben Sie: Ein OWASP-LLM-Risiko-Assessment und einen Guardrails-Implementierungsplan.
Lernziele
- OWASP LLM Top 10 auf eigene Systeme anwenden und priorisieren
- Prompt-Injection live reproduzieren und abwehren
- Guardrails mit LlamaGuard und NeMo aufsetzen und konfigurieren
- Secrets-Management in Prompts und System-Rollen implementieren
- Red-Team-Übung im Kleinformat am eigenen System durchführen