In dieser Episode sprechen Richard Seidl und Jan Jürgens über Sicherheitstests in KI‑Systemen. Die beiden beleuchten Herausforderungen rund um selbstlernende Software, diskutieren typische Angriffsflächen und wie sich manipulierte Trainingsdaten oft schwer erkennen lassen. Jan gibt Einblicke in praktische Schutzmechanismen und betont die Wichtigkeit intensiver Tests, etwa durch Penetrationstests und Filter für sensible Anfragen.
Highlights:
- KI-Modelle sind eine Blackbox: Du weißt vorher nicht, wie sie sich verhalten werden.
- Angreifer können über clevere Prompts geschützte Daten aus KI-Systemen extrahieren.
- OWASP bietet Top-10-Kataloge und Security Guides speziell für KI-basierte Systeme.
- Filter auf Output-Ebene sind effektiver als Versuche, alle Input-Varianten abzufangen.
- Wer KI unternehmerisch nutzt, ist Betreiber – und trägt Verantwortung laut KI-Verordnung.
((um das Video zu sehen, muss in den Cookies den Statistiken zugestimmt werden))
-> zum Video-Podcast in voller Länge
