| Inhalt: |
Wer KI in eigene Software integriert, erweitert nicht nur den Funktionsumfang, sondern auch die Angriffsfläche. Viele Risiken verhalten sich dabei anders als klassische Sicherheitslücken, weil sie nicht allein im Code entstehen, sondern in Prompts, Kontextdaten, Modellantworten, angebundenen Systemen und scheinbar harmlosen Benutzereingaben.
In dieser Session zeigt der generative KI Experte & Microsoft MVP für Azure AI und Web App Development Gregor Biswanger, welche Bedrohungen bei KI gestützten Anwendungen entstehen können und warum bekannte Sicherheitsmuster neu gedacht werden müssen. Im Mittelpunkt stehen Prompt Injection, unsichere System Prompts, Jailbreaks, RAG Risiken und falsche Berechtigungen.
Eine Live Demo zeigt, wie ein Bank Chatbot angegriffen werden kann und welche Folgen daraus entstehen. Genau daraus leitet der Vortrag praktische Schutzmaßnahmen ab, darunter Input und Output Filtering, robuste Berechtigungskonzepte und Human in the Loop Ansätze. Am Ende haben Softwareentwickler ein klares Big Picture dafür, worauf es ankommt, wenn sie KI Lösungen in eigene Projekte integrieren und produktiv einsetzen möchten, ohne später böse Überraschungen zu erleben. |