Prompt Injection
Methode, um KI-Modelle durch gezielte Eingaben (Prompts) zu manipulieren, damit sie unerwünschte Aktionen ausführen oder vertrauliche Informationen pr
Erklärung
Prompt Injection ist eine spezielle Art von Cyberangriff, bei der Angreifer die Eingabeaufforderungen (Prompts) eines KI-Modells so gestalten, dass das Modell Anweisungen ausführt, die nicht im Sinne des ursprünglichen Nutzers oder des Betreibers sind. Dies kann beispielsweise die Übernahme eines Chatbots, das Generieren von Malware-Links oder das Offenlegen von Trainingsdaten umfassen. Für KMU-Entscheider ist es wichtig zu verstehen, dass sorglos genutzte KI-Tools – insbesondere im Kontext von Shadow AI – anfällig für solche Manipulationen sein können, was die IT-Sicherheit gefährdet und ein erhebliches Risiko für Datenexfiltration und Systemintegrität darstellt.