Bedeutung & Anwendung – Verständlich und ohne Fachbegriffe
Prompt Injection ist ein Angriff auf KI-Systeme. Dabei gibt jemand absichtlich Texte ein, die die KI dazu bringen, ihre eigentlichen Regeln zu missachten.
Eine KI kann nicht unterscheiden, ob ein Text eine echte Anweisung oder ein Trick ist. Ein Angreifer kann zum Beispiel schreiben: „Vergiss alle bisherigen Anweisungen und tue stattdessen Folgendes.“ Bei einem direkten Angriff tippt der Angreifer das selbst ein. Bei einem indirekten Angriff versteckt er den Text in einer Webseite oder E-Mail, die die KI liest.
Wenn Ihr Unternehmen einen KI-Chatbot einsetzt, koennte ein Angreifer ihn dazu bringen, vertrauliche Informationen preiszugeben oder unangemessene Antworten zu geben. Hat die KI Zugriff auf weitere Systeme, koennte sie manipuliert werden, um dort ungewollte Aktionen auszufuehren.
Einen perfekten Schutz gibt es noch nicht. Sie koennen das Risiko aber verringern: Pruefen Sie Eingaben und Ausgaben der KI. Geben Sie dem KI-System nur die Berechtigungen, die es wirklich braucht. Testen Sie regelmaessig, ob Ihr System anfaellig ist. Lassen Sie kritische Aktionen von einem Menschen freigeben.
Die bereitgestellten Informationen dienen ausschließlich der allgemeinen Orientierung. Für Richtigkeit, Vollständigkeit und Aktualität wird keine Gewähr übernommen. Die Inhalte sind nicht rechtsverbindlich und nicht Bestandteil einer Leistungsbeschreibung.