Bedeutung & Anwendung – Verständlich und ohne Fachbegriffe
Red Teaming bedeutet, ein System absichtlich anzugreifen, um Schwachstellen zu finden. Bei KI-Systemen versuchen Experten, das Modell zu Fehlverhalten zu bringen.
Tester geben der KI schwierige oder trickreiche Eingaben. Sie versuchen zum Beispiel, die KI dazu zu bringen, falsche Informationen zu erzeugen, Sicherheitsregeln zu umgehen oder schaedliche Inhalte auszugeben. So werden Probleme gefunden, bevor echte Nutzer oder Angreifer sie entdecken.
Der Begriff stammt aus dem Militaer. Dort hat ein „rotes Team“ den Gegner gespielt, um die eigene Strategie zu testen. Spaeter wurde das Prinzip in der IT-Sicherheit uebernommen. Seit KI-Systeme weit verbreitet sind, wird Red Teaming auch dort eingesetzt.
Wenn Sie KI-Systeme einsetzen, sollten Sie diese vorher testen. Red Teaming hilft, Risiken zu erkennen. Der EU AI Act verlangt fuer bestimmte KI-Systeme eine Risikobewertung. Red Teaming ist eine bewaehrte Methode dafuer. Es sollte regelmaessig wiederholt werden, nicht nur einmal.
Die bereitgestellten Informationen dienen ausschließlich der allgemeinen Orientierung. Für Richtigkeit, Vollständigkeit und Aktualität wird keine Gewähr übernommen. Die Inhalte sind nicht rechtsverbindlich und nicht Bestandteil einer Leistungsbeschreibung.