Prompt injection

Konzept

Ein Angriff, bei dem versteckte oder bösartige Anweisungen in einem Dokument, einer Webseite oder E-Mail ein KI-System dazu bringen, seine Regeln zu ignorieren oder Daten preiszugeben. Gegenmaßnahmen sind begrenzte Berechtigungen, gefilterte Eingaben und menschliche Freigaben für sensible Aktionen.

Typ	Konzept

Glossar: Prompt injection

Verwandt mit

AI agent · Konzept
Prompt · Konzept

Folgen zu Prompt injection

Prompt Injection & KI-Governance

Community-Wiki

Oben die Kurzinfo, unten das Wissen der Community: ergänze praktische Tipps, Beispiele oder Korrekturen. Neue Beiträge werden zuerst geprüft, bewährte Mitglieder veröffentlichen direkt.

Experten und Firmen zu diesem Thema

Dieses Thema hat noch niemand im Profil angegeben. Trag es in deinem Profil ein.