Prompt injection

Ein Angriff, bei dem versteckte oder bösartige Anweisungen in einem Dokument, einer Webseite oder E-Mail ein KI-System dazu bringen, seine Regeln zu ignorieren oder Daten preiszugeben. Gegenmaßnahmen sind begrenzte Berechtigungen, gefilterte Eingaben und menschliche Freigaben für sensible Aktionen.

Folgen zu Prompt injection

• Prompt Injection & KI-Governance

Lernpfade: Sicherheit, Identität & Governance

Glossar

• Conditional Access
• Data loss prevention (DLP)
• Governance
• Microsoft Defender
• Microsoft Entra ID
• Microsoft Intune