Prompt injection e governance dell’IA: come proteggere i flussi di lavoro Microsoft 365 e Power Platform (Doppiaggio IA)

Un chatbot pensato per aiutare i colleghi può, in pochi minuti, proporre azioni distorte o fuorvianti, e basta una frase nascosta in una richiesta per deviare un assistente IA. Questo episodio spiega come funziona la prompt injection e quali misure di governance applicare in Power Platform e Microsoft 365.

Cosa scoprirai:

1. La prompt injection spiegata: perché i modelli di base considerano valida ogni istruzione ben formulata e come i comandi nascosti aggirano le regole di sicurezza
2. Deterministico o non deterministico: flussi Power Platform basati su regole contro copilot generativi, e come il drift può trasformare una decisione di credito da «approvato» a «respinto»
3. AI Act dell’UE: i livelli di rischio minimo, limitato, alto e inaccettabile e cosa richiedono gli usi ad alto rischio come recruiting e valutazione del credito
4. Gli scudi dell’ecosistema Microsoft: Responsible AI Dashboard, prevenzione della perdita di dati, audit trail, test in sandbox e red teaming
5. Creare un comitato di governance: team interfunzionale, audit di equità regolari e, come primo passo, un inventario di tutti i casi d’uso dell’IA

Questo episodio è una versione italiana doppiata con l’IA del video animato di M365 Show del Microsoft MVP Mirko Peters.

Mirko Peters · Microsoft MVP

Mirko Peters è Microsoft MVP, conduttore del podcast M365.FM e promotore della conferenza online gratuita M365Con.

Mirko Peters è Microsoft MVP, conduttore del podcast M365.FM e promotore della conferenza online gratuita M365Con.