Fermare le allucinazioni dell’IA

Una demo multimodale ben costruita sembra magia: un prompt, un'immagine pulita, magari un comando vocale, e il modello restituisce un grafico perfetto o il riassunto di un contratto. Poi arriva l'azienda reale, con i suoi documenti sfocati e i suoi PDF illeggibili, e l'incanto svanisce.

In questo articolo vediamo perché le allucinazioni dell'IA nascono quasi sempre da dati non preparati e da una governance assente, e come si risolvono con il grounding. Parliamo di RAG con Azure AI Search ibrida e semantica, di valutatori, di agenti e di Azure AI Foundry.

Perché le app multimodali falliscono nel mondo reale

La differenza è semplice: le demo girano su input perfetti, gli ambienti di lavoro girano su materiale scadente. In produzione nessuno fornisce al modello screenshot curati o file CSV formattati da un comitato di standardizzazione. Le risorse umane caricano documenti d'identità sfocati. L'ufficio acquisti trascina dentro PDF che sembrano fax di quinta generazione. In amministrazione qualcuno fotografa una fattura con la fotocamera di un vecchio Android.

I modelli multimodali sanno gestire testo, immagini, voce e video, ma in condizioni disordinate hanno bisogno di dati ben indicizzati e di un buon recupero delle informazioni. Altrimenti si chiede al modello di improvvisare sulla spazzatura. Nessuna spesa in GPU risolve il problema del «garbage in, garbage out».

Il modello inoltre non conosce la tua azienda. Per questo lo si collega a una fonte di conoscenza, ed è esattamente ciò che fa la Retrieval Augmented Generation.

RAG con Azure AI Search: ricerca ibrida e riordinamento semantico

Con la RAG il sistema recupera una porzione di dati e costruisce la risposta attorno a essa. Se la corrispondenza è precisa, le risposte sono utili e fondate. Se è approssimativa, il modello va a braccio e produce assurdità con sicurezza. È così che nasce il chatbot convinto che l'azienda abbia una nuova politica di sconti per il terzo trimestre, che in realtà non esiste. Non è diventato senziente: ha semplicemente estratto i dati sbagliati.

Azure AI Studio e Azure AI Foundry si basano entrambi su questo schema e supportano diverse modalità: linguaggio, visione, voce e persino recupero video. Ma la RAG vale quanto i dati su cui poggia, e non basta inserire un metodo di recupero qualsiasi.

Ricerca ibrida e riordinatore semantico

Per ottenere risultati coerenti serve una ricerca ibrida, che combina parole chiave e vettori, completata dal riordinatore semantico integrato in Azure AI Search. Il sistema bilancia così le corrispondenze letterali con il significato e riordina i risultati, portando in cima il contesto corretto. Inserito in una configurazione multimodale, questo approccio aiuta il modello a gestire scansioni storte e immagini sfocate, invece di inventare dal nulla una policy di conformità.

Valutatori: fondatezza, pertinenza, coerenza

Molte implementazioni falliscono perché le aziende pretendono risultati perfetti dal primo giorno ma non stanziano budget per i cicli di valutazione. Senza controlli in background su fondatezza, pertinenza e coerenza, lo scostamento emerge solo quando gli utenti ne subiscono le conseguenze. L'output sembra corretto, ma nessuno l'ha verificato. Eppure nessuno metterebbe in produzione un nuovo database senza monitoraggio.

Carvana mostra che si può fare diversamente. Ha reso l'IA self-service davvero utile ottimizzando il recupero, ancorando correttamente i propri agenti e investendo nell'osservabilità. Così ha trasformato quello che poteva essere l'ennesimo bot giocattolo in qualcosa di cui i clienti potevano fidarsi. Al contrario, c'è chi ha incollato un chatbot generico alla pagina di supporto, senza grounding né valutazione: richieste di garanzia scambiate per opportunità di vendita, code di assistenza intasate e credibilità compromessa. Lo stack tecnologico era lo stesso, il risultato opposto.

La multimodalità non crolla perché l'IA non è abbastanza intelligente, ma perché i dati non sono preparati, indicizzati o monitorati.

Agenti e agenti autonomi: utili o costosi fermacarte?

Un agente coordina modelli, dati, trigger e azioni: è un po' il vigile urbano dei flussi di lavoro automatizzati. A volte dirige tutto senza intoppi, altre volte combina disastri. Sulla carta basta dargli istruzioni e puntarlo verso dati e app. Nella pratica può risolvere un problema ricorrente alle due di notte, oppure creare una coda di ticket fantasma perché ha letto male un registro errori.

Un esempio con ServiceNow: se ben limitato, l'agente crea ticket solo per problemi autentici e restituisce ore preziose alle persone. Se lasciato libero, può seppellire il desk sotto una valanga di falsi allarmi.

Copilot e agenti non sono la stessa cosa

Copilot è fondamentalmente un assistente per i prompt: tu chiedi, lui risponde, e il controllo resta a te. Gli agenti invece decidono senza aspettarti e seguono alla lettera istruzioni vaghe, anche quando i risultati non hanno senso. Molti team scrivono per il proprio agente una descrizione del lavoro simile a una promessa elettorale («ottimizzare i processi, fornire insight, aiutare le persone»). Senza limiti, gli agenti inventano problemi da risolvere, duplicano record e si bloccano in loop infiniti.

Gli strumenti Microsoft e la lista di controllo

Copilot Studio è lo spazio low-code in cui si progetta il comportamento dell'agente, con flussi di prompt e trigger di eventi. Azure AI Foundry Agent Service è l'impalcatura aziendale che porta gli agenti in produzione con osservabilità: monitoraggio, log e metriche, in un'ottica di automazione con supervisione umana. Per capire se un agente è davvero utile, poniti tre domande:

1. Riduce le ore di lavoro umano o trascina il personale in attività di debugging?
2. Stai raccogliendo metriche come fondatezza, fluidità e coerenza, o guardi solo dashboard da marketing?
3. Hai una telemetria attiva per individuare le derive prima che gli utenti inizino a lamentarsi?

Se una risposta è negativa, hai un costoso salvaschermo, non un agente utile.

La trappola dell'agente autonomo

Gli agenti autonomi non aspettano un prompt: monitorano la salute dei servizi, gestiscono segnali di sicurezza ed eseguono flussi di lavoro in automatico. I copiloti si fermano e attendono, gli agenti autonomi no. Quando sbagliano, il danno è immediato e si propaga nell'intero tenant. Gli agenti autonomi in Copilot Studio sono ancora in anteprima, e la stessa Microsoft indica la necessità di governance del ciclo di vita e di controlli di console prima di una distribuzione su larga scala.

Un rischio realistico: un agente di helpdesk autonomo con l'autorità di rispondere alle anomalie di accesso funziona bene in una demo con cinque utenti. In produzione, con più rumore, potrebbe iniziare a resettare in massa centinaia di account per falsi positivi, bloccando magari le operazioni di fine mese.

Azure AI Foundry: fabbrica o campo minato

Foundry è la «fabbrica» di Microsoft per tutto ciò che riguarda l'IA. Offre:

• un catalogo di modelli che spazia tra Microsoft, OpenAI, Meta, Mistral, DeepSeek e altri;
• opzioni di personalizzazione come RAG, fine tuning e distillazione;
• un servizio di orchestrazione degli agenti;
• strumenti come prompt flow per valutazione e debug;
• funzioni di sicurezza: controlli di accesso, filtri di content safety e dashboard di osservabilità.

Il problema non è la mancanza di strumenti, ma l'idea che basti attivare un modello come GPT-4 Turbo per essere pronti alla produzione. Usare Foundry bene significa definire i confini di identità, integrare la sicurezza dei contenuti in ogni pipeline e usare l'osservabilità per distinguere una risposta basata sui fatti da una politica aziendale inventata.

Due casi dal campo

Un team ha collegato un copilot di Foundry a SharePoint ed è riuscito a esporre dati riservati delle risorse umane a 20 stagisti: un disastro di conformità evitabile con regole di accesso adeguate. In un'altra organizzazione, GPT-4 Turbo era stato usato per etichettare foto di prodotto. In laboratorio, con immagini da studio, tutto perfetto. In produzione le foto erano sfocate, scattate col telefono in magazzino, e l'IA ha etichettato male alcuni elementi e trasformato codici UPC in numeri di serie falsi.

Il prezzo basato sul consumo

Il prezzo di Foundry è a consumo ed è legato ai servizi che utilizzi: ogni connettore, ogni chiamata di recupero, ogni contatore di messaggi viene addebitato sul tenant. La flessibilità è un vantaggio, ma senza stime con il calcolatore dei prezzi di Azure e senza monitoraggio dell'uso la fattura può riservare brutte sorprese.

IA responsabile: governance, filtri e ciclo di vita

«IA responsabile» fa bella figura in una slide, ma sul campo significa configurazioni, audit, filtri e procedure di governance, più simili alla manutenzione dei server che all'innovazione. È la cintura di sicurezza, non l'auto sportiva. In pratica servono policy di accesso che reggano sotto pressione, filtri che blocchino davvero i prompt dannosi e log abbastanza dettagliati da soddisfare un ispettore. Significa isolare i copiloti dai dati finanziari, impostare regole di ambito perché i team non vedano i segreti di SharePoint e taggare i log per dimostrare come è nata una risposta.

Il rischio è concreto: un bot collegato direttamente a un repository SharePoint senza delimitare il tenant, a una domanda sui benefit assicurativi, pubblica nella chat le fasce salariali dei dipendenti. Il risultato è una violazione della privacy e un danno di fiducia. Il modo più rapido per uccidere l'adozione è la fuga di dati sensibili.

Cosa mettere in campo

Il punto di partenza è Azure AI Content Safety, che filtra prompt e risposte violente o offensive prima che arrivino agli utenti. È però solo l'igiene di base. Il livello successivo sono le pipeline di valutazione: controlli di fondatezza, punteggi di pertinenza, dashboard di trasparenza e spiegabilità, con soglie regolabili e filtri su input e output.

Microsoft investe molto: 34.000 ingegneri a tempo pieno dedicati alla sicurezza e 15.000 partner con competenze specifiche. Ma nessuno di loro lavora dentro il tuo tenant a definire le tue regole. Blindare l'identità, isolare i dati, applicare la crittografia e configurare le policy resta compito tuo.

La governance del ciclo di vita segue una ricetta semplice: testa, approva, rilascia, controlla, itera. Chi rilascia una volta e poi abbandona il sistema finisce per esplodere, perché i modelli evolvono, i prompt cambiano e gli output deviano. La governance non è burocrazia: responsabile non significa lento, significa impedire che la velocità ti metta fuori strada. Come i guardrail sui tornanti di montagna, perimetri, policy, filtri e log non frenano la corsa, ti tengono lontano dal precipizio.

Errori frequenti e stolpersteine

• Trattare Foundry o Copilot Studio come plug and play, saltando identità e osservabilità.
• Affidarsi a un recupero approssimativo, senza ricerca ibrida e riordinamento semantico.
• Non prevedere budget per le valutazioni di fondatezza, pertinenza e coerenza.
• Dare agli agenti istruzioni vaghe e ambiti troppo ampi, magari con privilegi da amministratore.
• Portare in produzione un prototipo senza pipeline di valutazione: gli utenti notano la deriva, la fiducia cala e i fondi vengono tagliati.
• Ignorare i costi a consumo e non monitorare l'uso.
• Testare solo con dati puliti, mentre in produzione arrivano foto sfocate e scansioni storte.
• Aggiungere sicurezza dei contenuti e ambito dell'identità solo alla fine, invece di considerarli parte del pacchetto base.

Takeaway pratici

• Cura, indicizza e monitora i dati prima di pensare al modello: è lì che si decide la qualità delle risposte.
• Usa Azure AI Search con ricerca ibrida (parole chiave e vettori) e semantic re-ranking prima di andare live.
• Esegui i valutatori integrati su ogni test e attiva l'osservabilità di Azure AI Foundry fin dal primo giorno.
• Limita gli agenti: diritti minimi di identità e accesso, niente ruoli di amministrazione totale.
• Registra ogni azione e prevedi un rollback per quelle importanti.
• Applica filtri su contenuto e comportamento con Azure AI Content Safety.
• Mantieni l'intervento umano come dispositivo di sicurezza, soprattutto per gli agenti autonomi ancora in anteprima.
• Stima i costi con il calcolatore dei prezzi di Azure e controlla l'uso nel tempo.
• Adotta un ciclo continuo: testa, approva, rilascia, controlla, itera.

Conclusione

Le allucinazioni dell'IA non sono un destino inevitabile, ma il sintomo di dati non preparati, di recupero approssimativo e di controlli mancanti. Con una RAG ancorata ai dati tramite Azure AI Search ibrida e semantica, valutatori costanti e agenti ben delimitati, anche fatture, contratti e immagini imperfette producono risposte aderenti alla realtà. Gli strumenti ci sono, ma solo la governance trasforma un prototipo in un sistema di produzione affidabile: prima la governance, poi la sperimentazione, infine la produzione.