Allucinazioni dell’AI. Quando un modello inventa, e lo dice con la stessa sicurezza del vero.

Un’allucinazione è un’affermazione falsa prodotta da un modello di intelligenza artificiale con la stessa fluidità e sicurezza di una vera: un dato, una citazione, una norma, un prezzo che non esistono. Il rischio sta nella sicurezza con cui viene detta.

Questa voce fa parte del glossario dell’AI e dell’automazione, dove il termine compare come allucinazione. Qui la definizione si allarga: cosa sono, perché un modello inventa, quanto spesso succede secondo le misure pubblicate, chi ne risponde, e cosa le rende rare.

Cosa sono le allucinazioni

In un articolo del 5 settembre 2025 OpenAI definisce le allucinazioni come «plausible but false statements generated by language models», affermazioni plausibili ma false generate dai modelli linguistici. Possono riguardare qualunque cosa: una data, un nome, una norma, il titolo di un libro, un numero in un documento che il modello doveva soltanto leggere.

L’esempio usato dagli stessi autori è istruttivo. Alla domanda sul titolo della tesi di dottorato di uno di loro, un chatbot molto diffuso ha dato con sicurezza tre risposte diverse, tutte sbagliate; alla domanda sulla sua data di nascita, tre date diverse, anche quelle tutte sbagliate.

Perché un modello inventa

Un LLM impara a prevedere la parola successiva su enormi quantità di testo, e in quei testi nessuna etichetta dice cosa è vero e cosa è falso. Le regolarità, come l’ortografia, si imparano bene. I fatti rari e arbitrari, come la data di nascita di una persona poco nota, non si deducono da nessuna regolarità, e lì il modello tira a indovinare.

La seconda causa sta nelle valutazioni. Secondo OpenAI la maggior parte dei test misura solo le risposte giuste, e dire «non lo so» vale zero punti: come in un quiz a crocette, conviene tentare. Un modello addestrato a far bene in quei test impara a rispondere sempre, anche quando non sa.

Quanto sbagliano: le misure pubblicate

Le misure pubblicate cambiano molto con il compito e con la possibilità di astenersi, e nessuna è una previsione sul vostro caso. Messe insieme, dicono dove sta il rischio: nelle domande a cui il modello non sa rispondere e a cui risponde lo stesso.

Misura	Cosa ha trovato	Su quale compito
OpenAIsettembre 2025	Un modello che si astiene sul 52% delle domande sbaglia il 26%; uno che si astiene sull’1% sbaglia il 75%.	Domande con una sola risposta giusta, del test SimpleQA.
Stanford RegLab2024	Tre strumenti di ricerca giuridica venduti come privi di allucinazioni sbagliano fra il 17% e il 33% delle volte.	Domande di diritto statunitense, con i documenti a disposizione del sistema.
Itriabanco del 4 settembre 2026	Un PDF illeggibile, inserito apposta in un lotto di 30 documenti, messo da parte come «altro» senza un campo inventato.	Estrazione di dati da ordini, bolle e fatture.

La prima riga contiene la lezione più utile. I due modelli di OpenAI danno quasi la stessa quota di risposte giuste, 22% contro 24%, ma il primo sbaglia 26 volte su cento invece di 75, perché quando non sa si astiene. In un’azienda un «non lo so» costa una domanda girata a un collega; una risposta inventata può costare un cliente.

Chi ne risponde: un caso deciso in tribunale

Il 14 febbraio 2024 il Civil Resolution Tribunal della British Columbia, in Canada, ha deciso il caso Moffatt contro Air Canada. Il chatbot sul sito della compagnia aveva dato a un cliente un’informazione sbagliata su una tariffa agevolata per lutto, e la compagnia sosteneva di non poter rispondere di quanto detto dal chatbot.

Il tribunale ha respinto la tesi, al paragrafo 27: «It should be obvious to Air Canada that it is responsible for all the information on its website. It makes no difference whether the information comes from a static page or a chatbot». La compagnia è stata condannata a rimborsare la differenza di prezzo. Quello che dice il vostro assistente, per il cliente, lo dite voi.

Si possono evitare?

Si possono rendere rare, e la chiave è l’astensione. OpenAI lo scrive così: l’accuratezza non arriverà mai al 100%, perché alcune domande reali non hanno una risposta ricavabile, ma le allucinazioni non sono inevitabili, perché un modello può astenersi quando non è sicuro. In un sistema aziendale servono tre accorgimenti.

Le fonti giuste al momento della domanda. Un sistema che risponde dai documenti dell’azienda, con la tecnica chiamata RAG, può dire da quale documento viene ogni risposta, e chi la legge può controllarla.

Il permesso di dire «non lo so». Il sistema va costruito perché, quando manca una fonte, si fermi e passi la domanda a una persona, invece di completare comunque la risposta.

Una persona dove l’errore costa. Prezzi, condizioni, scadenze e tutto ciò che impegna l’azienda passano da un human in the loop prima dell’invio.

Come le gestisce Itria

Nei sistemi di Itria la regola si scrive prima del codice: quando manca una prova, il sistema si ferma e avvisa una persona. Sul banco del 4 settembre 2026 il documento illeggibile inserito apposta è stato messo da parte come «altro», senza un solo campo inventato, e sull’intero lotto i campi estratti giusti sono stati 234 su 237.

Il chatbot su base di conoscenza risponde dai documenti approvati dall’azienda e dichiara di essere un sistema. I principi sono scritti in Etica, e qui conta soprattutto il terzo: la macchina prepara, ma decide sempre una persona.

Termini correlati

LLM

Il modello linguistico che produce il testo, e con il testo le allucinazioni. Capire come funziona spiega perché inventa.

Human in the loop

La persona che approva prima dell’invio. È l’ultima difesa, e va messa dove l’errore costa.

RAG

La tecnica che dà al modello i documenti giusti al momento della domanda, perché risponda da quelli.

Base di conoscenza

L’insieme dei documenti approvati da cui un sistema può rispondere. Se è vecchia, le risposte sbagliano anche senza allucinazioni.

Domande e risposte