LLM. Il motore dentro gli assistenti AI, spiegato senza gergo.

Un LLM (large language model, cioè modello linguistico di grandi dimensioni) è un programma addestrato su enormi quantità di testo a prevedere il pezzo di testo successivo, e per questo capace di scrivere, riassumere, tradurre e rispondere in linguaggio naturale. È il motore dentro assistenti come ChatGPT, Claude e Gemini.

Questa voce fa parte del glossario dell’AI e dell’automazione, dove ogni termine ha una definizione breve. Qui la definizione si allarga: come funziona un LLM, le quattro parole che servono a capirlo, cosa sa fare in una piccola impresa, dove sbaglia e cosa ne dice la legge europea.

Cos’è un LLM

Un LLM è un modello di intelligenza artificiale addestrato su testi, con miliardi di parametri, che produce testo nuovo a partire da quello che riceve. «Large» si riferisce alla dimensione: la quantità di testo usata per addestrarlo e il numero di parametri, i valori interni aggiustati durante l’addestramento.

L’architettura su cui si basa quasi ogni LLM è il transformer, proposto nel giugno 2017 in un articolo firmato da Ashish Vaswani e colleghi, dal titolo «Attention Is All You Need». Il meccanismo chiave è l’attenzione: il modello decide, parola per parola, a quali altre parti del testo guardare.

Come funziona, in quattro parole

Quattro parole bastano a capire cosa succede dentro un LLM, e ognuna ha una conseguenza pratica per chi lo usa in azienda: quanto costa, cosa sa, cosa ricorda durante un compito, quanto è ripetibile la risposta.

Parola	Cosa vuol dire	Perché vi riguarda
Tokenl’unità di testo	Il pezzo di testo che il modello legge e scrive: una parola, una parte di parola, un segno.	L’uso si paga a token, e la lunghezza di un documento si misura in token.
Addestramentoquando impara	La fase in cui il modello impara dai testi aggiustando i parametri. Avviene prima, una volta, ed è costosa.	Il modello non conosce quello che è successo dopo, né i vostri documenti.
Finestra di contestocosa tiene presente	Quanto testo il modello considera in una volta: la domanda, i documenti allegati, la conversazione.	Quello che non sta nella finestra, per il modello non esiste.
Temperaturaquanto varia	Il parametro che regola quanto la risposta è prevedibile o varia.	Per il lavoro aziendale si tiene bassa: meno fantasia, risposte più ripetibili.

Cosa sa fare in una PMI

Secondo Istat, fra le imprese italiane che usano l’intelligenza artificiale nel 2025, il 70,8% la impiega per estrarre informazioni da documenti di testo e il 59,1% usa l’AI generativa, scritta, parlata o per immagini. Sono i due lavori in cui un LLM rende di più: leggere e scrivere.

In pratica un LLM legge una mail in qualunque lingua e capisce cosa chiede, estrae i dati da un ordine o da una fattura, prepara la bozza di una risposta, di una scheda prodotto o di un’offerta, riassume un documento lungo, traduce mantenendo il tono. La decisione se la bozza va bene resta a una persona.

Dove sbaglia

Un LLM prevede il testo probabile, e il testo probabile può essere falso. Quando non conosce la risposta tende a produrne comunque una plausibile: è l’allucinazione. In un articolo del 5 settembre 2025 OpenAI la attribuisce a procedure di addestramento e valutazione che premiano il tentativo più dell’ammissione di incertezza.

Il secondo limite è la data. Il modello conosce il mondo fino all’addestramento, e non conosce i vostri documenti. Entrambi i limiti si contengono dando al modello le fonti giuste al momento della domanda, con la tecnica chiamata RAG, e mettendo una persona dove l’errore costa: è il human in the loop.

LLM, chatbot e agente

L’LLM è il motore; chatbot e agente sono due modi di usarlo. Un chatbot mette il modello in una conversazione e produce risposte. Un agente gli dà strumenti per agire, come leggere una casella di posta o scrivere in un gestionale. La differenza fra i due è spiegata nella pagina agente AI o chatbot.

Cosa dice l’AI Act

L’AI Act, all’articolo 3, punto 63, definisce il «modello di IA per finalità generali»: un modello addestrato «con grandi quantità di dati utilizzando l’autosupervisione su larga scala», con una generalità significativa e capace di svolgere un’ampia gamma di compiti distinti. I grandi LLM rientrano qui, e gli obblighi principali ricadono su chi li sviluppa.

Per un’azienda che li usa contano soprattutto due regole già in vigore. La formazione del personale, all’articolo 4, dal 2 febbraio 2025, spiegata nella pagina sull’obbligo di formazione. E la trasparenza verso chi parla con un sistema, all’articolo 50, dal 2 agosto 2026.

Come lo usa Itria

Itria usa gli LLM dentro sistemi con regole scritte prima, mai da soli. Nell’Inbox AI il modello legge le richieste e prepara una bozza: su un banco di prova del 4 settembre 2026, 100 richieste in 4 canali e 5 lingue, la bozza era pronta in 7,290 secondi di mediana, con la lingua giusta in 97 casi su 100.

Gli stessi modelli preparano le bozze multilingue ed estraggono i dati nell’inserimento dei documenti. In tutti i casi quello che impegna l’azienda passa da una persona prima dell’invio, e l’elenco dei modelli usati è disponibile su richiesta, come scritto nella pagina sulla trasparenza AI.

Termini correlati

Allucinazioni dell’AI

L’affermazione falsa detta con sicurezza da un modello. Il limite più noto degli LLM, e il più facile da contenere.

RAG

La tecnica che dà al modello i documenti giusti al momento della domanda, perché risponda da quelli.

Prompt

L’istruzione scritta che si dà al modello. La qualità della risposta dipende molto da come è scritta.

Intelligenza artificiale generativa

La famiglia di sistemi che producono testo, immagini o suoni nuovi. Gli LLM ne sono la parte che scrive.

Domande e risposte