Human in the loop. Il punto in cui una persona può fermare la macchina.
Human in the loop (HITL, letteralmente «una persona nel ciclo») indica un sistema automatico in cui una persona può intervenire in ogni ciclo di decisione: legge la proposta, la approva, la corregge o la ferma prima che l’azione abbia effetto. È la forma più stretta di controllo umano sull’intelligenza artificiale.
Le linee guida etiche della Commissione europea del 2019 distinguono tre livelli: human in the loop, con intervento su ogni decisione; human on the loop, con sorveglianza durante il funzionamento; human in command, con il controllo sull’uso del sistema nel suo complesso.
L’AI Act lo rende un requisito per i sistemi ad alto rischio, con l’articolo 14 sulla sorveglianza umana, applicabile dal 2 dicembre 2027 ai sistemi dell’allegato III.
In una PMI la domanda pratica è dove mettere la persona: su ogni messaggio che impegna l’azienda, oppure una volta sola, prima, sul contenuto che il sistema userà.
Questa voce fa parte del glossario dell’AI e dell’automazione, dove il termine compare come supervisione umana. Qui la definizione si allarga: da dove viene, i tre livelli di controllo, cosa chiedono l’AI Act e il GDPR, e come si decide dove mettere la persona.
Cosa significa human in the loop
Le linee guida etiche per un’IA affidabile, pubblicate l’8 aprile 2019 dal gruppo di esperti della Commissione europea, lo definiscono così: l’approccio HITL «prevede la possibilità di intervento umano in ogni ciclo decisionale del sistema». La stessa frase aggiunge che in molti casi quell’intervento non è né possibile né auspicabile.
Il ciclo decisionale è il giro completo di una decisione automatica: il sistema riceve un dato, propone un’azione, l’azione produce un effetto. Human in the loop vuol dire che fra la proposta e l’effetto c’è una persona con il potere di dire sì, no, o di modificare. Una persona che guarda senza quel potere resta fuori dal ciclo.
I tre livelli: in the loop, on the loop, in command
Le linee guida, al paragrafo 65, descrivono tre livelli di controllo umano, dal più stretto al più largo. Fra l’uno e l’altro cambiano due cose: quando interviene la persona, e su cosa. La scelta dipende dal rischio: più l’errore costa, più la persona va messa vicino alla singola decisione.
| Livello | Cosa fa la persona | Un esempio in una PMI |
|---|---|---|
| Human in the loopHITL, nel ciclo | Approva o corregge ogni singola decisione prima che abbia effetto. |
Il preventivo preparato dal sistema parte solo dopo che il titolare lo ha letto. |
| Human on the loopHOTL, sopra il ciclo | Interviene sulla progettazione e sorveglia il funzionamento, senza approvare ogni azione. |
Le risposte su orari e disponibilità partono da sole; una persona legge il registro e interviene sulle eccezioni. |
| Human in commandHIC, al comando | Decide se, quando e come usare il sistema, e può ignorarne una decisione. |
Il titolare spegne le risposte automatiche nella settimana in cui cambiano i prezzi. |
Cosa chiede la legge
L’articolo 14 dell’AI Act, il Regolamento (UE) 2024/1689, chiede che i sistemi ad alto rischio possano essere «efficacemente supervisionati da persone fisiche» durante l’uso. Chi sorveglia deve poterne capire capacità e limiti, decidere di non usarlo, ignorarne o ribaltarne l’output, e interromperlo con un pulsante di arresto o una procedura analoga.
Le misure sono «commisurate ai rischi, al livello di autonomia e al contesto di utilizzo», dice il paragrafo 3: la legge non impone un’approvazione su ogni singola decisione. Dopo il Regolamento (UE) 2026/1744 questi obblighi si applicano dal 2 dicembre 2027 ai sistemi ad alto rischio dell’allegato III, come la selezione del personale. Il calendario completo è nella pagina sulle scadenze dell’AI Act.
Il GDPR, all’articolo 22, contiene una regola più vecchia: l’interessato ha il diritto di non essere sottoposto a una decisione «basata unicamente sul trattamento automatizzato» che produca effetti giuridici o incida in modo analogo sulla sua persona. Dove una decisione automatica tocca una persona, quindi, il controllo umano va progettato prima dell’uso.
Il rischio che la legge nomina: la distorsione dell’automazione
L’articolo 14 nomina un rischio preciso, la «distorsione dell’automazione»: la tendenza a fare affidamento automatico, o eccessivo, su quello che il sistema propone. Una persona che approva cento bozze al giorno finisce per approvarle senza leggerle. A quel punto sta nel ciclo solo sulla carta, e il controllo umano si svuota senza che nessuno lo abbia deciso.
Il rischio ha una misura. Il gruppo RegLab dell’Università di Stanford ha valutato tre strumenti di ricerca giuridica venduti come privi di allucinazioni, e ha trovato che sbagliano fra il 17% e il 33% delle volte. Chi approva senza leggere, in quel caso, firma anche gli errori.
Per questo il punto di approvazione va messo dove la persona ha il tempo di guardare: sui messaggi che impegnano l’azienda, sui prezzi, sui soldi, su quello che non si può ritirare. Sul resto conviene la sorveglianza, cioè human on the loop: un controllo a campione e un registro degli eventi che si legge in pochi minuti.
Come si decide dove mettere la persona
La decisione si prende in due tempi. Prima si scrive l’elenco delle azioni che il sistema può compiere, una per una. Poi, per ognuna, si decide chi approva e quando: ogni volta, oppure una volta sola sul contenuto, prima che il sistema lo usi. Un’offerta con un prezzo sta nel primo gruppo, l’orario di apertura nel secondo.
Il criterio più semplice è il costo dell’errore. Se un errore si ripara con una mail di scuse, basta la sorveglianza. Se costa un cliente, una sanzione o denaro uscito dal conto, serve una persona prima dell’invio. È anche la regola più facile da spiegare a chi in azienda dovrà approvare.
La domanda riguarda sempre più imprese. Secondo Istat, nel 2025 usa almeno una tecnologia di intelligenza artificiale il 16,4% delle imprese italiane con almeno 10 addetti, contro l’8,2% del 2024 e il 5,0% del 2023. Fra le grandi imprese la quota è 53,1%.
Come lo applica Itria
È il terzo dei sei principi scritti in Etica: «La macchina prepara, ma decide sempre una persona». L’approvazione c’è sempre, e cambia il momento in cui arriva. Una risposta costruita su informazioni che il titolare ha già approvato può partire da sola; tutto ciò che impegna l’azienda o tocca il denaro aspetta una persona, messaggio per messaggio.
Le risposte che partono da sole dichiarano di essere un sistema, come chiede l’articolo 50 dell’AI Act dal 2 agosto 2026. L’elenco dei sistemi che usiamo, con il livello di supervisione umana di ognuno, è disponibile su richiesta, come scritto nella pagina sulla trasparenza AI.
Termini correlati
Allucinazioni dell’AI
L’affermazione falsa prodotta con sicurezza da un modello. È il motivo più concreto per tenere una persona prima dell’invio.
Workflow
Il flusso di lavoro con le sue regole. Il punto di approvazione umana è un passaggio del workflow, e si disegna insieme agli altri.
AI Act
Il regolamento europeo sull’intelligenza artificiale, che classifica gli usi per livello di rischio.
Traccia di controllo
Il registro di chi ha fatto cosa e quando. Senza traccia, la sorveglianza umana non si può dimostrare.
Domande e risposte
Cosa significa human in the loop?
Human in the loop, abbreviato HITL, indica un sistema automatico in cui una persona può intervenire in ogni ciclo decisionale: legge la proposta del sistema e la approva, la corregge o la ferma prima che abbia effetto.
Le linee guida etiche della Commissione europea del 2019 lo definiscono come la possibilità di intervento umano in ogni ciclo decisionale del sistema.
Quali sono i tre livelli di controllo umano sull’intelligenza artificiale?
Le linee guida etiche della Commissione europea, al paragrafo 65, ne descrivono tre. Human in the loop: intervento umano in ogni ciclo decisionale. Human on the loop: intervento durante la progettazione e sorveglianza del funzionamento, senza approvare ogni singola azione.
Human in command: controllo sull’uso del sistema nel suo complesso, con la capacità di decidere quando usarlo, non usarlo o ignorarne una decisione.
Che differenza c’è fra human in the loop e human on the loop?
Nel primo caso la persona approva ogni singola decisione prima che abbia effetto: il preventivo parte solo dopo che qualcuno lo ha letto. Nel secondo il sistema agisce da solo entro regole decise prima, e la persona sorveglia il funzionamento e interviene sulle eccezioni.
Il primo conviene dove l’errore costa caro, il secondo dove le azioni sono tante e il singolo errore si corregge facilmente.
L’AI Act obbliga a mettere una persona nel ciclo?
Per i sistemi ad alto rischio l’articolo 14 del Regolamento (UE) 2024/1689 chiede che possano essere supervisionati efficacemente da persone fisiche, con misure commisurate al rischio, al livello di autonomia e al contesto.
Dopo il Regolamento (UE) 2026/1744 l’obbligo si applica dal 2 dicembre 2027 per i sistemi dell’allegato III. La maggior parte dei sistemi di una PMI non è ad alto rischio.
Human in the loop rallenta il lavoro?
Sì, dove la persona approva ogni singola azione, ed è il motivo per cui va messa solo dove l’errore costa: offerte, prezzi, denaro, comunicazioni che impegnano l’azienda.
Sulle risposte costruite su informazioni già approvate, come orari e disponibilità, l’approvazione si può dare una volta sola sul contenuto, e il sistema risponde subito dichiarando di essere un sistema.
Note sulle fonti
- La definizione e i tre livelli vengono dal paragrafo 65 degli Orientamenti etici per un’IA affidabile, gruppo di esperti ad alto livello sull’intelligenza artificiale istituito dalla Commissione europea, 8 aprile 2019, versione italiana letta il 26 settembre 2026. Sono linee guida, non una legge.
- Le citazioni sulla sorveglianza umana e sulla distorsione dell’automazione vengono dall’articolo 14 del Regolamento (UE) 2024/1689, letto nel testo ufficiale italiano. La data del 2 dicembre 2027 viene dall’articolo 113 come modificato dal Regolamento (UE) 2026/1744, che non tocca il testo dell’articolo 14.
- La citazione sulle decisioni automatizzate viene dall’articolo 22 del Regolamento (UE) 2016/679, il GDPR. Il paragrafo 2 dello stesso articolo prevede eccezioni, per contratto, per legge o con consenso esplicito.
- Il 17% e il 33% vengono dalla valutazione preregistrata del gruppo RegLab di Stanford, Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools, 2024: tre strumenti giuridici statunitensi su domande di diritto, un compito più difficile di quelli di una PMI. Lo citiamo per la forma del rischio, non come previsione sul vostro caso.
- Le quote di imprese che usano l’intelligenza artificiale vengono da Istat, Imprese e ICT, anno 2025, sulle imprese con almeno 10 addetti, letto il 26 settembre 2026.
- Questa pagina è una ricognizione, non un parere legale: se un vostro sistema rientri nell’alto rischio dipende dall’uso, e lo stabilisce chi assiste l’azienda.
Prima si decide dove sta la persona. Poi si costruisce il sistema intorno.
Il primo passo con Itria è una videochiamata di quindici minuti: si guarda quali passaggi del vostro lavoro si possono automatizzare e in quali una persona deve restare prima dell’invio. Scriveteci una riga su cosa vi pesa. Il primo passo lo facciamo noi: quello che un cliente vede quando vi cerca, e cosa ci abbiamo trovato. Anche se poi non lavoreremo insieme.