Il concetto di human in the loop è ormai quasi uno standard in ambito AI: un sistema automatizzato che prende decisioni, ma con un umano pronto a intervenire, validare, correggere.
Oggi però questo paradigma inizia a mostrare i suoi limiti. Non perché sbagliato, ma semplicemente perché rischia di essere superato — almeno in alcuni contesti.
Oltre a chiedersi se l’uomo debba essere nel loop, bisogna iniziare a domandarsi anche come.
Dal controllo diretto alla supervisione
Nel modello human in the loop, l’intervento umano è parte integrante del processo decisionale: ogni output rilevante passa da una validazione esplicita. Sanità, finanza, sicurezza, chirurgia robotica, infrastrutture critiche: in questi ambiti il controllo puntuale non è inefficienza, è un requisito. La scalabilità non è sempre il criterio rilevante.
Ma al di fuori di questi ambiti, il modello diventa rapidamente inefficiente quando i volumi crescono.
Qui si inizia a far strada un modello meno esplicito, ma sempre più presente nella pratica: quello che potremmo chiamare human on the loop.
Non è un termine formalizzato, ma aiuta a descrivere un cambiamento che sta già avvenendo: anziché intervenire su ogni singola decisione, l’essere umano supervisiona il sistema nel suo complesso. Definisce regole, monitora anomalie, interviene solo quando qualcosa devia dal comportamento atteso.
È una differenza sottile, ma decisiva: da controllo puntuale a controllo sistemico. I due modelli non sono stadi evolutivi sequenziali — uno migliore dell’altro — ma approcci complementari, appropriati a contesti diversi. La domanda non è quale scegliere in assoluto, ma quale sia giusto per il sistema specifico che stiamo progettando.
Il vero problema: scalabilità (e attenzione)
Inserire un umano in ogni passaggio funziona finché il sistema è piccolo.
Quando le decisioni diventano migliaia o milioni emergono rapidamente due effetti:
- Collo di bottiglia operativo: il sistema rallenta perché l’umano non riesce a stare al passo
- Automazione apparente: il processo sembra automatizzato, mentre in realtà dipende ancora fortemente da interventi manuali
C’è poi un terzo problema più critico: l’attenzione umana non è scalabile.
Quando le persone devono validare continuamente output dell’AI, tendono — inevitabilmente — a fidarsi troppo o a distrarsi. È il cosiddetto automation bias: più il sistema funziona, meno viene controllato davvero.
Quando “in the loop” non è più sufficiente
Nel lungo periodo il paradigma human in the loop può diventare un freno.
Se ogni decisione deve essere validata, non stiamo davvero sfruttando l’automazione. Il lavoro si sposta, invece di essere “eliminato”.
Togliere l’umano non è la soluzione, bisogna ripensarne il ruolo.
Riposizionare l’umano: dal “fare” al “definire”
Nel modello che definiamo human on the loop, il valore dell’essere umano si sposta:
- dalla validazione delle singole decisioni
- alla progettazione delle regole e dei limiti del sistema
Questo implica nuove responsabilità:
- definire soglie di rischio
- progettare meccanismi di fallback
- stabilire quando e come il sistema deve “chiedere aiuto”
- interpretare segnali deboli che l’AI non coglie
In altre parole, l’umano diventa meno operatore e più architetto. Progettare regole, soglie e meccanismi di fallback per sistemi complessi richiede competenze specifiche che nella maggior parte delle organizzazioni oggi non esistono, o esistono in quantità insufficiente.
C’è poi una questione che non si può eludere: la responsabilità. Nel modello human in the loop, chi valida una decisione ne risponde in modo relativamente diretto. Nel modello human on the loop, la responsabilità si diffonde — tra chi ha progettato il sistema, chi lo monitora, chi ha definito le soglie. La responsabilità diffusa tende a diventare responsabilità di nessuno.
Un possibile terzo modello
In molti contesti sta emergendo implicitamente anche un terzo schema:
• human in the loop → controllo decisionale
• human on the loop → supervisione sistemica
• human out of the loop (ma accountable) → automazione completa con responsabilità ex-post
Non è un’evoluzione lineare, ma un continuum di scelte progettuali.
La domanda giusta
Dove l’intervento umano genera davvero valore?
Inserire l’uomo nel processo non è automaticamente sinonimo di controllo, così come toglierlo non è automaticamente sinonimo di rischio.
Il punto non è scegliere se l’umano debba esserci o meno, ma dove e con quale ruolo. L’umano genera valore dove c’è ambiguità, non dove c’è volume.
Ed è proprio in questo spazio — ancora poco definito — che si sta ridisegnando il modo in cui progettiamo i sistemi AI. Con una consapevolezza in più: il problema tecnico è spesso il più semplice. Quello organizzativo e quello della responsabilità sono quelli che ancora non abbiamo risolto.
