Mentre l’adozione dell’AI accelera, emerge un rischio poco visibile e ancora poco discusso a livello manageriale: il model collapse.
Non è un problema solo teorico, ma una dinamica che può impattare direttamente la qualità, l’affidabilità e il valore delle soluzioni di Intelligenza Artificiale nel tempo.
Il sistema si chiude su sé stesso
Ogni modello di intelligenza artificiale dipende dai dati su cui viene addestrato. Fin qui nulla di nuovo. Oggi, però, l’ecosistema informativo sta cambiando: una quota crescente dei contenuti disponibili — testi, immagini, codice — è generata da altri modelli AI.
Questo crea una discontinuità rispetto al passato, perché i nuovi modelli non apprendono più solo dal mondo reale, ma sempre più spesso da una sua rappresentazione artificiale, come abbiamo visto in un precedente articolo su dati reali e sintetici.
Il model collapse nasce esattamente qui: quando un modello viene addestrato su dati che derivano, direttamente o indirettamente, da altri modelli, la qualità dell’apprendimento tende a degradarsi nel tempo.
Ogni passaggio introduce una piccola perdita: meno dettaglio, più approssimazione. Poi emergono segnali sottili:
- risposte sempre corrette, ma poco utili e generiche
- contenuti sempre più simili tra loro
- difficoltà nel gestire eccezioni o casi non standard
È un appiattimento progressivo: il punto più critico è che questa degradazione è spesso invisibile. L’output resta formalmente corretto, ma perde profondità, varietà e capacità di generare insight.
Non è drift ed è proprio questo il punto
Siamo abituati a pensare ai problemi dell’AI come a una conseguenza del cambiamento del mondo — il classico model drift.
Qui è diverso perché il problema non è fuori, è dentro.
Il modello non fatica a stare al passo con la realtà, è semplicemente la realtà nei dati che si sta diluendo.
Perché è un tema rilevante per CIO e IT Manager
Molte organizzazioni oggi non addestrano modelli da zero, ma lavorano su modelli preesistenti (foundation model), adattandoli ai propri casi d’uso tramite fine-tuning o integrazione nei processi. È una scelta efficiente, spesso necessaria, ma introduce una dipendenza critica: la qualità del modello dipende dalla qualità dell’intera filiera dei dati, non solo di quelli interni.
Se i modelli di base sono stati addestrati su dati sempre più “contaminati” da output sintetici, anche le applicazioni aziendali rischiano di ereditarne i limiti.
In altre parole: il rischio non è solo tecnico, ma sistemico. Nel concreto, questo significa decisioni meno efficaci, automazioni più fragili nei casi non standard e una progressiva perdita di differenziazione: sistemi che scalano, ma non migliorano davvero.
Il vero punto: la data supply chain
Il focus si sta spostando — inevitabilmente — sui dati. Non in termini di quantità, ma di origine e qualità.
Oggi il vero asset è la catena di approvvigionamento dei dati: la capacità di avere accesso a dati reali, mantenerli aggiornati e sapere da dove provengono diventa un fattore competitivo.
Strategie per mitigare il rischio
Non esiste una soluzione unica al model collapse, ma esistono approcci concreti per ridurne l’impatto:
1. Rafforzare i dati proprietari
Dati interni, reali e aggiornati sono la base più solida per mantenere qualità nel tempo.
2. Introdurre data governance sull’AI
Serve governare i dati che alimentano i modelli, includendo controlli su provenienza, qualità e aggiornamento.
3. Monitorare il degrado nel tempo
Non solo performance immediate, ma trend: accuratezza, diversità delle risposte, capacità di gestione dei casi edge.
4. Tenere traccia della versione dei dati
Il versioning dei modelli è ormai standard. Quello dei dati di training molto meno. Sapere esattamente su cosa è stato addestrato ogni versione del sistema è il prerequisito per diagnosticare un degrado.
Un equilibrio da costruire
I dati sintetici non sono il problema, anzi sono una risorsa potente che permette di scalare, testare, simulare.
Il punto è l’equilibrio. Quando diventano predominanti — e soprattutto quando non sono più distinguibili — il rischio è che il sistema inizi a perdere contatto con ciò che dovrebbe rappresentare creando un’illusione di qualità.
In un contesto in cui l’AI tende sempre più a “nutrirsi di sé stessa”, anche i modelli più sofisticati restano fedeli a una regola semplice: valgono quanto ciò da cui imparano.
