C’è un principio che il diritto moderno considera intoccabile: sei innocente finché non viene dimostrato il contrario. Le piattaforme digitali sembrano aver adottato la logica opposta. L’algoritmo rileva, classifica, rimuove — tutto in pochi millisecondi, prima che nessun essere umano abbia letto una riga di quello che hai scritto. La sanzione arriva prima della verifica. La condanna precede il processo.
Quello che è successo su LinkedIn qualche giorno fa è un esempio perfetto: migliaia di post sono stati rimossi per errore, etichettati con una delle categorie più gravi previste dalle policy della piattaforma “materiale intimo non consensuale”. Un bug, certo, ma un bug che mette in luce un malfunzionamento strutturale nel modo in cui i contenuti vengono oggi governati online.
Il prezzo degli errori
I sistemi di moderazione automatizzata esistono per una ragione comprensibile: le piattaforme gestiscono volumi di contenuti che nessun team umano potrebbe controllare in tempo reale. Miliardi di post al giorno, in decine di lingue, su argomenti infiniti. L’automazione è una necessità operativa.
Il problema è che questi sistemi lavorano per pattern e probabilità statistiche. Funzionano bene in media, ma quando sbagliano lo fanno su larga scala e con una velocità che nessun processo di revisione riesce a seguire. Un errore nel modello di classificazione non colpisce un utente — ne colpisce migliaia, simultaneamente, prima che qualcuno se ne accorga.
Il peso di una categoria sbagliata
Non tutti gli errori pesano allo stesso modo. Essere rimossi per un hashtag ambiguo è fastidioso. Essere etichettati come autori di “materiale intimo non consensuale” è un’altra cosa. Quella categoria rimanda a comportamenti gravi con implicazioni legali, reputazionali e personali molto serie.
Ricevere quella notifica su un post innocuo produce un danno reale, anche se temporaneo. Chi l’ha ricevuta si è trovato nella posizione di dover contestare una decisione automatica senza sapere davvero da cosa fosse stata generata.
E anche dopo il ripristino, resta una domanda aperta: quella segnalazione rimarrà nello storico dell’account? Influirà sulla visibilità futura? Le piattaforme raramente lo dicono con chiarezza.
Automatizzare i controlli, dissolvere la responsabilità
Il caso arriva in un momento tutt’altro che neutro per LinkedIn. Pochi giorni prima dell’incidente, la piattaforma aveva annunciato il taglio del 5% del personale, nonostante ricavi in crescita del 12%. La motivazione ufficiale: maggiore efficienza, automazione dei processi, più spazio all’intelligenza artificiale.
Un’azienda che taglia le persone per affidarsi agli algoritmi e poi scopre che gli algoritmi scambiano normali post lavorativi per contenuti osceni. Il paradosso non è solo ironico — è strutturale.
Quando un sistema automatizzato sbaglia, accade qualcosa di peculiare dal punto di vista della responsabilità: non è colpa di nessuno. Non c’è un moderatore che ha preso una decisione sbagliata, non c’è un manager che ha autorizzato la rimozione: è stato il “sistema”.
Chi tutela l’utente?
La domanda che rimane aperta è: chi tutela l’utente quando è l’algoritmo a sbagliare?
Il meccanismo del ricorso esiste, ma è asimmetrico. Da un lato una piattaforma con risorse illimitate e un sistema automatico che non dorme mai. Dall’altro un utente che deve individuare dove fare appello, compilare moduli, attendere risposte — spesso senza sapere nemmeno quali criteri abbiano portato alla rimozione.
Il Digital Services Act europeo va nella direzione giusta, imponendo alle grandi piattaforme meccanismi di ricorso trasparenti e revisione umana per le decisioni di moderazione più gravi. Ma la strada tra la norma e la pratica è ancora lunga.
Finché quella distanza non si riduce, la presunzione di colpevolezza algoritmica resterà il regime di fatto sotto cui operano milioni di utenti — costretti a difendersi da accuse generate da un sistema che non spiega, non ascolta e, quando sbaglia, si scusa solo sotto pressione.
È un problema profondo che riguarda chi ha il potere di decidere cosa è lecito dire online, con quali garanzie e con quale possibilità reale di contestazione.
Una questione di governance, non di tecnologia.
