Social Scoring ed AI Act: dalla distopia di Black Mirror alla tutela normativa europea
- Gabriele Scafati
- 3 giorni fa
- Tempo di lettura: 3 min
Come l'episodio "Nosedive" di Black Mirror può aiutarci a capire l'Art 5 dell'AI Act
Come noto, l’AI Act, approvato e pubblicato lo scorso anno, rappresenta il primo quadro normativo organico al mondo dedicato all’intelligenza artificiale. Tra le sue disposizioni più significative, e di maggiore impatto etico-sociale, vi è il divieto assoluto, previsto dall’articolo 5, di utilizzo dei sistemi di AI per finalità di social scoring.
Cos'è il Social Scoring e Perché è Proibito
Con questa espressione si intendono principalmente quei meccanismi di valutazione e classificazione delle persone, basati sul comportamento sociale, sulle interazioni digitali, o su altri
elementi estranei alla loro sfera professionale, applicati in modo da influenzare in maniera sproporzionata l’accesso a diritti, servizi e opportunità, con rilevanti rischi di consolidare disuguaglianze, limitare la libertà individuale e creare meccanismi di esclusione sociale basati su criteri opachi e arbitrari.
In concreto, si tratta di sistemi che assegnano alle persone un punteggio complessivo, riducendo la complessità di un individuo ad un numero, trasformandolo in “cittadino di serie A o di serie B” sulla base di criteri potenzialmente opachi e discriminatori.
La Visione Distopica: "Nosedive" (Caduta Libera)
Tale previsione normativa trova un sorprendente parallelo nell’episodio “Nosedive” (Caduta Libera)
della serie Black Mirror, nel quale ogni interazione sociale viene tradotta in un punteggio numerico
che determina lo status della persona nella collettività.
Fa effetto constatare la visionarietà degli sceneggiatori di questo episodio, uscito il 21 ottobre 2016, dunque ben prima che le istituzioni europee (anche solo) commissionassero le “Ethics guidelines for trustworthy AI” – che dell’AI Act costituiscono la pietra angolare – alla cosiddetta commissione di esperti alto livello sulla AI.
Nel racconto distopico, la protagonista Lacie vive in una società dove ogni interazione sociale viene valutata con un punteggio. Il rating diventa la chiave per accedere a servizi, opportunità lavorative, abitazioni migliori o persino a relazioni personali.
L’ossessione per mantenere un punteggio elevato porta inevitabilmente al crollo emotivo e sociale
di Lacie, in un sistema dove anche il più piccolo errore (ogni sorriso, ogni battuta di spirito, persino
la meschinità di un vicino arrabbiato) comporta una perdita di punti e, di conseguenza, l’esclusione da beni e servizi fondamentali (persino la possibilità di partecipare a un matrimonio!), mostrando come un simile meccanismo possa minare autenticità, uguaglianza e benessere collettivo: la tensione costante a “piacere” agli altri diventa una prigione, svuotando di autenticità i rapporti umani.
Un mondo dove l’apparenza e la popolarità digitale sono la valuta principale, e dove una caduta di
rating può significare l’esclusione sociale tout court.
Il Valore Preventivo dell'AI Act
Ciò che in Black Mirror era presentato come provocazione narrativa è oggi percepito come rischio
reale, al punto da richiedere un intervento regolatorio vincolante.
La scelta di vietare il social scoring non è solo un atto di tutela giuridica, ma anche un’affermazione politica ed etica: l’intelligenza artificiale deve essere sviluppata e utilizzata nel rispetto dei diritti umani, evitando derive che possano minare la coesione sociale e ridurre la persona a un mero dato numerico. C’è, quindi, una questione più profonda, che va oltre la tecnologia: la dignità umana, l’autodeterminazione.
Ridurre un individuo a un punteggio significa negarne la complessità, trasformare la ricchezza delle relazioni umane in una scala artificiale fatta di like e stelline.
In questo senso, il legislatore europeo con l’articolo 5 dell’AI Act non ha solo ipotizzato scenari futuri, bensì ha deciso di prevenire, fin da subito, derive pericolose che la cultura popolare aveva già immaginato.
È un segnale politico e culturale forte: la tecnologia deve rimanere al servizio della persona e non trasformarsi in uno strumento di controllo sociale mascherato da efficienza: l’AI Act rappresenta un passo decisivo verso una governance tecnologica antropocentrica, che non demonizza l’innovazione, ma ne indirizza l’uso entro limiti chiari e proporzionati, affinché l’adozione dell’AI resti uno strumento di progresso e non diventi il preludio a scenari di controllo sociale incompatibili con i valori democratici europei.
