Dopo aver esplorato i rischi politici e quelli legati alla conoscenza, affrontiamo oggi una dimensione forse ancora più pervasiva: l'impatto sociale dell'IA concentrata. Quando poche aziende controllano gli strumenti che decidono chi viene assunto, chi ottiene un prestito, chi accede alla sanità o all'istruzione, le disuguaglianze esistenti non vengono semplicemente replicate: vengono amplificate e cristallizzate su scala industriale.
Il meccanismo: tre forme di discriminazione algoritmica
La selezione sociale automatizzata – sistemi di IA vengono usati per screening di curriculum, valutazione del merito creditizio, ammissione a università, diagnosi sanitarie. Se i dati di training riflettono pregiudizi storici (razziali, di genere, di classe), l'algoritmo li perpetua.
L'accesso differenziato – non tutti hanno la stessa possibilità di accedere agli strumenti di IA. Chi può permettersi strumenti a pagamento (es. versioni premium di ChatGPT, strumenti di automazione) ottiene un vantaggio competitivo enorme. Chi resta escluso viene progressivamente emarginato.
La sostituzione selettiva del lavoro – l'automazione colpisce in modo diseguale: i lavori manuali e ripetitivi sono più esposti, mentre le professioni intellettuali di alto livello vengono potenziate. Il risultato è una polarizzazione del mercato del lavoro.
Il ruolo della concentrazione è decisivo: quando poche aziende sviluppano gli strumenti di valutazione sociale (credit scoring, reclutamento, vigilanza), decidono implicitamente chi è "meritevole" e chi no, senza controllo democratico.
Case study – Cosa è già successo
Il caso dei prestiti bancari – Apple Card (2019)
Un algoritmo che discriminava le donne.
Cosa: la Apple Card, emessa da Goldman Sachs, utilizzava un algoritmo per determinare i limiti di credito. Numerose utenti denunciarono di ricevere limiti drasticamente inferiori rispetto ai mariti, pur avendo redditi simili o superiori.
Ruolo dell'IA: l'algoritmo non rivelava i criteri di valutazione. La discriminazione era opaca e difficilmente contestabile.
Impatto: scoppiò uno scandalo. New York avviò un'indagine. Il caso dimostrò che gli algoritmi possono riprodurre discriminazioni di genere senza che nessuno possa verificarle.
Reclutamento discriminatorio – Amazon (2018)
Già citato nella puntata 1.2, ma centrale anche qui.
Cosa: il sistema di screening dei curriculum di Amazon penalizzava i curriculum che contenevano parole come "donna" o che indicavano lauree in college femminili. L'algoritmo era stato addestrato su assunzioni passate, prevalentemente maschili.
Ruolo dell'IA: il bias storico venne amplificato dall'apprendimento automatico.
Impatto: Amazon lo ritirò, ma sistemi simili sono ancora in uso in molte aziende. Il caso è un monito: se i dati sono distorti, l'IA è uno strumento di discriminazione su scala.
Il sistema di welfare danese – il caso "Udbetaling Danmark"
Quando l'IA decide chi è povero.
Cosa: la Danimarca ha utilizzato un sistema automatizzato per individuare presunte frodi nel welfare. L'algoritmo segnalava in modo sproporzionato cittadini di origine immigrata, generando migliaia di verifiche ingiustificate e tagli di sussidi errati.
Ruolo dell'IA: l'algoritmo incorporava bias impliciti, perché addestrato su dati storici in cui le verifiche erano già più frequenti su alcune comunità.
Impatto: centinaia di persone persero il sussidio senza giusta causa. Il caso mostra come l'IA possa diventare uno strumento di controllo sociale discriminatorio.
Sanità – il caso del modello "Optum" negli USA
Razza e accesso alle cure.
Cosa: un modello di IA utilizzato da ospedali americani per identificare pazienti ad alto rischio di complicazioni sanitarie sottostimava sistematicamente i bisogni dei pazienti neri. Perché? L'algoritmo usava come indicatore i costi sanitari passati, che per i pazienti neri erano più bassi a causa del minore accesso storico alle cure.
Ruolo dell'IA: l'algoritmo non era "razzista" nei dati, ma la scelta dell'indicatore (costi) produceva un effetto discriminatorio.
Impatto: migliaia di pazienti neri persero l'accesso a cure preventive. Il caso dimostra che il bias può essere indiretto e strutturale.
Giustizia predittiva – il caso COMPAS negli USA
L'algoritmo che decide la libertà.
Cosa: il sistema COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) veniva usato da tribunali americani per valutare il rischio di recidiva degli imputati. Studi indipendenti dimostrarono che l'algoritmo sopravvalutava il rischio per imputati neri e lo sottovalutava per quelli bianchi.
Ruolo dell'IA: l'opacità del modello impediva di contestare le decisioni.
Impatto: persone nere hanno ricevuto pene più severe sulla base di un algoritmo discriminatorio. Il caso è diventato emblematico dei pericoli della giustizia algoritmica.
Accesso differenziato – il divario linguistico e culturale
L'IA parla inglese.
Cosa: i modelli linguistici più potenti (GPT-4, Claude, Gemini) sono addestrati prevalentemente su testi in inglese e, in misura minore, su poche altre lingue. Per parlanti di lingue africane, asiatiche o minoritarie, la qualità delle risposte è drasticamente inferiore.
Ruolo dell'IA: la concentrazione geografica e culturale dello sviluppo produce un'IA che serve meglio chi già ha più potere.
Impatto: il divario digitale e culturale si amplia. Le lingue e le culture meno rappresentate rischiano l'emarginazione anche nel mondo digitale.
Impatto concreto
Sociale: disuguaglianze di reddito, genere, etnia e geografia amplificate dall'automazione delle decisioni.
Economico: polarizzazione del mercato del lavoro, perdita di posti per i meno qualificati, concentrazione della ricchezza nelle mani di chi possiede l'IA.
Civile: erosione della giustizia sociale, creazione di una "classe di esclusi" che non accede ai benefici dell'IA.
Culturale: omologazione linguistica e culturale, perdita di diversità.
Possibili correttivi
Divieto di algoritmi opachi per decisioni sensibili (lavoro, credito, giustizia, sanità) – obbligo di spiegabilità e ricorso umano.
Audit obbligatori e indipendenti per verificare discriminazioni nei sistemi di valutazione automatica.
Diversità nei team di sviluppo – includere prospettive sociali, culturali e di genere nella progettazione.
Accesso universale gratuito agli strumenti di IA di base, finanziato pubblicamente.
Redistribuzione dei benefici – tassazione sull'automazione, sostegno ai lavoratori colpiti, formazione diffusa.
Modelli aperti e multilingue – promuovere lo sviluppo di IA che rappresentino tutte le lingue e culture.
La concentrazione dell'IA non produce solo rischi politici o cognitivi: produce ingiustizia sociale concreta. Ogni algoritmo che decide chi merita un prestito, un lavoro o una cura, senza trasparenza e senza possibilità di appello, è un passo verso una società in cui le disuguaglianze diventano invisibili, automatizzate e perciò difficilmente contestabili.
La prossima puntata esplorerà il rischio economico: come la concentrazione dell'IA crea monopoli, distrugge concorrenza e genera dipendenza tecnologica su scala globale.