Dopo aver visto come l’IA concentrata possa manipolare i processi politici, passiamo a un rischio altrettanto profondo: la degradazione della conoscenza pubblica. Quando poche aziende controllano i modelli che generano testi, immagini e risposte, e questi modelli diventano la principale interfaccia tra le persone e l’informazione, la qualità della verità stessa è a rischio.
Il meccanismo: tre forme di inquinamento cognitivo
Allucinazioni e falsi autorevoli – i modelli linguistici (GPT, Claude, Gemini) non “sanno” la verità; producono frasi statisticamente probabili. Spesso generano informazioni false ma presentate con sicurezza. L’utente medio fatica a distinguere.
Bias sistematici – i dati di training riflettono pregiudizi culturali, linguistici e ideologici. Un modello addestrato prevalentemente su testi occidentali o anglofoni produce una visione distorta del mondo.
Sostituzione delle fonti – sempre più persone usano chatbot come motori di ricerca o enciclopedie. Se il modello è l’unica fonte, le verifiche incrociate scompaiono. L’errore diventa verità per mancanza di alternative.
Il ruolo della concentrazione è evidente: se un solo modello (o pochi) diventa la fonte predefinita per miliardi di persone, ogni suo bias, errore o manipolazione volontaria si propaga su scala planetaria.
Case study – Cosa è già successo
Allucinazioni legali – il caso degli avvocati di New York (2023)
Un caso emblematico di fiducia malriposta.
Cosa: due avvocati usarono ChatGPT per preparare una memoria legale. Il modello inventò giurisprudenza inesistente, citando sentenze false con nomi di giudici e dettagli credibili. Gli avvocati non verificarono.
Ruolo dell’IA: il modello produsse informazioni false con totale sicurezza, sfruttando la sua autorevolezza apparente.
Impatto: il giudice li sanzionò. Ma il caso mostra come professionisti possano essere ingannati da modelli che sembrano competenti.
Bias razziali e di genere – modelli di reclutamento
Amazon e il suo sistema di selezione del personale (2018).
Cosa: Amazon sviluppò un modello IA per scremare i curriculum. Scoprì che penalizzava sistematicamente le donne, perché addestrato su decenni di assunzioni passate, dominate da uomini.
Ruolo dell’IA: il bias storico venne replicato e amplificato dall’algoritmo. Amazon lo ritirò, ma il caso dimostra che i modelli ereditano le disuguaglianze.
Impatto: se non controllato, un modello di reclutamento può perpetuare discriminazioni su scala industriale.
Disinformazione sanitaria – modelli che consigliano cure errate
Casi documentati su ChatGPT e altri chatbot.
Cosa: in test effettuati da ricercatori, ChatGPT ha fornito consigli medici pericolosi (es. dosi sbagliate di farmaci, diagnosi errate) in una percentuale non trascurabile. Presentati con linguaggio sicuro e professionale.
Ruolo dell’IA: i modelli non hanno coscienza medica; generano risposte plausibili ma non verificate.
Impatto: se integrato in app sanitarie o consultato da utenti senza competenze, può causare danni reali.
La fine della verificabilità – Google SGE e le sinossi generate
L’integrazione dell’IA nei motori di ricerca.
Cosa: Google ha introdotto “Search Generative Experience” (SGE), che mostra riassunti generati dall’IA prima dei link tradizionali. Gli utenti si fermano al riassunto, senza cliccare le fonti originali.
Ruolo dell’IA: il modello sintetizza, ma può introdurre errori, omissioni o distorsioni. Le fonti primarie perdono visibilità e traffico.
Impatto: l’ecosistema informativo si impoverisce. I siti originali (giornali, ricerche, documenti) perdono lettori e sostenibilità economica. La conoscenza diventa un sommario opaco.
Il caso Wikipedia – modelli che “imparano” da sé stessi
Inquinamento dei dati di training.
Cosa: molti modelli vengono addestrati su testi prelevati dal web, inclusi quelli generati da altri modelli. Questo crea un feedback loop: errori e bias vengono amplificati a ogni nuova generazione.
Ruolo dell’IA: se il web si riempie di contenuti sintetici, i futuri modelli si addestreranno su dati degradati.
Impatto: una progressiva “omogeneizzazione” e perdita di qualità della conoscenza pubblica disponibile online.
Impatto concreto
Conoscenza: diffusione di falsi “autorevoli”, erosione della fiducia nelle fonti tradizionali (giornali, università, enti scientifici).
Democrazia: una cittadinanza male informata non può prendere decisioni consapevoli. La disinformazione sanitaria e scientifica mina politiche pubbliche.
Economia: costi derivanti da errori professionali (legali, medici, finanziari) alimentati da modelli inaffidabili.
Cultura: appiattimento della diversità di pensiero, omologazione linguistica e culturale se i modelli privilegiano una visione dominante.
Possibili correttivi (Trasparenza obbligatoria: ogni modello dovrebbe dichiarare le proprie fonti, i propri limiti e la probabilità di errore).
Accesso aperto ai dati di training: per permettere a ricercatori indipendenti di identificare bias e allucinazioni.
Divieto di presentare output come fatti: i chatbot dovrebbero sempre indicare che le risposte sono probabilistiche e invitare alla verifica.
Sostenere le fonti primarie: politiche pubbliche per garantire la sopravvivenza di giornali, archivi, enciclopedie aperte.
Licenze libere per i modelli: favorire modelli aperti e trasparenti, come quelli di comunità (Mistral, Llama, ecc.), riducendo la dipendenza da pochi attori chiusi.
Conclusione della puntata
La concentrazione dell’IA nelle mani di poche aziende non minaccia solo la politica, ma anche la qualità stessa della conoscenza. Quando un modello diventa la principale finestra sul mondo, ogni suo errore, ogni suo bias, ogni sua omissione diventa un errore collettivo. La prossima puntata esplorerà il rischio sociale e le disuguaglianze - come l’IA concentrata può ampliare il divario tra chi ha accesso al potere