Benvenuti alla prima puntata del nostro dossier sulla concentrazione dell’IA. Oggi affrontiamo il rischio più immediato e visibile: l’uso dei sistemi di IA per interferire nei processi democratici, manipolare l’opinione pubblica e distorcere le elezioni.
Il meccanismo in sintesi
La manipolazione politica tramite IA non è più fantascienza. Si basa oggi su tre ingredienti che, combinati, producono una macchina di influenza su scala industriale:
- Generazione di contenuti – modelli come GPT, Midjourney o strumenti di clonazione vocale permettono di creare testi, immagini, video e audio falsi in pochi secondi, a costo quasi zero.
- Micro-targeting psicometrico – le piattaforme social (Meta, TikTok, X) profilano ogni utente con precisione, individuando paure, rabbie e convinzioni profonde.
- Automazione orchestrata – reti di bot e account coordinati diffondono i contenuti in modo sincronizzato, creando l’illusione di un’ondata di consenso o di crisi.
Il cuore del rischio sta nella concentrazione: gli stessi attori che sviluppano i modelli possiedono anche le piattaforme di distribuzione e i dati comportamentali. Questo rende possibile una manipolazione coordinata, rapida e difficile da smascherare.
Case study – Cosa è già successo
Cambridge Analytica (2016)
Il caso seminale, prima dell’esplosione dell’IA generativa.
- Cosa: i dati di 87 milioni di utenti Facebook furono raccolti senza consenso per profilare elettori e inviare messaggi politici personalizzati.
- Ruolo dell’IA: algoritmi di machine learning creavano profili psicologici (Big Five) e abbinavano i contenuti più efficaci per ogni persona.
- Impatto: influenzò la Brexit e le elezioni USA 2016. Dimostrò che non servono deepfake: basta un algoritmo di raccomandazione ben tarato.
Deepfake in Gabon (2019)
Il primo deepfake a scatenare una crisi politica reale.
- Cosa: dopo una prolungata assenza, il presidente Ali Bongo apparve in un video. L’opposizione gridò al deepfake, seminando sospetti.
- Ruolo dell’IA: il video era autentico, ma la mera esistenza della tecnologia generativa bastò a destabilizzare il paese. Tentativo di colpo di stato.
- Lezione: il pericolo non è solo il falso, ma la possibilità di credere che tutto sia falso.
Deepfake di Zelensky (2022)
Uso bellico della manipolazione.
- Cosa: nel marzo 2022 un video deepfake mostrava il presidente ucraino ordinare la resa. Pubblicato su Telegram e social.
- Ruolo dell’IA: clonazione vocale e sincronizzazione labiale. Per fortuna la qualità era bassa e la smentita rapida.
- Impatto: se fosse stato più credibile, avrebbe potuto indurre confusione tattica in piena guerra.
Deepfake in India (2024)
La normalizzazione della manipolazione elettorale.
- Cosa: video e audio deepfake di leader politici (Rahul Gandhi, Modi, persino defunti come Karunanidhi) sono circolati durante le elezioni. Un partito ha usato un discorso falso di un candidato morto per fare campagna.
- Ruolo dell’IA: clonazione vocale con pochi euro, distribuzione su WhatsApp e YouTube.
- Impatto: la manipolazione è diventata uno strumento elettorale ordinario, accettato e replicato.
Meta e il recommendation system tossico (2024)
Documenti interni rivelano la dinamica strutturale.
- Cosa: documenti trapelati hanno mostrato che Meta sapeva che i suoi algoritmi privilegiano contenuti polarizzanti (rabbia, paura) perché generano più engagement. Anche quando falsi.
- Ruolo dell’IA: l’architettura stessa della piattaforma amplifica la disinformazione, indipendentemente dalle policy dichiarate.
- Impatto: la moderazione è inefficace contro il motore di raccomandazione, che premia i contenuti più divisivi.
Impatto concreto
- Democrazia: distorsione della volontà popolare, erosione della fiducia nelle elezioni, polarizzazione estrema.
- Sicurezza: destabilizzazione di paesi, guerre ibride, ricatti con deepfake.
- Economia: instabilità politica che scoraggia investimenti, costi sociali della disinformazione.
- Cultura: normalizzazione della menzogna, perdita di un’opinione pubblica comune.
Possibili correttivi (approfonditi nelle prossime puntate)
- Separazione strutturale: chi sviluppa modelli non dovrebbe possedere anche le piattaforme di distribuzione.
- Audit algoritmici obbligatori: verificare se i sistemi di raccomandazione amplificano la disinformazione.
- Watermarking obbligatorio: segnalare i contenuti generati da IA, ma non è sufficiente.
- Licenze libere per i modelli: permettere a ricercatori e società civile di analizzare e replicare i sistemi.
- Educazione civica digitale: insegnare a riconoscere deepfake e meccanismi di polarizzazione.
La concentrazione dell’IA in poche aziende non è solo un problema di monopolio economico. È un rischio sistemico per la democrazia. I casi presentati mostrano che la manipolazione è già in corso, con costi umani e politici reali. La prossima puntata esplorerà un altro rischio altrettanto grave: la minaccia alla conoscenza e alla verità, ovvero come l’IA può degradare il nostro accesso a informazioni affidabili.
Prossima puntata: 1.2 – Minaccia alla conoscenza e alla verità