Oggi la Commissione Politiche dell'Unione Europea del Senato ha dato il via libera allo schema di decreto legislativo destinato ad adeguare l'ordinamento italiano al Regolamento europeo sull'intelligenza artificiale (AI Act), ampliando le possibilità di impiego del riconoscimento facciale e dell'identificazione biometrica da parte delle forze di polizia.
Si discuterà molto delle contrapposizioni politiche, delle proteste in Aula e delle dichiarazioni di maggioranza e opposizione. Come spesso accade, nel giro di pochi giorni tutto questo verrà sostituito da un'altra polemica e da un altro titolo di giornale.
Il vero problema, invece, rischia di passare inosservato.
Ed è un problema che riguarda il futuro della nostra democrazia.
Da anni il confronto sul riconoscimento facciale viene raccontato come uno scontro tra Stato e cittadini: da una parte il potere pubblico che pretende nuovi strumenti di controllo, dall'altra il diritto alla privacy.
È una lettura corretta, ma incompleta.
La domanda decisiva dovrebbe essere un'altra.
Chi controlla realmente la tecnologia che permette allo Stato di esercitare quel potere?
Oggi la risposta è inquietante.
Nella quasi totalità dei casi non sono gli Stati, né le istituzioni democratiche, ma un numero estremamente ristretto di grandi aziende private internazionali. Sono loro a possedere gli algoritmi, i modelli di intelligenza artificiale, le piattaforme cloud, le competenze e spesso perfino i dati necessari al funzionamento di questi sistemi.
Quando una pubblica amministrazione acquista un sistema di riconoscimento facciale, molto spesso non compra semplicemente un software: compra una tecnologia che non può realmente controllare.
Compra una scatola nera.
Le norme possono imporre limiti, autorizzazioni, controlli giudiziari, verifiche umane, principi di proporzionalità e divieti di discriminazione.
Ma tutto questo perde gran parte del proprio significato se il cuore tecnologico del sistema rimane inaccessibile.
Come si può verificare che un algoritmo non discrimini alcune categorie di persone se il codice sorgente è segreto?
Come si possono controllare i dati utilizzati per l'addestramento se nessuno può consultarli?
Come si può contestare un falso positivo se il funzionamento del sistema è protetto dal segreto industriale?
La cosiddetta "supervisione umana" rischia così di trasformarsi in una semplice ratifica delle decisioni prese da un algoritmo che nessuno, al di fuori dell'azienda che lo ha prodotto, è realmente in grado di comprendere.
Non è controllo democratico.
È fiducia obbligata.
Non bisogna essere ingenui.
Uno Stato che dispone di strumenti sempre più sofisticati di sorveglianza rappresenta già di per sé un rischio che ogni democrazia deve affrontare con estrema prudenza.
Ma esiste un rischio ancora più grande.
È quello che nasce quando il potere pubblico e il potere tecnologico privato si fondono.
Lo Stato decide chi sorvegliare.
L'azienda decide come funziona lo strumento con cui quella sorveglianza viene esercitata.
Il risultato è un sistema nel quale nessuno assume realmente la responsabilità.
Se qualcosa non funziona, l'amministrazione potrà sempre affermare che il problema riguarda il software fornito dal produttore.
Il produttore, dal canto suo, potrà sostenere di aver semplicemente venduto uno strumento, lasciando ogni responsabilità all'autorità che lo utilizza.
Nel mezzo rimane il cittadino.
Senza sapere realmente chi prende le decisioni che lo riguardano.
E senza avere gli strumenti per contestarle.
L'Unione Europea ha introdotto regole importanti per i sistemi di intelligenza artificiale ad alto rischio. È un progresso rispetto al vuoto normativo del passato. Ma la conformità normativa non coincide automaticamente con il controllo democratico.
Un sistema può essere perfettamente conforme all'AI Act e rimanere comunque completamente proprietario.
Può rispettare ogni obbligo documentale previsto dalla legge e continuare a impedire qualsiasi verifica indipendente del proprio funzionamento.
La trasparenza amministrativa non può ridursi alla consegna di documentazione prodotta dallo stesso soggetto che vende il sistema.
Una democrazia ha bisogno di qualcosa di più.
Ha bisogno della possibilità concreta di verificare.
È qui che il dibattito italiano continua a essere sorprendentemente arretrato.
Quando si parla di software libero e di codice aperto, troppo spesso si pensa ancora a una scelta tecnica o ideologica. Non lo è.
Nel caso dei sistemi utilizzati dalla pubblica amministrazione, è prima di tutto una questione di democrazia.
Un algoritmo impiegato per incidere sui diritti fondamentali dei cittadini dovrebbe essere ispezionabile. Il codice dovrebbe poter essere verificato da università, ricercatori indipendenti, autorità garanti, giornalisti e associazioni per i diritti digitali.
I dataset utilizzati dovrebbero essere documentati. I tassi di errore dovrebbero essere riproducibili. I bias dovrebbero poter essere analizzati da chiunque possieda le competenze necessarie.
Non perché il software libero sia perfetto.
Ma perché il controllo pubblico non può esistere senza la possibilità di verificare ciò che il potere utilizza.
Pretendiamo la pubblicità degli atti amministrativi.
Pretendiamo la trasparenza delle procedure.
Pretendiamo che le leggi siano pubbliche.
Perché dovremmo accettare che proprio gli algoritmi destinati a incidere sulle libertà fondamentali dei cittadini restino segreti?
La questione, quindi, non è soltanto quanto potere attribuire alle forze di polizia.
È una domanda certamente fondamentale.
Ma ce n'è una ancora più importante.
Chi controlla gli strumenti con cui quel potere viene esercitato?
Se la risposta continua a essere "pochi grandi soggetti privati che nessuno può realmente verificare", allora il problema non riguarda soltanto la privacy.
Riguarda il funzionamento stesso della democrazia.
Per questo il dibattito non dovrebbe limitarsi a discutere quando e come utilizzare il riconoscimento facciale.
Dovrebbe stabilire un principio molto più semplice e molto più forte.
Nessun algoritmo che incide sui diritti fondamentali dei cittadini dovrebbe poter essere utilizzato dalla pubblica amministrazione se il suo funzionamento non è verificabile in modo indipendente.
Questa non è una posizione contro la tecnologia.
È una posizione a favore della democrazia.
E oggi, più che mai, le due cose non possono più essere separate.