Quando le proteste in Pakistan si sono intensificate fino a sfociare in scontri tra forze filogovernative e sostenitori dell’ex primo ministro Imran Khan, il leader ora in carcere si è rivolto ai social media per sostenere il suo messaggio. Khan ha condiviso un breve video su X che mostra i suoi sostenitori mentre cantano il suo nome e sollevano cartelli inneggianti a lui. La clip si conclude con un’inquadratura fissa di una donna vestita di arancione che si trova coraggiosamente faccia a faccia con una linea di poliziotti antisommossa pesantemente armati.

C’è un problema: l’immagine che mostra la donna coraggiosamente in piedi davanti alla polizia non è reale. È stata creata da un’intelligenza artificiale generativa.

Come abbiamo già visto nei numeri scorsi di Superpoteri, Khan non è l’unico leader politico che si rivolge ai falsi per ottenere un guadagno politico.  L’intelligenza artificiale può fungere da amplificatore agli autoritarismi digitali, rendendo più facile, veloce, economico ed efficace la censura, la sorveglianza, la creazione e diffusione di disinformazione.

Nel nuovo rapporto di Freedom House sono elencati 16 paesi, tra cui Pakistan, Nigeria e Stati Uniti, che nell’ultimo anno hanno utilizzato l’intelligenza artificiale generativa per esercitare una maggiore controllo su Internet.

Nel report ci sono molti esempi: in Venezuela, telegiornali sostenuti dallo Stato hanno iniziato a condividere video di conduttori, per lo più di lingua inglese, che contrastavano le critiche occidentali al Paese di Maduro. In realtà gli oratori erano avatar generati dall’intelligenza artificiale. Anche la Cina ha amplificato la sua campagna di propaganda statale utilizzando avatar artificiali dai tratti occidentali con il marchio Wolf News.

In effetti creare conduttori virtuali non è per niente difficile: ad esempio, letteralmente in 5 minuti, gratis, ho potuto creare una piccola news “satirica” grazie a Kredoai:

“Caricare video fake news”

Con qualche minuto di lavoro in più il risultato sarebbe stato ancora più credibile e personalizzabile.

Se tutto può diventare falsificabile, niente più sarà vero: sempre secondo il report di Freedom House, aumentano i casi dove video autentici vengono accusati di essere falsi, solamente per discredito politico. L’intelligenza artificiale rende inoltre più semplice indirizzare i messaggi in modo che raggiungano un pubblico specifico. Questa esperienza personalizzata aumenta la complessità di indagare se gli utenti di Internet e gli elettori vengono colpiti da disinformazione.

Non solo IA: sempre sfogliando il report, vediamo che a livello globale la libertà su Internet non è mai stata così bassa e il numero di paesi che hanno bloccato i siti Web per questioni politiche, sociali o religiosi o che hanno arrestato persone dopo aver espresso dissenso online non è mai stato così alto.

Nel 1985 George Schultz, allora segretario di stato americano, coniò il “dilemma del dittatore”:

«le società totalitarie si trovano di fronte a un dilemma: o soffocare queste tecnologie e restare indietro nello sviluppo industriale e tecnologico, oppure accettarle e vedere inevitabilmente eroso il loro controllo totalitario».

Adesso non è più così, non ci sono più dilemmi, i dittatori hanno vinto: l’autoritarismo digitale diventa un brand, un modello di sviluppo tecnologico. Strumenti e software per aumentare la sorveglianza di massa, la censura, la falsa propaganda sono diventati prodotti da esportare, da vendere. E purtroppo sono dannatamente efficaci.

Il 2024 sarà un anno di elezioni. Le più grandi democrazie andranno al voto: Usa, India, Europa. Il rischio che ci possano essere manipolazioni e disinformazione grazie alle nuove tecnologie è molto alto.

Cosa possiamo fare? Gli Stati democratici dovrebbero smettere di comprare e utilizzare prodotti e servizi che vengono da autoritarismi digitali: ci siamo già dimenticati come le nostre pubbliche amministrazioni hanno dovuto rimuovere velocemente il software antivirus russo Kaspersky, per i rischi alla sicurezza nazionale in seguito all’attacco di Putin all’Ucraina?

Inoltre dovremmo fare quello che abbiamo fatto nell’ultimo secolo contro i regimi dittatoriali: offrire un’alternativa diversa, rafforzare lo sviluppo “democratico” dell’intelligenza artificiale per garantire maggiore trasparenza, fornire meccanismi di controllo efficaci e dare priorità alla protezione dei diritti umani, cercando allo stesso tempo di offrire la migliore tecnologia, il migliore prodotto investendo su formazione, ricerca e trasferimento tecnologico.

Un miglioramento della nostra democrazia attraverso la tecnologia è la risposta migliore a ogni autoritarismo digitale.

Questo articolo è uscito su Superpoteri, la newsletter che si occupa di tecnologia, potere e politica.