Quando la plausibilità costa meno della verifica: la lezione del Rapporto AGCOM sull’intelligenza artificiale

L’IA non produce soltanto contenuti: interviene sui criteri con cui decidiamo che cosa è autentico, autorevole e meritevole di attenzione. Il Rapporto AGCOM indica una strada concreta per governare algoritmi, disinformazione e diritto d’autore. Ma alle regole devono corrispondere competenze pubbliche, capacità di audit e responsabilità organizzative.

Il problema più urgente dell’intelligenza artificiale generativa non è che possa produrre un contenuto falso. Le falsificazioni esistono da sempre. La vera discontinuità è economica, industriale e comunicativa: oggi la plausibilità può essere prodotta in serie, personalizzata per pubblici differenti e distribuita attraverso sistemi che premiano ciò che cattura attenzione, non ciò che resiste alla verifica.

È questo uno dei messaggi più rilevanti del “Rapporto sull’Intelligenza Artificiale 2026 dell’Autorità per le Garanzie nelle Comunicazioni”, pubblicato il 17 giugno e articolato in due parti complementari: una ricostruzione tecnico-economica dell’ecosistema dell’IA e un’analisi giuridica e regolatoria affidata al Comitato di esperti istituito da AGCOM.

Non è un rapporto destinato soltanto a giuristi, regolatori o imprese tecnologiche. Riguarda direttamente chi lavora nella comunicazione, nell’informazione, nel marketing, nelle relazioni pubbliche, nelle istituzioni e nelle industrie culturali. Perché il suo oggetto reale non è una tecnologia isolata, ma la nuova infrastruttura attraverso cui contenuti, reputazioni, fonti e identità vengono prodotti, selezionati e resi visibili.

L’intelligenza artificiale è diventata un ambiente

Giovanni Boccia Artieri, componente del Comitato AGCOM, sintetizza il passaggio decisivo definendo l’IA generativa una “infrastruttura cognitiva e comunicativa”. Non si limita a rispondere alle nostre domande: partecipa alla costruzione della rilevanza pubblica, influenza i criteri con cui riconosciamo l’autorevolezza di una fonte e interviene su ciò che consideriamo credibile o degno di attenzione.
È una tesi che obbliga a superare gran parte del dibattito corrente. Concentrarsi esclusivamente sui deepfake, sulle allucinazioni o sull’obbligo di dichiarare che un testo è stato generato con l’IA significa osservare soltanto l’ultimo passaggio della filiera.
Prima del contenuto ci sono il modello, i dati utilizzati, gli obiettivi di ottimizzazione, le modalità di personalizzazione. Dopo il contenuto ci sono il ranking, il sistema di raccomandazione, il targeting pubblicitario, la moderazione e le metriche che ne favoriscono o ne limitano la circolazione.

Il Rapporto propone perciò di spostare l’attenzione dal singolo oggetto comunicativo alle “architetture della visibilità”. È lì che un contenuto sintetico può diventare socialmente pericoloso: non perché esiste, ma perché viene amplificato, reiterato, adattato e inserito in una sequenza di raccomandazioni capace di raggiungere milioni di persone.
Il rischio non è soltanto che il falso sembri vero. È anche il contrario: che qualsiasi documento autentico possa essere liquidato come artificiale. È il cosiddetto “liar’s dividend”, il dividendo del bugiardo. In un ecosistema saturo di contenuti sintetici, anche chi viene messo di fronte a una prova può negarla sostenendo che sia stata generata da una macchina.
Si entra così in una condizione di post-affidabilità: la verifica diventa più costosa della produzione, mentre la plausibilità sostituisce progressivamente la prova. Il contenuto non deve essere vero. Deve soltanto sembrare compatibile con ciò che un determinato pubblico è già disposto a credere.

Non basta un’etichetta

Una delle indicazioni più concrete del Rapporto riguarda il superamento di una concezione burocratica della trasparenza.
Scrivere “contenuto generato dall’intelligenza artificiale” non risolve automaticamente il problema. Una label può scomparire dopo un download, una compressione, uno screenshot o una ricondivisione. Può inoltre essere ignorata dagli utenti o non produrre alcuna conseguenza sul funzionamento della piattaforma.
Per essere efficace, l’etichettatura deve diventare azionabile. Deve cioè attivare qualcosa: una frizione nella condivisione, una priorità di verifica, una limitazione del targeting, una riduzione dell’amplificazione o una procedura rafforzata di moderazione.
Il Rapporto valorizza per questo gli standard di “provenance”, come C2PA, che associano ai contenuti metadati verificabili sulla loro origine e sulle trasformazioni subite. Non si tratta più soltanto di chiedersi se un’immagine sia falsa, ma di poter ricostruire da dove provenga, chi l’abbia modificata e quali passaggi abbia attraversato.
La “provenance” non è una certificazione assoluta di verità. Un contenuto autentico può essere usato in maniera ingannevole e un contenuto sintetico può avere finalità legittime. È però una componente fondamentale di quella che Boccia Artieri definisce “infrastruttura della fiducia”: un insieme di standard, procedure, responsabilità e possibilità di contestazione che rende il sistema meno opaco.
Per chi si occupa di comunicazione questa distinzione è essenziale. La fiducia non può più essere affidata soltanto alla reputazione del marchio o all’autorevolezza dichiarata della fonte. Deve essere incorporata nei processi attraverso tracciabilità, documentazione e verificabilità.

Dalla trasparenza alla contestabilità

Il Rapporto compie un altro passo importante: la trasparenza non è utile quando produce soltanto pagine di documentazione tecnica. Serve quando permette a un’autorità, a un gruppo di ricerca o a una persona danneggiata di verificare una decisione e contestarne gli effetti.

Da qui la proposta di utilizzare strumenti come le “model card” e i “datasheet for datasets”, documenti che descrivono finalità, limiti, bias conosciuti, prestazioni e condizioni di utilizzo di modelli e dataset.
Non occorre necessariamente rendere pubblico ogni segreto industriale. Occorre però produrre evidenze controllabili. Un sistema che influenza l’accesso alle informazioni, la reputazione di una persona o la visibilità di una notizia non può restare una scatola nera protetta da una generica invocazione della proprietà intellettuale.
Lo stesso vale per la misurazione. Impression, clic e interazioni non sono sufficienti per valutare un rischio comunicativo. Il Rapporto propone indicatori più pertinenti: quota di persone esposte, portata, velocità di propagazione, numero di ripubblicazioni e profondità dei percorsi di raccomandazione.
È un cambiamento culturale significativo anche per chi gestisce social media e campagne digitali. Le metriche che misurano il successo commerciale di un contenuto possono essere le stesse che ne segnalano la pericolosità sistemica. Viralità e rilevanza non sono sinonimi. E un elevato coinvolgimento può essere la manifestazione di un conflitto manipolato, di una falsificazione o di una dinamica tossica.

AGCOM non è l’autorità generale dell’IA, ma non può restarne fuori

Il Rapporto chiarisce un punto giuridicamente delicato. AGCOM non è stata designata come autorità generale di vigilanza sull’intelligenza artificiale. In Italia le competenze previste dalla normativa nazionale sono attribuite principalmente ad AgID e all’Agenzia per la cybersicurezza nazionale.
Questo non significa, tuttavia, che AGCOM sia estranea agli effetti dell’IA. Quando un modello linguistico viene integrato in una piattaforma, in un motore di ricerca, in un chatbot informativo o in un sistema di raccomandazione, può intercettare materie già sottoposte alla competenza dell’Autorità: disinformazione, tutela dei minori, pubblicità occulta, pluralismo, hate speech, diritto d’autore e protezione degli utenti.
In qualità di Digital Services Coordinator italiano, AGCOM può quindi intervenire non sull’IA in quanto tale, ma sugli effetti prodotti dal suo impiego nei servizi digitali. È una competenza indiretta, ma tutt’altro che marginale.
Questa frammentazione rende indispensabile un coordinamento strutturato tra AGCOM, AgID, ACN, Garante per la protezione dei dati personali e Autorità garante della concorrenza e del mercato. Senza protocolli operativi, notifiche reciproche e sistemi comuni di segnalazione, il rischio è costruire un mosaico di competenze in cui ogni autorità controlla una parte del fenomeno, mentre nessuna riesce a osservarne l’intero ciclo.

Il diritto d’autore resta umano

Il capitolo dedicato al diritto d’autore affronta una delle questioni più confuse del dibattito pubblico: chi è l’autore di un’opera realizzata con l’intelligenza artificiale?

La legge italiana n. 132 del 2025 ha ribadito una prospettiva antropocentrica. Possono essere protette le opere realizzate con l’ausilio di strumenti di IA, purché costituiscano il risultato del lavoro intellettuale dell’autore umano. Non è quindi lo strumento utilizzato a escludere la tutela. Conta la presenza di scelte libere, creative e riconoscibili.
Una fotografia, un testo o una composizione non perdono automaticamente tutela perché prodotti con l’assistenza di un software generativo. Ma un prompt generico non è un certificato di autorialità. Occorre poter dimostrare un apporto umano sostanziale: ideazione, selezione, direzione, modifica, composizione e controllo dell’esito finale.
Al contrario, un contenuto prodotto autonomamente dal sistema, senza un contributo creativo umano riconoscibile, resta fuori dall’attuale schema del diritto d’autore italiano.
Per agenzie, redazioni, pubbliche amministrazioni e professioni creative ne deriva una conseguenza operativa precisa: il processo deve essere documentato. Conservare versioni, istruzioni, fonti, interventi editoriali e passaggi di revisione non serve soltanto a ricostruire il lavoro. Può diventare decisivo per dimostrare la titolarità dell’opera e attribuire le responsabilità.

Il vero conflitto è nei dati di addestramento

La questione più complessa non riguarda però soltanto l’output. Riguarda ciò che è stato utilizzato per addestrare il modello.
Il quadro europeo consente, a determinate condizioni, attività di “text and data mining” su materiali ai quali si abbia accesso legittimo. La possibilità viene meno quando i titolari dei diritti abbiano espresso una riserva, il cosiddetto opt-out.
Il problema è rendere quella riserva tecnicamente leggibile e concretamente rispettata. Il Codice europeo di buone pratiche per i modelli di IA per finalità generali indica, tra le soluzioni, l’uso di crawler capaci di leggere il protocollo robots.txt e altri sistemi machine-readable per comunicare la volontà di non autorizzare l’utilizzo delle opere.
È un progresso, ma non basta. L’asimmetria resta enorme. Da una parte vi sono imprese capaci di raccogliere e processare quantità sterminate di contenuti; dall’altra autori, editori, fotografi, musicisti e piccole organizzazioni che devono individuare strumenti tecnici per rendere opponibile la propria scelta.

Inoltre, il confine tra analisi e riproduzione è tutt’altro che risolto. Il Rapporto richiama decisioni giudiziarie che distinguono tra l’estrazione temporanea di informazioni e la memorizzazione stabile di un’opera all’interno del modello, soprattutto quando parti riconoscibili vengono successivamente restituite negli output.

La questione non può essere ridotta alla contrapposizione tra innovazione e copyright. Il punto è evitare che il costo dello sviluppo tecnologico venga trasferito interamente su chi ha prodotto i materiali dai quali i modelli ricavano valore.

Che cosa cambia per chi comunica

Il Rapporto non propone una policy aziendale già pronta, ma permette di ricavarne almeno sei requisiti minimi.

1. Tracciare l’uso dell’IA, indicando modello, versione, fonti, interventi umani, modifiche e persona responsabile dell’approvazione.
2. Classificare il rischio dei contenuti, distinguendo gli usi ordinari da quelli che riguardano identità, minori, salute, informazione politica, crisi o comunicazioni di interesse pubblico.
3. Verificare input e output, controllando licenze, diritti, eventuali riserve all’uso, citazioni e rischio di riproduzione di materiali protetti.
4. Adottare sistemi di provenienza, evitando di considerare la semplice etichetta come una soluzione sufficiente.
5. Predisporre un protocollo per gli incidenti, con responsabilità, tempi di intervento, procedure di correzione, smentita e comunicazione pubblica.
6. Misurare la diffusione del rischio, non soltanto le performance del contenuto: esposizione, velocità, reiterazione e capacità di penetrare nei sistemi di raccomandazione.

Questa è anche la differenza tra una generica formazione sull’uso degli strumenti e una vera AI literacy. Non basta imparare a scrivere prompt. Occorre saper distinguere fluidità e affidabilità, riconoscere i meccanismi persuasivi, verificare le fonti e comprendere il ruolo degli algoritmi nella selezione dei contenuti.

La regolazione ha bisogno di tecnologia

La parte più ambiziosa del Rapporto riguarda la trasformazione delle autorità pubbliche. Non si possono controllare sistemi complessi, proprietari e aggiornati continuamente con strumenti amministrativi costruiti per il Novecento.
Il Comitato propone un gruppo interno composto da AI auditor, data scientist e giuristi specializzati; un Osservatorio permanente con dashboard pubbliche; strumenti di testing indipendente; accesso ai dati per la ricerca; una sandbox regolatoria e soluzioni di “supervisory technology” capaci di passare dagli audit periodici al monitoraggio continuo.
È una direzione condivisibile e necessaria. Ma deve essere accompagnata da una condizione ulteriore: la capacità pubblica non può limitarsi a verificare le autodichiarazioni delle piattaforme. Deve poter produrre conoscenza autonoma, accedere ai dati, replicare i test e contestare tecnicamente le decisioni.
Boccia Artieri osserva che l’Italia difficilmente potrà competere con Stati Uniti e Cina soltanto sulla scala computazionale, ma può contribuire a un modello europeo fondato sulla capacità di governare socialmente l’innovazione. È una prospettiva realistica e strategica.

Esiste però un rischio da evitare: diventare il continente della conformità senza possedere infrastrutture, dati e capacità tecnologiche sufficienti. Una regolazione priva di autonomia tecnica finirebbe per dipendere dalle stesse aziende che dovrebbe controllare.
Governare l’IA non significa soltanto scrivere norme migliori. Significa costruire istituzioni capaci di comprendere i modelli, ispezionare gli algoritmi, proteggere il lavoro creativo e intervenire sulla distribuzione dei contenuti.

La battaglia per la credibilità

Il Rapporto AGCOM ha il merito di riportare il dibattito sulla sua dimensione politica e sociale.
La questione non è decidere se essere favorevoli o contrari all’intelligenza artificiale. Né organizzare una sterile competizione tra creatività umana e produzione automatica.
La domanda decisiva è un’altra: chi controlla le infrastrutture attraverso cui una rappresentazione diventa visibile, credibile, remunerata e difficilmente contestabile?”
Nell’era dell’IA generativa, la fiducia non può essere considerata un sentimento spontaneo e neppure una proprietà del brand. È il risultato di processi verificabili, responsabilità attribuibili, diritti esercitabili e istituzioni capaci di intervenire.
Quando la plausibilità diventa più economica della verifica, la comunicazione non può limitarsi a produrre contenuti migliori. Deve contribuire a costruire le condizioni perché le persone possano comprenderne l’origine, valutarne l’affidabilità e contestarne gli effetti.
È questa, molto più della corsa al modello più potente, la vera infrastruttura pubblica di cui abbiamo bisogno.