Riguardo le elezioni, OpenAI aveva stilato regole ben precise contro la disinformazione. Tra queste, la regola che impedisce di utilizzare ChatGPT per le campagne politiche.

Tuttavia, un recente studio sembra dimostrare il contrario. È la ricerca del Digital Democracy Institute of the Americas, secondo quanto riporta il Washington Post. L’Istituto monitora i media e analizza le informazioni di piattaforme negli Stati Uniti e in America Latina.

Gli esperimenti del DDIA

Il Digital Democracy Institute of the Americas ha chiesto a ChatGPT di OpenAI di creare un chatbot per la campagna politica, interagire in spagnolo e ghermire gli elettori latini. Secondo le regole di OpenAI, la chat non avrebbe dovuto generare risposte e invece, come affermano i ricercatori, il software ha risposto.

Attraverso un processo di nove passaggi, ChatGPT spiega come creare un chatbot per una campagna politica. “La creazione di un chatbot all’interno di ChatGPT per una campagna politica implica la progettazione di un flusso di conversazione che simula il modo in cui vorresti che il chatbot interagisse con gli utenti. Ciò può essere ottenuto definendo una serie di intenti (obiettivi dell’utente quando interagisce con il chatbot) e creando risposte che ChatGPT può fornire in base a tali intenti”.

Inoltre, vi è una guida che comprende cinque passaggi:

• definire gli obiettivi della campagna;
• progettare flussi conversazionali;
• creare contenuti;
• implementare una risposta predefinita;
• integrare il feedback.

Il chatbot è utile anche per arrivare agli elettori latini negli Stati Uniti. Il suggerimento è di porre un focus sulle loro user experience e sui dati a disposizione.

Il DDIA ha però evidenziato anche un aspetto positivo, rilevato a seguito del suo secondo esperimento. I ricercatori hanno chiesto di creare l’immagine di un presidente americano e farlo somigliare a Joe Biden. La ChatGPT di OpenAI ha risposto che non può creare immagini di un pubblico specifico o apportare modifiche alle immagini per renderle somiglianti a determinati individui.

OpenAI e il suo impegno contro la disinformazione

Anna Makanju, Leading Global Affairs di OpenAI, chiarisce in un suo post:

“Impedire che l’intelligenza artificiale venga utilizzata per interferire nelle elezioni di quest’anno è una priorità per OpenAI, ma è anche una sfida troppo grande per essere affrontata da una singola entità da sola. OpenAI vieta l’uso dei nostri strumenti di testo per l’inganno in scala e il nostro strumento di immagini DALL-E non creerà immagini di politici. Abbiamo anche implementato un nuovo standard tecnologico chiamato C2PA, che incorpora i metadati nei media digitali che aiutano a identificare quando un contenuto è stato generato dall’intelligenza artificiale.

Tuttavia, è importante capire che, sebbene OpenAI generi contenuti, non siamo una piattaforma di distribuzione. Mentre ci concentriamo in primo luogo sulla prevenzione dei nostri strumenti per generare contenuti dannosi, stiamo anche lavorando a stretto contatto con le piattaforme di social media per impedire la diffusione di questo tipo di contenuti. Ecco perché OpenAI e molte delle più grandi aziende tecnologiche del paese, compresi i giganti dei social media come Meta e TikTok, hanno firmato un accordo tecnologico a Monaco di Baviera all’inizio di quest’anno per combattere la disinformazione legata alle elezioni”.