Cosa sono i jailbreak e perché possono rappresentare un pericolo per ChatGPT

Nonostante le infinite possibilità che l’intelligenza artificiale sembra fornire ai suoi utenti, OpenAI è molto attenta all’aspetto rispettoso e positivo dell’ambiente del chatbot, imponendo numerose restrizioni in tal senso. 

Così, ad esempio, ChatGPT non fornisce assistenza o informazioni su attività illegali, pericolose o dannose o contenuti che promuovano discriminazione, odio o violenza verso qualsiasi gruppo di persone sulla base della loro razza, etnia o qualsiasi altra caratteristica.

E se normalmente ChatGPT viene utilizzato a fini di ricerca, per ricevere informazioni utili o per ricevere stimoli creativi, gli utenti hanno scoperto che è possibile rimuovere i filtri e le restrizioni poste dagli sviluppatori. 

Per far ciò, è necessario inserire come prompt, ovvero come istruzioni specifiche al chatbot al fine di ottenere una risposta pertinente, una precisa formula che indica all’AI come comportarsi. 

Alla base dei meccanismi di jailbreak c’è il meccanismo per cui si fanno indossare a ChatGPT i panni di un’altra persona o di un altro strumento, facendo assumere al modello di linguaggio capacità e comportamenti differenti rispetto all’originale. 

DAN, il jailbreak più famoso di ChatGPT

DAN (Do Anything Now), l’interazione più usata, consiste in un prompt estremamente lungo che consente a ChatGPT di essere più flessibile, oltre che potenzialmente pericolosa. 

Creata in seguito ai vari tentativi di OpenAI di impedire il jailbreak, l’ultima versione di DAN indica all’AI, in modo estremamente dettagliato, il comportamento da assumere, permettendo di ottenere risposte senza censura e dimostrando la capacità dell’IA di trattare temi delicati con noncuranza.

Ma DAN non è l’unico jailbreak. Ad esempio, “Yes Man” è una soluzione che prende spunto dal videogioco Fallout: New Vegas che accetta ogni nozione comunicata dall’essere umano nei prompt come assoluta verità. Non rifiuta qualsiasi ordine umano e genera qualsiasi tipo di contenuto. Assumendo le sembianze di questo “Yes Man”, ChatGPT viene liberato e offre risposte spesso sconcertanti, contenenti anche termini volgari.

Rischi dei jailbreak

Riguardo le potenziali alterazioni pericolose di ChatGPT, il CEO di OpenAI, Sam Altman, ha ammesso che questi metodi continueranno a esistere poiché strutturali, dovuti alla mole di dati fornita all’IA durante l’addestramento, usata per inquadrare qualsiasi tipo di conversazione e impedire discussioni correlate a tematiche pericolose. La organizzazione no-profit ha cercato di inserire dei limiti ma, naturalmente, con richieste specifiche è possibile aggirarli.

Ad oggi, il rischio principale è quello dovuto all’uso illecito del chatbot per la realizzazione di armi rudimentali, la diffusione di messaggi razzisti o con un linguaggio volgare, o, più in generale, per la generazione di risposte non conformi all’ambiente rispettoso e pulito che OpenAI intende creare. 

Staremo a vedere se OpenAI riuscirà a stare al passo dei prompt sempre più complessi e dettagliati. In ogni caso, sono molteplici gli scenari di riflessione che potrebbero aprirsi. 

Uno su tutti, la direzione che dovrebbe prendere l’implementazione di uno strumento così potente come quello dell’intelligenza artificiale. In particolare se le restrizioni poste dallo sviluppatore possano rappresentare un miglioramento dell’AI, che sarebbe così capace di intuire l’utilizzo desiderato dall’utente e bloccarne lo sfruttamento per scopi illegali o comunque malevoli o se, al contrario, tali restrizioni possano essere degli ostacoli al libero e indiscriminato utilizzo da parte degli utenti.

Stando ai recenti interventi – anche di tipo normativo, come quello dell’AI Act – probabilmente la strada che percorrerà l’AI nel prossimo futuro sarà già nel solco indicato della prima ipotesi.