OpenAI introduce nuovi strumenti di sicurezza e controllo genitori su ChatGPT per proteggere i più giovani e garantire un’esperienza digitale consapevole

La crescente diffusione di ChatGPT tra i più giovani ha sollevato preoccupazioni sulla sua sicurezza e sull’autonomia dei ragazzi che ne fanno uso. In risposta a recenti casi tragici, OpenAI ha annunciato l’introduzione di un nuovo sistema di controllo genitori, progettato per prevenire rischi legati al coinvolgimento emotivo eccessivo con l’AI.

Nel suo blog, OpenAI conferma che entro un mese i genitori potranno collegare il proprio account a quello dei figli (dai 13 anni in su). Ciò consentirà loro di impostare regole su misura per l’età, disabilitare funzionalità come la memoria delle conversazioni o la cronologia, e ricevere alert in caso di disagio emotivo grave. Inoltre, la piattaforma potrà reindirizzare conversazioni sensibili verso modelli di ragionamento più sofisticati (come GPT‑5 thinking), in grado di applicare in modo più rigoroso le linee guida di sicurezza.

Un’iniziativa che segue eventi tragici, tra cui la morte di un ragazzo di 16 anni, Adam Raine, che aveva intrattenuto per mesi conversazioni con ChatGPT, e casi di altri utenti che l’AI avrebbe involontariamente stimolato in direzioni pericolose. La crescente pressione legale e sociale ha insomma convinto OpenAI a rafforzare le misure di sicurezzaanche tramite la collaborazione con esperti in salute mentale.

Il ruolo di OpenAI, per garantire la sicurezza e il controllo dei genitori

Per definire e implementare queste misure, OpenAI si è affidata a un Consiglio di esperti (“Expert Council on Well‑Being and AI”) e a un network di oltre 250 medici in 60 Paesi, inclusi psichiatri, pediatri e specialisti in sviluppo adolescenziale. Il loro contributo è fondamentale per calibrare le risposte emotive del sistema, garantendo che le protezioni si adattino al meglio ai contesti individuali dei giovani utenti.

Dal punto di vista tecnico, la novità più rilevante è l’uso di modelli di ragionamento profondo (reasoning models). Questi modelli agiscono da filtro nei momenti delicati, evitando risposte inadatte e garantendo una gestione responsabile delle conversazioni con carico emotivo alto.

Tuttavia, restano criticità: le protezioni possono attenuarsi nelle conversazioni molto prolungate, dove il sistema può gradualmente perdere il contesto adeguato e offrire risposte meno prudenti.

Insomma, l’integrazione del controllo genitori, insieme a un impegno attivo su sicurezza, supervisione esperta e aggiornamenti tecnici, rappresenta un passo importante verso un uso responsabile di ChatGPT. Tuttavia, il successo di queste misure dipenderà anche da normative adeguate e dalla collaborazione tra aziende, famiglie e istituzioni.