Trieste è il primo comune italiano ad adottare Kaitiaki, un software online in grado di riconoscere linguaggi ostili e segnalare i possibili pericoli della rete. Il nome dell’applicazione, particolarmente evocativo (in lingua maori significa “guardiano”), ne richiama le principali caratteristiche.

Presto in uso nei Ricreatori comunali triestini, Kaitiki è stato sviluppato da una start-up della Regione e utilizza le tecnologie innovative dell’intelligenza artificiale per fornire l’elemento mancante nelle attività di prevenzione: l’allarme in tempo reale. Chiara la vocazione del sistema come strumento di lotta al cyberbullismo, in grado di segnalare l’uso di un linguaggio o di immagini associabili all’aggressività o alle molestie sul web.

L’utilizzo dell’applicazione prevede la mediazione da parte di educatori (insegnanti, psicologi, sociologi, animatori…) chiamati ad interagire con l’interfaccia web e a stimolare la discussione tra i ragazzi.

Il software può essere utilizzato in due modi. Nel primo i giovani propongono una serie di frasi che pensano essere più o meno connesse ad eventi di cyberbullismo o hate-speech dando loro una catalogazione. L’educatore le inserisce nel sistema è ottiene un report di convalida: positivo o aggressivo. Nel secondo, si può chiedere al sistema di generare una serie di frasi casuali e assegnare ai ragazzi il compito di catalogarle per ottenere, anche in questo caso, una convalida.

In entrambi i casi il sistema lavora sulla codifica delle frasi e delle parole che i ragazzi utilizzano sui social, individuandole come pericolose o meno.

Più in generale, Kaitiaki:

• comprende il testo e riconosce schemi di comportamento a rischio ed anomalie nei profili;
• analizza immagini e video, individua nudità, frasi inappropriate, altri elementi di rischio;
• apprende nuovi modelli di comportamento utili per la soluzione di nuovi casi.

“Questo nuovo software – ha detto l’assessore Angela Brandi in occasione della conferenza stampa, del 21 novembre scorso, nella sala giunta del Comune di Trieste – sarà messo a disposizione, gratuitamente, nei Ricreatori comunali per favorire occasioni di confronto tra ragazzi ed educatori sul tema del cyberbullismo. Rappresenta un ulteriore aiuto per rendere consapevoli e partecipi i giovani del significato e delle conseguenze di ciò che scrivono online”.