Cyberbullismo, ci pensa l’Intelligenza Artificiale a valutare tutti i rischi: finalmente sarà tutto più sicuro

La tecnologia diventa un alleato prezioso nella creazione di spazi online più sicuri e accoglienti per tutti.

Il cyberbullismo è da tempo come uno dei problemi più diffusi nella nostra società digitale, una situazione che può colpire individui di tutte le età, ma in particolare i più giovani. La natura profondamente intrusiva del web e dei social media nella nostra privacy ha ampliato la portata di queste azioni nocive, rendendo più difficile per le vittime sfuggire alla persecuzione online. Questa forma di bullismo si manifesta in svariati modi, dall’invio di messaggi minacciosi alla diffusione di pettegolezzi online, tutte azioni che creano un ambiente tossico con conseguenze devastanti sul benessere psicologico delle persone.

Di fronte a questa sfida crescente, è diventato fondamentale per le istituzioni trovare soluzioni per proteggere gli individui e promuovere un ambiente digitale sicuro. La tecnologia, che da un lato ha facilitato l’ascesa del cyberbullismo, dall’altro offre oggi anche le chiavi per combatterlo. La recente introduzione dell’Intelligenza Artificiale nel campo della sicurezza online, poi, dà modo di compiere un passo avanti significativo verso la prevenzione e la gestione di questo fenomeno.

Un progetto ambizioso per un futuro digitale più sicuro per tutti

Il progetto “Net Guardian”, sviluppato dall’Università di Padova in collaborazione con la Fondazione Carolina Onlus e finanziato dalla Fondazione Tim, è un esempio lampante di come l’innovazione tecnologica possa essere impiegata nella lotta al cyberbullismo. Con un finanziamento di 230.000 euro, “Net Guardian” mira a implementare un’app basata sull’IA che può valutare i rischi di violenza online nelle conversazioni digitali. Se le sue potenzialità saranno confermate, potrebbe trasformarsi in un potente strumento a disposizione di studenti, istituzioni scolastiche e associazioni.

Questa applicazione si avvale di algoritmi di apprendimento automatico, in particolare del modello di deep learning “Bert” sviluppato da Google, per analizzare le conversazioni digitali e identificare i potenziali rischi di cyberbullismo. Una volta fornita una conversazione, il sistema classifica il linguaggio aggressivo su una scala da 1 a 10. Questo approccio facilita la rilevazione precoce del bullismo online ma anche la sua gestione, fornendo una guida agli utenti su come reagire di fronte a diverse situazioni di rischio.

Gian Piero Turchi, coordinatore del progetto, spiega che l’applicazione può inoltre guidare gli utenti attraverso differenti livelli di rischio. Per esempio, in caso di rischio basso (valori tra 1 e 3), l’applicazione incoraggia l’utente a monitorare e segnalare ulteriori conversazioni. Per rischi medi (valori tra 4 e 7), suggerisce di cercare supporto da servizi locali, mentre nelle situazione di rischio elevato (valori superiori a 7), l’utente viene informato che verrà contattato da un team specializzato in interventi contro il cyberbullismo.

Il progetto è inoltre sviluppato in collaborazione con la Fondazione Carolina, dedicata alla memoria di Carolina Picchio, la prima vittima riconosciuta di cyberbullismo in Italia.