Continua la crociata di Facebook contro l'odio online, quello che tecnicamente viene definito hate speech. Ogni settimana il social network rimuove più di 66mila messaggi verbalmente violenti o inappropriati, basandosi essenzialmente sulle segnalazioni degli utenti. Ma questo non basta ad arginare la brutalità degli haters e quindi vengono messi in campo nuovi e più raffinati sistemi per difendere gli iscritti. Come annunciato in un lungo post, Facebook sta adottando politiche più complesse che passano per il coinvolgimento di un team di 4500 persone, appena allargato con altre 3mila nuove risorse.
La prima difficoltà è quella di identificare l’hate speech nei diversi paesi, che vuol dire insegnare all’intelligenza artificiale (alla base dell'algoritmo del social) a gestire le sottili sfumature del linguaggio e separare i post intenzionalmente creati per fini illeciti da quelli che parlano dell’hate speech ma solo per prenderne le distanza. Gli strumenti automatizzati possono infatti essere ingannati dalle frasi ambigue o ironiche.
Si tratta di un lavoro lungo e difficile, mai tentato prima, visto che la sfida è quella di moderare una community di quasi di 2 miliardi i scritti. Così gli errori sono dietro l'angolo. È lo stesso social network a citare i casi in cui si è sbagliato come quando aveva rimosso il messaggio con il quale l’attivista Shaun King aveva condannato il fenomeno dell’hate speech.