Facebook contro l’odio: il 97% dei contenuti offensivi fermati dall’intelligenza artificiale

L’articolo evidenzia i progressi compiuti da Facebook nel contrasto ai contenuti d’odio grazie all’impiego sempre più avanzato dell’intelligenza artificiale. Secondo i dati emersi dal report sugli Standard della community, il 97% dei contenuti di hate speech rimossi dalla piattaforma viene oggi individuato automaticamente dai sistemi di AI, spesso prima ancora che gli utenti li segnalino.

Si tratta di un miglioramento significativo rispetto agli anni precedenti: la percentuale era pari al 94% nel trimestre precedente, all’80,5% nel 2019 e appena al 24% nel 2017. Questo dimostra un’evoluzione rapida e costante degli strumenti tecnologici adottati dall’azienda per monitorare e moderare i contenuti.

Progressi rilevanti si registrano anche in altri ambiti sensibili, come bullismo e molestie, dove l’individuazione automatica dei contenuti problematici è cresciuta sensibilmente sia su Facebook sia su Instagram, grazie a sistemi sempre più sofisticati e capaci di operare in più lingue.

Nonostante i risultati, l’azienda sottolinea che il lavoro umano resta essenziale per la revisione dei contenuti più complessi e delicati. La pandemia ha inoltre rallentato temporaneamente le attività di moderazione, imponendo una priorità sui contenuti più pericolosi, come quelli legati all’autolesionismo.

Nel complesso, il quadro evidenzia un crescente ruolo dell’intelligenza artificiale nella gestione dei social network, pur mantenendo un equilibrio necessario con il controllo umano.