Un aggiornamento su come stiamo attuando i nostri standard comunitari

0
28

Di Guy Rosen, VP Integrity

Oggi pubblichiamo il nostro terzo rapporto di applicazione delle norme comunitarie, che copre il quarto trimestre del 2018 e il primo trimestre del 2019. Questo rapporto aggiunge alcuni punti dati aggiuntivi:

Novità nella terza edizione

  • Dati su ricorsi e contenuti ripristinati: Per la prima volta, includiamo la quantità di contenuti che le persone hanno fatto appello e la quantità di contenuti ripristinata dopo l'iniziale azione.
  • Dati su merci regolamentate: Oltre alle otto aree politiche trattate nella seconda edizione del rapporto (novembre 2018), ora descriviamo come stiamo procedendo alla rimozione dei tentativi di vendita illecita di beni regolamentati – in particolare, le vendite di armi da fuoco e farmaci.

In totale, ora includiamo le metriche su nove criteri all'interno dei nostri standard comunitari: nudità degli adulti e attività sessuale, bullismo e molestie, nudità infantile e sfruttamento sessuale dei bambini, account falsi, discorsi di incitamento all'odio, prodotti regolamentati, spam, propaganda terroristica globale e violenza e contenuto grafico.

Come dare un senso ai numeri

Le metriche chiave del nostro rapporto, che insieme tengono traccia di come stiamo facendo per far rispettare i nostri standard comunitari, sono:

Prevalenza: La frequenza con cui è stato visualizzato il contenuto che viola i nostri standard comunitari. Ci preoccupiamo di più di quanto spesso i contenuti che violano le nostre norme siano visti da qualcuno. Mentre contenuto attivato descrive quante cose abbiamo abbattuto, prevalenza descrive quanto non abbiamo ancora identificato e le persone possono ancora vedere. Lo misuriamo campionando periodicamente i contenuti visualizzati su Facebook e poi rivedendoli per vedere quale percentuale viola i nostri standard.

Questa metrica è attualmente disponibile per la nudità degli adulti e l'attività sessuale, per la violenza e il contenuto grafico e per gli account falsi:

  • Abbiamo stimato che ogni 10.000 volte le persone hanno visualizzato contenuti su Facebook, da 11 a 14 visualizzazioni contenevano contenuti che violavano la nostra politica di nudità e attività sessuale per adulti.
  • Abbiamo stimato che ogni 10.000 volte le persone hanno visualizzato contenuti su Facebook, 25 visualizzazioni contenevano contenuti che violavano la nostra politica sui contenuti violenti e grafici.
  • Per gli account falsi, abbiamo stimato che il 5% degli account attivi mensili è falso.

In questo rapporto, condividiamo anche una metrica di prevalenza per il terrorismo globale e per la nudità infantile e lo sfruttamento sessuale per la prima volta. La prevalenza per entrambe le aree è troppo bassa per misurare usando i nostri meccanismi standard, ma siamo in grado di stimare che nel primo trimestre del 2019, per ogni 10.000 volte le persone hanno visualizzato contenuti su Facebook, meno di tre viste contenevano contenuti che violavano ciascuna politica.

Continuiamo a sviluppare metriche di prevalenza per le aree politiche che includiamo nel rapporto. Puoi imparare di più su come misuriamo la prevalenza Qui.

Contenuto attivato: Quanti contenuti abbiamo intrapreso perché ha violato i nostri standard comunitari. Le nostre azioni comprendono la rimozione del contenuto, l'applicazione di una schermata di avviso al contenuto o la disattivazione degli account. Questa metrica riflette la quantità di contenuti che le persone postano che violano le nostre norme e in che modo possiamo identificarla.

Per gli account falsi, la quantità di account che abbiamo intrapreso è aumentata a causa di attacchi automatici da parte di cattivi attori che tentano di creare grandi volumi di account contemporaneamente. Abbiamo disattivato 1,2 miliardi di account nel quarto trimestre 2018 e 2,19 miliardi nel primo trimestre 2019. Continueremo a trovare altri modi per contrastare i tentativi di violare le nostre politiche e Alex Schultz spiega di più su come affrontiamo gli account falsi in un blog di domande difficili. condiviso oggi

Tasso proattivo: Del contenuto su cui abbiamo agito, quanto è stato rilevato dai nostri sistemi prima che qualcuno ce lo segnalasse. Questa metrica riflette in genere l'efficacia dell'IA in una particolare area politica.

In sei delle aree politiche che includiamo in questo rapporto, abbiamo rilevato in modo proattivo oltre il 95% dei contenuti su cui abbiamo agito prima di aver bisogno che qualcuno lo segnalasse. Per i discorsi di incitamento all'odio, ora rileviamo il 65% dei contenuti che rimuoviamo, in aumento rispetto al 24% di poco più di un anno fa, quando abbiamo inizialmente condiviso i nostri sforzi. Nel primo trimestre del 2019, abbiamo rimosso 4 milioni di postazioni di discorsi di incitamento all'odio e continuiamo a investire in tecnologia per espandere le nostre capacità di rilevare questi contenuti in diverse lingue e regioni.

Nuovo questo rapporto: Appello e correzione dei nostri errori

Quando interveniamo su un contenuto, informiamo la persona che lo ha pubblicato e nella maggior parte dei casi offre loro la possibilità di dirci se pensano che abbiamo commesso un errore. Nella terza edizione del rapporto, abbiamo iniziato a pubblicare i dati su quanto i contenuti hanno attratto le persone e sulla quantità di contenuti ripristinati dopo l'iniziale azione.

La nostra applicazione non è perfetta e non appena individuiamo un errore, lavoriamo per risolverlo. Ecco perché stiamo includendo la quantità di contenuti ripristinati dopo che è stato presentato ricorso e la quantità di contenuti che abbiamo ripristinato da soli, anche se i contenuti non sono stati direttamente interessati. Ripristiniamo i contenuti senza ricorso per alcuni motivi, tra cui:

  • Quando abbiamo commesso un errore nella rimozione di più post dello stesso contenuto, possiamo utilizzare il ricorso di una persona per decidere di ripristinare tutti i post.
  • A volte identifichiamo un errore nella nostra recensione e ripristiniamo il contenuto prima che la persona che lo ha pubblicato faccia appello.
  • Altre volte, in particolare nei casi di spam, quando rimuoviamo post contenenti link identificati come dannosi, possiamo ripristinare i post se impariamo che il collegamento non è più dannoso.

Stiamo includendo queste informazioni per il Q1 2019 in ogni area di policy nel report tranne che per account falsi:

* A causa dell'arrotondamento, la quantità di contenuti ripristinati dopo l'appello e senza ricorso potrebbe non corrispondere esattamente alla quantità totale di contenuti ripristinati.

La quantità di contenuti richiamati in un trimestre non può essere confrontata direttamente con la quantità di contenuti ripristinata entro quel trimestre, poiché il contenuto ripristinato nel primo trimestre del 2019 potrebbe essere stato oggetto di ricorso nel quarto trimestre 2018. Analogamente, la quantità di contenuti appellati nel Q1 2019 potrebbe essere stata applicata in Q4 2018.

Puoi imparare di più su come funziona il processo di ricorso Qui.

Nuovo questo rapporto: Dati su merci regolamentate

Abbiamo politiche di lunga data contro le vendite di droghe e armi illecite. Per anni abbiamo utilizzato una serie di approcci per applicare la nostra politica, ad esempio: indagini su profili, pagine, gruppi, hashtag e account associati alla violazione dei contenuti che abbiamo già rimosso; bloccare e filtrare centinaia di termini associati alle vendite di farmaci; e lavorare con esperti per rimanere aggiornati sulle ultime tattiche che i cattivi attori usano per mascherare la loro attività, come i nuovi nomi di strada per i farmaci.

Nell'estate del 2018, abbiamo iniziato a provare a utilizzare l'intelligenza artificiale per identificare contenuti che violano le nostre politiche sulle merci regolamentate. Questo investimento ci ha permesso di agire su più contenuti e, nella maggior parte dei casi, di farlo prima che le persone abbiano bisogno di segnalarcelo. Nel primo trimestre del 2019, abbiamo intrapreso azioni su circa 900.000 contenuti di vendita di farmaci, di cui l'83,3% rilevato in modo proattivo. Nello stesso periodo, abbiamo intrapreso azioni su circa 670.000 pezzi di contenuto di vendita di armi da fuoco, di cui il 69,9% abbiamo rilevato in modo proattivo.

Catturando in modo proattivo più post di violazione, questa tecnologia consente al nostro team di concentrarsi sull'individuazione delle prossime tendenze su come i cattivi attori cercano di ignorare il nostro rilevamento.

Il nostro impegno per la trasparenza

Nell'ultimo anno, abbiamo adottato una serie di misure per essere più trasparenti nel modo in cui sviluppiamo le nostre politiche e in che modo misuriamo i nostri sforzi per farle rispettare. Quando si tratta delle nostre politiche, abbiamo iniziato a condividere i verbali della riunione dal nostro incontro bisettimanale dove determiniamo gli aggiornamenti delle nostre politiche e ora forniamo un registro delle modifiche sul sito Web degli standard della community in modo che ogni mese tutti possano vedere esattamente dove abbiamo apportato aggiornamenti alle nostre norme. Inoltre, come parte dei nostri sforzi per consentire la ricerca accademica, stiamo assegnando borse di studio per 19 proposte di ricerca in tutto il mondo per studiare le nostre norme sui contenuti e in che modo il contenuto online influenza gli eventi offline.

Revisione e input esterni indipendenti sono parte integrante del modo in cui miglioriamo. In tale spirito, abbiamo istituito il gruppo DTAG (Data Transparency Advisory Group), composto da esperti internazionali in misurazione, statistica, criminologia e governance, per fornire una valutazione pubblica indipendente del fatto che le metriche che condividiamo nella relazione sull'applicazione delle norme comunitarie siano significativo e preciso. Abbiamo fornito al gruppo consultivo informazioni dettagliate e riservate sui nostri processi di applicazione e metodologie di misurazione e questa settimana hanno pubblicato la loro valutazione indipendente. Nella sua valutazione, il gruppo consultivo ha osservato che la relazione sull'applicazione delle norme comunitarie costituisce un importante esercizio di trasparenza e che hanno trovato il nostro approccio e la nostra metodologia sane e ragionevoli. Hanno anche evidenziato altri settori in cui potremmo essere più aperti al fine di creare maggiore responsabilità e reattività nei confronti delle persone che utilizzano la nostra piattaforma. Questi importanti approfondimenti aiuteranno a informare il nostro lavoro futuro.

Continueremo a portare maggiore trasparenza nel nostro lavoro e includeremo maggiori informazioni sui nostri sforzi affinché le persone possano vedere i nostri progressi e ritenerci responsabili di dove dobbiamo fare di più.

Puoi leggere il rapporto completo Quie trova la guida Qui.

LEAVE A REPLY

Please enter your comment!
Please enter your name here