Facebook ha identificato alcune parti della Dichiarazione di Indipendenza come contenuto discriminatorio.

Quando Facebook ha eliminato un discorso d’odio dalla sua piattaforma, ha generato sorpresa perché il contenuto faceva parte della Dichiarazione di Indipendenza.

Un giornale del Texas, The Liberty County Vindicator, stava semplificando un documento storico in “bocconi più piccoli” per renderlo più accessibile ai lettori in vista del 4 luglio. Tutto procedeva bene fino a quando è stato raggiunto il decimo punto del giornale, che conteneva una citazione di Thomas Jefferson riguardante gli abusi del re Giorgio III sulle colonie.

Ha suscitato rivolte interne tra di noi e ha cercato di convincere i nostri confinanti, i crudeli indiani selvaggi, noti per la loro guerra spietata che porta alla distruzione indiscriminata di persone di tutte le età, sessi e condizioni.

Mentre Facebook non ha spiegato la ragione precisa per cui ha eliminato il post, il Vindicator ha constatato che la frase “spietati selvaggi indiani” è stata individuata dai filtri della piattaforma.

Il CEO del Vindicator, Casey Stinnett, ha dichiarato che la cancellazione del post è stata effettuata automaticamente e che se fosse stato valutato da un essere umano su Facebook, probabilmente il post sarebbe stato autorizzato.

Ha dichiarato che ha provato a contattare Facebook per chiedere spiegazioni o per avere la possibilità di ricorrere contro la rimozione del post, ma sembra che le persone di Facebook non siano disponibili a essere contattate da chiunque. O, almeno, non lo agevolano.

Alla fine, il problema è stato risolto quando Facebook ha ripristinato il contenuto e ha riconosciuto di aver commesso un errore nel rimuovere un post che non violava le regole della comunità. Successivamente, ha dichiarato alla CNN che gestiscono milioni di segnalazioni ogni settimana e che talvolta commettono errori.

Il Vindicatore sembrava poco consapevole della situazione.

Il testo potrebbe essere parafrasato così: “Non abbiamo mai pensato che Facebook non sarebbe riuscito a risolvere il problema, ma allo stesso tempo non vedevamo l’ora di dedicarci un po’ a discuterne,” ha dichiarato Stinnett.

Senza dubbio, l’incidente suscita interrogativi riguardo alla divulgazione di documenti storici contenenti contenuti offensivi. L’espressione “Indian Savages” è del tutto inaccettabile. Tuttavia, è importante per gli americani confrontarsi con le convinzioni razziste dei loro antenati fondatori e comprendere come queste abbiano contribuito a tragedie come l’allontanamento dei nativi americani dalle loro terre, stimolato dall’acquisto della Louisiana da parte di Thomas Jefferson nel 1803.

Quella sottigliezza non è rilevante sui computer. Nel 2019, Facebook ha promesso di reclutare numerosi moderatori umani per individuare annunci e video problematici. Tuttavia, come evidenziato da questo episodio, gestire i contenuti di 2,2 miliardi di utenti attivi mensilmente è un compito impegnativo.

Argomenti di discussione su Facebook.

Keith Wagstaff è un assistente editor presso Mashable e un giocatore non troppo abile di Settlers del Catan. Ha contribuito con articoli per TIME, The Wall Street Journal Magazine, NBC News, The Village Voice, VICE, GQ, e New York Magazine, insieme ad altre pubblicazioni rispettabili e meno conosciute. Dopo quasi dieci anni a New York, attualmente risiede nella sua città natale, Los Angeles.