Pregiudizi
Un algoritmo di Facebook ha chiesto agli utenti se volevano vedere altri “video di primati” dopo aver consultato un filmato che mostrava persone di colore.
La notizia è stata riportata dal New York Times che smaschera il “colpevole”: un video di un tabloid britannico dal titolo “L’uomo bianco chiama i poliziotti contro gli uomini di colore al porto turistico”.
Nessun riferimento a scimmie o gorilla dunque, eppure l’algoritmo di Fb ha pensato di suggerire, a chi aveva guardato questo post, immagini relative ai primati.
Il social è corso subito ai ripari avviando un’indagine interna e disabilitando l’algoritmo. Un portavoce ha definito l’errore “inaccettabile” e ha assicurato che si sta facendo il possibile perché questo “non succeda di nuovo”.
Non si tratta tuttavia di un caso isolato: da anni i sistemi di intelligenza artificiale delle grandi società tecnologiche, da Facebook a Google a Amazon, sono sotto osservazione in particolare per i pregiudizi sulla questione di razza.