Amazon, Google og Wish har tatt ned rasistiske produkter etter at en etterforskning avdekket slike oppføringer på deres plattformer.
Blant produktene som var til salgs var hvite supremacistiske flagg, nynazistiske bøker og Ku Klux Klan-gjenstander, ifølge en etterforskning fra BBC Click.
Algoritmene til Amazon og Wish ga også anbefalinger om andre hvite supremacistiske varer, som ble kalt ut av tenketank Demos for å presse online-kunder mot rasistiske produkter.
"Det kreves ofte menneskelig etterforskning for å finne ut at folk blir ført ned på denne veien," sa Demos teknisk sjef og seniorforsker Josh Smith til BBC.
"Produktene det er snakk om er ikke lenger tilgjengelige, og vi har tatt affære mot de dårlige aktørene som tilbød produktene og brøt våre retningslinjer," sa Amazon til BBC, mens Google sa at det ikke tillater annonser eller produkter som "viser sjokkerende innhold. eller fremme hat. ”
“Wish strengt forbyr oppføring av produkter som forherliger eller støtter hat mot andre. Vi jobber hardt for å fjerne disse elementene og tar ytterligere tiltak for å forhindre at slike gjenstander vises igjen, sier en talsperson til Digital Trends. "Vi oppfordrer publikum til å rapportere støtende eller upassende oppføringer til [email protected]."
Digital Trends har også nådd ut til Amazon og Google for ytterligere kommentarer til etterforskningen, og for informasjon om hvordan de vil forhindre rasistiske produkter i å dukke opp igjen på plattformene sine. Vi oppdaterer denne artikkelen så snart vi hører tilbake.
Teknologi mot rasisme
X. Eyeé, oppsøkende leder for ansvarlig innovasjon hos Google, og Angela Williams, policyansvarlig i Google, ga bekymringer på (Not IRL) Pride Summit som skjevhet i A.I. algoritmer forsterker rasisme, og skader allerede marginaliserte samfunn, ikke bare i USA, men over hele verden.
Big Tech har midler til å ta opp systemisk rasisme, men selskapene har hittil ikke lyktes i å presse på for konkret endring.
Oppdatert 27. juli 2020: Lagt til uttalelse fra Wish-talsperson.
