Amazon, Google og Wish har fjernet racistiske produkter efter en undersøgelse afsløret sådanne lister på deres platforme.
Blandt de produkter, der var til salg, var hvide supremacistiske flag, nynazistiske bøger og Ku Klux Klan-genstande, ifølge en undersøgelse foretaget af BBC Click.
Algoritmerne fra Amazon og Wish udstedte også anbefalinger til andre hvid-supremacistiske varer, som blev kaldt af tænketank Demos for at skubbe online-shoppere mod racistiske produkter.
"Det kræver ofte menneskelig efterforskning at finde ud af, at folk bliver ført ned ad denne vej," sagde Demos 'tekniske teknisk officer og seniorforsker Josh Smith til BBC.
"De pågældende produkter er ikke længere tilgængelige, og vi har handlet mod de dårlige aktører, der tilbød produkterne og overtrådte vores politikker," sagde Amazon til BBC, mens Google sagde, at det ikke tillader annoncer eller produkter, der "viser chokerende indhold eller fremme had. ”
“Wish forbyder strengt opførelsen af produkter, der glorificerer eller støtter had mod andre. Vi arbejder hårdt på at fjerne disse emner og tager yderligere skridt for at forhindre, at sådanne emner vises igen, ”sagde en talsmand til Digital Trends. "Vi opfordrer offentligheden til at rapportere eventuelle stødende eller upassende lister til [email protected]."
Digital Trends har også nået ud til Amazon og Google for yderligere kommentarer til efterforskningen og for information om, hvordan de vil forhindre, at racistiske produkter vises igen på deres platforme. Vi opdaterer denne artikel, så snart vi hører tilbage.
Teknologi mod racisme
X. Eyeé, opsøgende leder for ansvarlig innovation hos Google, og Angela Williams, policy manager hos Google, rejste bekymring på (Not IRL) Pride Summit om, at skævhed i A.I. algoritmer forstærker racisme og skader allerede marginaliserede samfund ikke kun i USA, men overalt i verden.
Big Tech har midlerne til at tackle systemisk racisme, men virksomhederne har hidtil ikke været i stand til at presse på for konkrete ændringer.
Opdateret 27. juli 2020: Tilføjet erklæring fra Wish-talsmand.
