Amazon-werknemers ontzet dat facial recognition sofware wordt verkocht aan politie

Een aantal Amazon-werknemers heeft namelijk de pen ter hand genomen om zo in een open brief  te eisen dat Bezos zou stoppen met het verkopen van gezichtsherkenningstechnologie aan politiediensten.  

De Amazon-werknemers verwijzen daarmee specifiek ook naar de recente gebeurtenissen aan de grens van de Verenigde Staten, en Trumps nultolerantie omtrent illegale immigratie, die er recent voor heeft gezorgd dat duizenden kinderen van hun ouders werden gescheiden.  

Ondertussen is de President bezweken onder druk van de internationale gemeenschap (well, that’s a first) en heeft hij een uitvoeringsbevel getekend dat de scheiding van ouders en kinderen aan de grens tussen de VS en Mexico beëindigt.  

Onomwonden  

De werknemers winden er in hun brief geen doekjes om: “Samen met de rest van de wereld hebben we met afschuw toegekeken wanneer de Amerikaanse autoriteiten kinderen wegrukten uit de armen van hun ouders. In het licht van dit immoreel Amerikaans beleid, en de groeiende onmenswaardige behandeling van vluchtelingen en migranten los van dit beleid, zijn we oprecht bezorgd dat Amazon hierbij betrokken is en infrastructuur en diensten aanbiedt die de ICE (immigrations and customs enforcement, nvdr) en de DHS (department of homeland security, nvdr) nog eens extra slagkracht geven.”  

Bevooroordeelde algoritmen  

De werknemers verwijzen daarbij ook naar een klimaat van groeiende militarisering van de politie waarbij Afro-Amerikaanse activisten steeds meer getarget worden en waarbij deportatie schering en inslag is.  

Het is inderdaad zo dat algoritmen geen objectieve entiteiten zijn, maar vaak zelf vooroordelen bevatten. Zo werd bewezen dat algoritmen die worden gebruikt om recidive te voorspellen bij gedetineerden, vaak bevooroordeeld zijn in het nadeel van personen van Afro-Amerikaanse origine.  

De gezichtsherkenningssoftware van Amazon zal een belangrijk toezichtsmechanisme zijn voor de regering, maar zou volgens de werknemers uiteindelijk alleen maar “schade berokkenen aan de meest gemarginaliseerde groepen in de maatschappij.” 

Werknemers niet op de hoogte 

De werknemers schreven de brief nadat een onderzoek van de ACLU (een Amerikaanse organisatie die opkomt voor de rechten en vrijheden van burgers) had aangetoond dat de technologiegigant haar gezichtsherkenningssoftware aan politiediensten doorverkocht.  

Een politiechef in Orlando heeft ondertussen al toegegeven dat de software inderdaad wordt uitgetest in hun hoofdkwartieren. Hij benadrukte wel dat de software niet wordt gebruikt voor spionagedoeleinden.  

Veel duidelijkheid brengt die verklaring echter niet, en het feit dat de eigen werknemers van Amazon niet op de hoogte waren, geeft niet meteen blijk van een open werkcultuur. Twee leden van het Amerikaans huis van Afgevaardigden hebben daarom ook details geëist over hoe de politiediensten de software nu precies gebruiken.  

Golf van activisme 

Het is niet de eerste keer dat Amazon onder druk wordt gezet omwille van haar controversiële gezichtsherkenningssoftware. Eerder drongen investeerders aan op Amazon’s stopzetting van de samenwerking met politiediensten.  

De Amazon-werknemers hebben mogelijk afgekeken bij hun collega’s van Google. Die schreven recent nog een open brief naar CEO Sundar Pichai met de vraag om de controversiële samenwerking met de Amerikaanse defensie stop te zetten.  

Pichai gaf uiteindelijk toe, en het contract met het Pentagon wordt niet meer hernieuwd in 2019. De werknemers bij Amazon hopen waarschijnlijk dat er zich een soortgelijke situatie zal voordoen.  

Ook in andere technologiefirma’s woedt een golf van activisme. Zo kreeg Microsoft onlangs nog de wind van voren van haar werknemers omwille van haar contract met de ICE.  

Hoewel Satya Nadella zich daaromtrent goed verdedigde door te zeggen dat Microsoft enkel clouddiensten als e-mail en kalenders aanbiedt, mag het duidelijk zijn dat de tijd van verticale hiërarchie in bedrijven voorgoed voorbij is. Werknemers komen nu openlijk in opstanden tegen een bedrijfsbeleid wanneer ze het daar niet mee eens zijn. En dat geldt nergens meer dan in Silicon Valley.