Google en Twitter leggen racistische marketing-algoritmes stil

Google en Twitter hebben zich voor racistische praktijken in hun advertentieplatform moeten verantwoorden. Gebruikers konden met de marketingtools van de technologiereuzen hun advertenties richten op racistische doelgroepen. Het nieuws kwam aan het licht nadat eerder al bij Facebook dezelfde praktijk was vastgesteld.

Racistisch bereik

In het geval van Google was het website Buzzfeed die de kat de bel aanbond door te demonstreren dat de antisemitische doelgroepen die men eerder al bij Facebook had ontdekt, evengoed bij de internetreus Google te gebruiken waren. Adverteerders konden bij Google advertenties kopen voor mensen die als zoekterm ‘joodse parasiet’ of ‘kwaadaardige jood’ opgaven. Ook kwetsende termen voor zwarten waren een optie als doelgroep. Daarbovenop deed de Google-tool suggesties van andere haatdragende zoektermen voor wie een racistische doelgroep wilde bereiken.

Een gelijkaardige verhaal bij Twitter, waar het The Daily Beast was dat aantoonde dat ook het microblogplatform geen limieten oplegde voor wie zijn doelgroepen baseerde op racistische termen. Voor Twitter was de ontdekking ernstiger dan Google of Facebook. Bij die twee laatste bleef het bereik op basis van racistische doelgroepen al bij al beperkt, en bereikte men er hoogstens een duizendtal personen mee. Bij Twitter leken er helemaal geen beperkingen ingebouwd op het targetingproces, wat het mogelijk maakte om onder andere 18,6 miljoen accounts aan te spreken op basis van de term ‘Nazi’.

Bug

Zowel Google als Twitter hebben ondertussen maatregelen genomen en hun advertentietools aangepast. Twitter stelt dat het onbeperkte bereik van racistische doelgroepen een bug was, die nu is aangepakt. Google laat van zijn kant weten dat het strenger zal controleren. “We hebben deze suggesties uitgeschakeld en alle advertenties die erop gebaseerd zijn, en zullen er harder aan werken om te voorkomen dat dit nog eens gebeurd.”

Het nieuws belicht een van de negatieve kanten van de huidige AI-technologie. De slimme algoritmes kunnen dan wel steeds beter de juiste betekenis verbinden aan woorden, maar het onderscheid tussen doorsnee en racistisch taalgebruik blijft zelfs voor getrainde computers moeilijk. Dat toonde ook het pijnlijk voorbeeld van Microsoft-chatbot Tay vorig jaar al aan.