Microsoft werkt aan detectietool voor partijdige AI-algoritmen
Microsoft werkt aan een tool om bevooroordeelde AI-algoritmen snel en efficiënt te detecteren. Technologiebedrijven verkopen namelijk steeds meer machine learning technologieën die meestal ook via een cloud worden geraadpleegd. Consumenten maken gebruik van deze AI-algoritmen om vaak ook belangrijke beslissingen te nemen. Daarom is het cruciaal dat vooroordelen op basis van afkomst, geslacht of leeftijd er in een vroeg stadium van de technologie worden uitgefilterd, anders bestaat het risico dat die vooroordelen op grote schaal geautomatiseerd zouden worden.
Niet de Heilige Graal
Rich Caruna, senior researcher bij Microsoft, is een van de drijvende krachten achter het bias-detecting dashboard. Hij zegt dat het dashboard wel de meeste gevallen van onrechtvaardigheid zal kunnen opvangen, maar niet allemaal. “Perfectie kunnen we uiteraard niet verwachten – er zullen altijd vooroordelen zijn die onder de radar blijven en die niet geëlimineerd kunnen worden – het doel is echter om ze zo veel mogelijk te detecteren en te elimineren.” Caruna pleit er trouwens voor dat technologiebedrijven hun werknemers meegeven dat kunstmatige intelligentie niet de Heilige Graal is.
Fairness Flow
Op 2 Mei kondigde Facebook op de jaarlijkse developer conference trouwens ook haar eigen detectietool aan, genaamd “Fairness Flow”. De applicatie brengt je er automatisch van op de hoogte wanneer Facebook een onterecht oordeel velt over iemand op basis van dienst afkomst, geslacht of leeftijd. Bin Yu, professor aan Berkeley, en gespecialiseerd in machine learning, kijkt sceptisch naar de ontwikkelingen, en vindt dat grote bedrijven experts van buitenaf zouden moeten aanstellen om zo ook de transparantie van Facebook-algoritmen te vergroten. Misschien een ideetje voor je volgende persconferentie, Mark?
