Mensenrechtenwaakhond FRA waarschuwt voor gevaren van gebruik AI door overheden
Artificiële intelligentie begint in steeds meer maatschappelijke domeinen op te duiken. De medische wereld zet algoritmen in om snellere en correctere diagnoses te kunnen stellen, marketeers om gerichte advertenties naar de juiste doelgroep uit te sturen, en overheidsinstanties ter wettelijke handhaving. Zeker het gebruik van AI door overheden is in volle coronatijden een actueel maatschappelijk debat. Camera’s met kunstmatige intelligentie maken tegenwoordig onderdeel uit van het vaste straatbeeld om de drukte in openbare plaatsen te beheersen, maar hoe ver kan de overheid daarin gaan zonder de mensenrechten van haar eigen burgers te schenden?
De mensenrechtenorganisatie Fundamental Rights Agency (FRA) organiseerde vandaag een digitale conferentie om de belangrijkste bevindingen van een onderzoeksrapport te bespreken. Dat rapport werd uitgewerkt aan de hand van interviews met 100 publieke en private organisaties in vijf EU-landen die al AI inzetten. De mensenrechtenwaakhond van de Europese Unie spreekt in dat rapport haar bezorgdheid uit over het toegenomen gebruik van AI door overheden in kritieke maatschappelijke sectoren. Volgens hen heeft kunstmatige intelligentie een enorm potentieel voor innovatie, maar kan het ook misbruikt worden door overheidsinstanties met schadelijke gevolgen voor de individuele vrijheid en privacy van de burger.
AI is menselijk
Één van de belangrijkste uitgangspunten van de mensenrechtenwaakhond is dat hoe geavanceerd AI-systemen moge zijn, ze in wezen een menselijke creatie blijven die nog in volle ontwikkeling is. En aangezien de mens niet zonder gebreken is, zijn ook geautomatiseerde processen nooit volledig feilloos. Overheden en bedrijven zouden daarom veel transparanter moeten zijn over de manieren waarop zij AI gebruiken, hoe de systemen tot beslissingen komen en hoe burgers die beslissingen indien nodig kunnen aanvechten. Ook pleiten zij voor aparte databeschermingswetten rond de toepassing van AI.
FRA vindt de timing waarop het haar rapport heeft gepubliceerd ook belangrijk. De Europese Commissie is volop aan het debatteren over een uniforme wetgeving voor alle lidstaten rond het gebruik van AI in kritieke sectoren zoals gezondheidszorg, energie, transport en het publieke domein. Die wetgeving zal veel van bovengenoemde uitdagingen moeten omvatten. De mensenrechtenwaakhond hoopt dat er in elke stap van wettelijke kader prioriteit wordt gegeven aan het beschermen van fundamentele rechten. Zij willen voorkomen dat de burger het ‘object’ worden van algoritmen. Een scenario dat doet denken aan de Terminator-films.
Discriminatie
Tenslotte vindt de in Wenen gebaseerde organisatie dat er op Europees niveau uitvoeriger onderzoek moeten worden gevoerd of algoritmen racistische discriminatie in de hand kunnen werken. Dat is een andere discussie die al enkele jaren woedt onder experten, maar in de nasleep van de Black Lives Matter-protesten weer op de voorgrond is gekomen. Verschillende studies hebben aangetoond dat gezichtsherkenningssystemen minder accuraat zwarte gezichten kunnen herkennen dan blanke gezichten. Dat komt omdat de systemen vooral getraind worden met beeldbanken die meer blanke gezichten bevatten. Wanneer dergelijke systemen toegepast worden in een juridische context, kan zelfs de kleinste inaccuraatheid grote gevolgen hebben.
Artificiële intelligentie zal altijd onderwerp zijn van maatschappelijk debat. Hoe sta jij tegenover deze technologie? Laat je mening achter in de reacties!
