AI (artificial intelligence) concept, machine learning, nanotechnologies and face recognition concept, Interactive artificial intelligence digital advertisement in event exhibition hall, CCTV camera

Omwille van ethische redenen stopt IBM met het onderzoek naar en de ontwikkeling van gezichtsherkenningstechnologie voor de overheid.


Hoe heeft technologie een impact op je business?
Ontvang elke week het zakelijk IT-nieuws rechtstreeks in je inbox!



Gisteren schreef IBM-CEO Arvind Krishna in een brief aan het Amerikaanse Congres dat het bedrijf geen gezichtsherkenningssoftware meer zal aanbieden aan de overheid. Daarnaast wil het bedrijf ook het onderzoek naar de ontwikkeling van de technologie stopzetten. Krishna roept op tot een breed maatschappelijk debat over de ethische gevolgen van gezichtsherkenningstechnologie en hoe die gebruikt wordt voor publieke diensten.

‘IBM wijst het gebruik van de technologie, met inbegrip van gezichtsherkenningstechnologie die door andere leveranciers wordt aangeboden, krachtig af voor massasurveillance, raciale profilering, schendingen van de fundamentele mensenrechten en vrijheden, of voor enig doel dat niet in overeenstemming is met onze waarden en principes van vertrouwen en transparantie,’ schrijft Krishna in de brief. Volgens de CEO is het moment aangebroken om ‘een ​​nationale dialoog te beginnen over de vraag of en hoe gezichtsherkenningstechnologie moet worden gebruikt door nationale instanties voor wetshandhaving.’

Ethische vragen

In de Verenigde Staten gebruikt de overheid onder andere gezichtsherkenningssoftware voor surveillance op luchthavens en andere openbare plaatsen. Maar de toepassing van de technologie – die de laatste jaren door middel van artificiële intelligentie steeds beter is geworden – roept ook ethische vragen op. Verschillende studies hebben aangetoond dat de technologie een bias of vooroordeel heeft op basis van leeftijd, ras en etniciteit, waardoor het een potentieel onbetrouwbaar instrument is voor wetshandhaving en mogelijks ook burgerrechten kan schenden.

Een studie van het Amerikaanse National Institute of Standards and Technology toonde vorig jaar bijvoorbeeld aan dat gezichtsherkenningssoftware mensen discrimineert. De algoritmes die vandaag op de markt zijn maken volgens het onderzoek vooral fouten bij de identificatie van niet-blanke personen. Vaak worden de algoritmes getraind op basis van datasets waarin niet-blanke mensen te weinig gerepresenteerd zijn. Het gevolg is dat de technologie die gezichten daarom verkeerd herkent, wat vooral in de context van ordehandhaving problematisch is. Zo zouden personen met een Afrikaanse of Aziatische achtergrond foutief gearresteerd of ondervraagd kunnen worden.  

Krachtig instrument

In het verleden heeft IBM het probleem met de vooroordelen in gezichtsherkenningssoftware willen aanpakken. Met de publicatie van een dataset voor trainmodellen om die ‘bias’ te helpen overwinnen, wilde het bedrijf gezichtsherkenningssoftware accurater maken. Nu besluit het bedrijf echter dat het wil stoppen met de technologie. ‘Artificiële intelligentie is een krachtig middel dat wetshandhavers kan helpen om burgers veilig te houden. Maar aanbieders en gebruikers van Al-systemen hebben een gedeelde verantwoordelijkheid om ervoor te zorgen dat Al wordt getest op vooroordelen,’ schrijft CEO Arvind Krishna in de brief.

IBM heeft het Congres verder aangeboden te samen te werken om ‘rechtvaardigheid en gelijkheid tussen verschillende bevolkingsgroepen’ na te streven.

IBM Think Digital Summit: 12 juni 2020

Benieuwd naar een meer diepgaande analyse over ethiek en technologie? Op IBM’s jaarlijkse virtuele Think Summit-conferentie op 12 juni spreken tal van experts uit het veld over hoe we artificiële intelligentie kunnen laten overeenstemmen met onze waarden. Hier vind je het volledige programma.

Keynote: Design for Values ​​in AI

De samenleving maakt een revolutie door in artificiële intelligentie (AI), met enorme potentiële voordelen, maar ook grote risico’s voor individuen en de samenleving. In deze interactieve keynote bespreken Jeroen van den Hoven samen met Dasha Simons (IBM) en Alex Corra (SVB) over AI en ethiek: maatschappelijke zorgen, organisatorische implicaties, technische mogelijkheden en ethische waarden.

Sprekers:
Jeroen van den Hoven – hoogleraar ethiek en technologie, TU Delft
Dasha Simons – Business Transformation consultant, IBM
Dr. Alex Corra – adviseur ethiek en juridisch beleid

Meer weten? Zin om er ook (virtueel) bij te zijn? Schrijf je in voor de IBM Think Digital Summit via deze link.

1 REACTIE

LAAT EEN REACTIE ACHTER

Please enter your comment!
Please enter your name here