AI & mens

Het debat over de rol van artificiële intelligentie in de maatschappij lokt tegenstrijdige meningen uit. We spreken met professoren Ann Nowe en Mireille Hildebrandt over hoe we AI veilig kunnen gebruiken.

Advertentie

Vandaag de dag kunnen we de aanwezigheid van artificiële intelligentie in onze maatschappij niet meer wegdenken. AI is een enorme drijfveer voor digitalisering en innovatie, maar de technologie is verre van onbesproken. Elon Musk heeft het adopteren van AI al eens vergelijken met het aanbidden van de duivel. Een sterke uitspraak die experten ook wel wegzetten als een PR-stunt voor zijn bedrijf OpenAI. Maar Musk is niet de enige die kritiek heeft op de manier waarop AI vandaag de dag gebruikt wordt. Mensenrechtenorganisatie FRA vreest dat AI sinds het begin van de coronapandemie te veel als een ordehandhavingsmechanisme wordt ingezet door overheden.

Hebben de kritische stemmen over artificiële intelligentie een punt? Neemt de invloed van AI gevaarlijke proporties aan? Ann Nowe, professor in computerwetenschappen, en Mireille Hildebrandt, een juriste die werkzaam is op het snijvlak tussen recht en computerwetenschappen, lichten hun visie toe op het debat rond AI. Nowe is directeur van het VUB AI Lab. Hildebrandt is co-directeur van de onderzoeksgroep Law, Science, Technology and Society studies (LSTS).

TechPulse: Heeft FRA een punt als ze zeggen dat het gebruik van AI door overheden risico’s inhoudt?

Mireille Hildebrandt: Ik was één van de genodigde sprekers bij de voorstelling van het rapport in december vorig jaar. Je hebt verschillende soorten geautomatiseerde beslissingen. Tegenwoordig zien we automatisering op basis van machine learning veel meer gebruikt worden bij bijvoorbeeld belastingcontroles. Dat gaat in veel Europese landen nog vaak mis. In Nederland is begin januari nog een kabinet gevallen over systematische fouten bij het intrekken van kindertoeslagen. Wanneer men beslissingen neemt op basis van zelflerende AI-systemen, is het vaak niet mogelijk om te weten welke beslissingen onterecht waren.  

Ann Nowe: Hier zitten we duidelijk met een technologisch probleem. De software die overheden gebruiken is vaak van slechte kwaliteit. Studenten zouden bij mij gebuisd zijn als ze gelijkaardig werk inleveren. Het gebruik van software en algoritmen moet grondiger geëvalueerd worden, volgens de regels van de kunst. In de praktijk laat die evaluatie wel eens te wensen over, mogelijk door een structureel tekort aan opgeleide AI-experten. De machine learning algoritmen die vandaag de dag worden gebruikt zijn wel toegankelijk gemaakt via open source tools, maar je moet nog altijd voldoende opgeleid zijn om de output van die tools te gebruiken.  

TechPulse: De Europese Unie pleit voor meer transparantie en uniformiteit rond het gebruik van AI. Bestaat er volgens u een noodzaak aan een wetgeving op Europees niveau rond AI? Hoe moet de wetgeving opgesteld zijn om niet als een rem te werken op innovatie?

Hildebrandt: Ik denk dat daar zeker nood aan is. De onlangs voorgestelde AI-verordening hangt nauw samen met de kwaliteit van de systemen. De GDPR-wet vormde een eerste aanzet tot controle op systemen die persoonsgegevens verwerken, met een uitzondering voor wetenschappelijk onderzoek. Het ontwerp dat nu op tafel ligt is naar mijn mening goed doordacht, omdat er een grote focus ligt op de impact die AI-systemen op fundamentele rechten en op veiligheid hebben. Informatici zullen zeer goed moeten kijken naar die kwaliteitseisen bij het testen en verifiëren van AI-systemen alvorens ze op de markt te brengen. Het finetunen van de wet zal uiteindelijk op een politiek spel uitdraaien, maar als het huidige ontwerp er relatief ongeschonden uitkomt kan Europa echt een voortrekker worden van betrouwbare AI-systemen.

Nowe: De kwaliteit van de modellen die je via algoritmen bekomt hangt natuurlijk ook af van de gebruikstoepassingen. Met algoritmen kan je ontelbaar veel verschillende dingen doen. Bij ontwikkeling van AI-technologie is het evident dat je niet boven de wet en geldende standaardprocedures voor bijvoorbeeld certificering in dat bepaald toepassingsdomein staat.

Hildebrandt: Veel beleidsmakers weten eigenlijk niet goed hoe AI-systemen precies werken. Ze denken bij wijze van spreken dat als ze wat data in een bak gooien de algoritmen hun plan er wel mee trekken. Er gaat in andere woorden heel veel onzin rond over AI. Een geïnformeerde wetgeving met harde transparantie- en kwaliteitseisen kan een einde maken aan die onzin. Slechte software kan dan simpelweg niet meer worden gevalideerd.

TechPulse: Wordt het ethische en legale luik onderschat door technologiebedrijven bij het ontwikkelen van nieuwe technologieën?

Nowe: Neen, dat denk ik niet. Zoals ik al aanhaalde staat AI niet boven de wet. Ik denk dat AI juist stimulerend werkt om een debat rond ethiek aan te wakkeren omdat het de vinger op de zere wonde legt. Zowel technologie als mensen moeten ethisch handelen en nadenken over de impact van technologie.

Hildebrandt: Wie een systeem ontwikkelt, doet dat met een bepaald doel voor ogen. De AI-verordening spreekt over een ‘intended purpose’. De ontwikkelaar én de aanbieder van een AI-systeem moeten kunnen garanderen dat hun systeem geschikt is voor die intended purpose. Ook moeten ze de potentiële risico’s voorzien van mogelijk gebruik voor andere doeleinden. In de Verenigde Staten is dit anders. Grote techbedrijven zijn ontstaan door hoe de Amerikaanse economie in elkaar zit. Ethische discussies worden door de techreuzen opgeworpen om wettelijke beperkingen te voorkomen. Er zit dan een verdoken agenda achter hun oproep tot ethische reflectie. Slechte AI komt meestal uit de private sector, maar dat wordt vaak pas duidelijk als ze in de publieke sector worden ingezet omdat de overheid nu eenmaal verantwoording moet afleggen in een democratie. Nu beginnen we dat ook in te zien.

Nowe: Hier is de academische wereld wel tekort geschoten. We hebben de grote technologiebedrijven een platform gegeven op wetenschappelijke fora om over hun experimenten te publiceren. Dat heeft geleid tot het ontstaan van een kwaliteitslabel dat niet helemaal terecht was, want we konden hun experimenten vaak niet herhalen. De benchmarks die zij naar voren schuiven zijn vaak ook niet relevant voor de overheid en industrie. Bovendien zijn hun algoritmen getraind op massa’s data en verbruiken ze enorm veel energie.

“AI staat niet boven de wet.”

Ann Nowe”
TechPulse: De implementatie van nieuwe technologieën zoals AI lijkt in Europa vaak trager te verlopen dan in de Verenigde Staten en Azië. Wat zijn hier de voornaamste oorzaken van en hoe kan Europa de achterstand wegwerken?

Nowe: We mogen zeker niet spreken van een kennisachterstand in Europa. Het verschil zit vooral in cultuur. Er heerst een andere kijk op ondernemerschap in de Verenigde Staten die startups meer manoeuvreerruimte biedt. In Europa willen we technologie eerst volledig begrijpen vooraleer we ermee experimenteren. In de jaren 90 was er ook in Europa al een proposal voor de oprichting van een zoekmachine. Dat werd toen nog beschouwd als een non-problem. Hadden we toen sneller op de bal gespeeld, dan had een ‘Belgische Google’ zeker gekund. Een tragere implementatie hoeft ook niet slecht te zijn, maar het zorgt er wel voor dat de kaarten in de technologiesector al grotendeels geschud zijn in ons nadeel. Nu nog een Europese tegenhanger voor Google oprichten is quasi onmogelijk.

Hildebrandt: De oprichters van Google (Sergey Brin en Larry Page) publiceerden in 1998 een onderzoekpaper over de werking van hun eigen zoekmachine met een duidelijke waarschuwing dat de commerciële exploitatie van de technologie vooral de belangen van adverteerders en niet die van consumenten zou dienen. Het is ironisch dat net zij hebben bijgedragen tot de commercialisering van AI terwijl ze perfect wisten waar ze mee bezig waren. Wanneer AI bijdraagt tot het manipuleren van informatietoegang en het creëren van filterbubbels dan krijg je totale verwarring. Het Cambridge Analytica-schandaal legde bloot dat het grootste gevaar van AI de commercialisering  en de PR errond zijn.

Nowe: Jongeren moeten hier meer bewust van gemaakt worden. Ze moeten niet allemaal een AI-expert zijn, maar is het niet wraakroepend dat jongeren de digitale wereld waar hun leven zich grotendeels in afspeelt niet volledig begrijpen? Ik wil niet zeggen dat de klassieke schoolvakken minder aandacht moeten krijgen in het onderwijs, maar digitale kennis is vandaag minstens even belangrijk. Om echte verandering teweeg te brengen, moet iedereen opgeleid worden om kritisch te leren nadenken over het gebruik van technologie.

Google AI
TechPulse: Hoe ver staat België in de ontwikkeling en implementatie van AI ter vergelijking met andere Europese landen? Zijn wij een voorloper of is er eerder sprake van een achterstand?

Nowe: Door investeringen in AI en initiatieven als het Vlaams actieplan Artificiële Intelligentie doet België het relatief goed in verhouding tot de grootte van ons land. Er is natuurlijk nog ruimte voor verbetering, maar je moet ook niet overdrijven met investeringen. Investeringen renderen pas als mensen voldoende opgeleid zijn om met technologie te werken en mee te ontwikkelen.

Hildebrandt: Ik sluit me er volledig bij aan dat we het mantra van de ‘wapenwedloop van investeringen in AI’ moeten doorbreken. We moeten juist investeren in mensen om de basiskennis over AI in de maatschappij te verhogen en een kritische zin te ontwikkelen. Veel mensen weten niet datde trainingsdata van veel AI-systemen wordt gelabeld in Chinese sweatshops. Dat is nefast is voor de kwaliteit van de systemen en het toont bovendien aan dat AI hoogstens leidt tot de verplaatsing van laaggeschoold werk.

Nowe: De focus van het debat ligt nu te veel op data. Veel succesvolle AI is wel data-driven, maar je kan ook AI toepassen zonder data. Je moet het debat dus ruimer durven trekken. De centrale vragen moet zijn: welke oplossingen willen we en hoe bekomen we die oplossing? Die beslissingen worden uiteindelijk genomen door mensen.

Hildebrandt: Ik noem dat een ‘data-echoput’. Door de inzet van data die incompleet en niet relevant is belanden we in een echoput die bestaande misverstanden over AI bevestigt. AI moet beleidsmakers niet gaan vervangen, maar we hebben wel nood aan goed ontwikkelde systemen die beleidmakers een spiegel voorhouden om uit die echoput te geraken.

TechPulse: Laten we eindigen op een positieve noot, want AI is een belangrijke drijver van digitale transformatie. Hoe ziet u artificiële intelligentie in de komende jaren nog verder ontwikkelen en waar kan het nog een grote bijdrage leveren aan de maatschappij?

Nowe: Er is nog heel veel ruimte waar AI zou kunnen bijdragen aan de oplossing van maatschappelijke problemen, denk aan het beheer van resources. Maar de kracht van AI zit meer in het totaalplaatje. Je kan één slim verkeerslicht inzetten, maar daarmee heb je geen slim netwerk. We gaan meer uit AI halen als we overstappen naar een holistische benadering. Artificiële intelligentie moet niet enkel de problemen van vandaag maar ook die van morgen aanpakken. Bij het samenbrengen van verschillende probleemoplossingen moet de mens de centrale pion blijven.

Hildebrandt: Duurzame energievoorziening is een goed voorbeeld van de noodzaak om AI-systemen te ontwerpen die vraag en aanbod op het energienet anders inrichten. Dat is nodig omdat anders het toenemende verbruik van elektrische auto’s en de toename van ‘home made’ energie tot load balacing problemen op het net gaat leiden. Ik geloof in een smart-grid systeem waar AI-systemen, energieleveranciers, netbeheerders en huishoudens op een slimme manier samenwerken. Wij denken dat we die systemen gebruiken, maar in feite maken de systemen gebruik van ons. We moeten leren om van gebruik naar interactie te gaan. Van jongs af aan moet je leren spelen met technologie om een kritische zin te ontwikkelen. Ik geloof dat als AI op de juiste manier gebruikt wordt het een enorme positieve bijdrage levert aan de maatschappij. De mens is een creatief wezen en AI dient om onze creativiteit te stimuleren in plaats van die af te kappen. Alleen zo kan digitalisering een positieve rol spelen voor de samenleving.

“AI moet beleidsmakers niet vervangen, maar hen juist een spiegel voorhouden.”

Mireille Hildebrandt
Advertentie

Gerelateerde artikelen

Hoe we artificiële intelligentie veilig kunnen gebruiken

Elon Musk waarschuwt voor de gevaren van AI. Volgens de oprichter van MeetMatch kan je met behulp van transparantie de technologie toch met een gerust hart gebruiken.

LAAT EEN REACTIE ACHTER

Please enter your comment!
Please enter your name here