Google en het Pentagon slaan de handen in elkaar

Een begrip is pas echt ingeburgerd in onze maatschappij, wanneer het zijn eigen werkwoord in onze woordenschat krijgt. Zo verging het bijvoorbeeld WhatsApp en ook Skype. Ik Skype, jij WhatsAppt, you get the idea. Het bekendste voorbeeld daarvan is waarschijnlijk Google. Wanneer we iets opzoeken op het web, zoeken we dat niet zomaar; we ‘googlen’ het. In België is Google de meest gebruikte zoekmachine. Google is echter veel meer dan enkel een search engine, en is naast IBM, AWS en Microsoft ook een pionier op het gebied van cloud services en kunstmatige intelligentie.

Project Maven

De uitstekende reputatie van Google op het gebied van kunstmatige intelligentie was ook het Pentagon niet ontgaan. Begin dit jaar tekende Google namelijk een contract met het Pentagon voor de ontwikkeling van hun militaire drones, oftewel ‘Project Maven’. Die keuze voor Google “is volkomen logisch”, zegt Cees Snoek, hoogleraar computer science aan de Universiteit van Amsterdam in De Morgen. “Er is wereldwijd een groot tekort aan AI-experts. Google, Facebook en Amazon lokken de grootste talenten met jaarsalarissen van 2 miljoen.”

Google zal het Pentagon bijstaan met automatische beeldherkenning boven vijandig gebied, en zal zo haar algoritmen naar eigen zeggen inzetten voor louter defensieve doeleinden. Het Pentagon heeft voor Project Maven een budget van ruim 111 miljoen euro uitgetrokken en zet zo in op de geavanceerde patroonherkenning bij dronebeelden. Daarvoor beschikt Google ook over de gratis software ‘TensorFlow’, die kan ingezet worden om algoritmen te trainen in het herkennen van objecten. De hogeresolutiebeelden die door onbemande vliegtuigen op grote hoogte worden gemaakt, worden door TensorFlow gescand om zo mogelijke militaire dreigingen te seinen. Menselijke analisten gaan met die gegevens aan de slag en onderzoeken die dreigingen dan verder. De technologie wordt naar verluidt trouwens al toegepast op het slagveld om gebieden in het Midden-Oosten te overzien die momenteel in handen zijn van de Islamitische Staat.

Controverse

De oorspronkelijke slogan van Google ‘Don’t be evil‘, waarmee het zich afzette tegen haar belangrijkste rivaal Microsoft, lijkt ver zoek. Volgens verschillende werknemers binnen Google is het contract met het Pentagon namelijk een regelrecht pact met de duivel, en een tiental werknemers vond het zelfs reden genoeg om hun ontslag in te dienen. Een slordige 4.000 Google-werknemers zetten dan weer hun handtekening onder een interne petitie, waarin ze expliciet vragen om de onmiddellijke opschorting van het contract en om richtlijnen die toekomstige militaire contracten tegengaan. Naast de interne petitie die binnen Google circuleert, heeft de Tech Workers Coalition in april ook een petitie opgestart, waarin ze eisen dat Google de samenwerking met het Pentagon stopzet, en dat ook andere technologiebedrijven zoals IBM en Amazon geen samenwerking aangaan met de Amerikaanse defensie. Google heeft tot dusver nog niet formeel gereageerd op de ontslagen.

Fei-Fei Li, AI-expert van Google, geeft toe dat militaire AI erg controversieel is: “Gewapende AI is een van de gevoeligste onderwerpen binnen AI – misschien wel het allergevoeligste.” Ook al benadrukt Google dat haar AI-software niet wordt ingezet voor offensieve doeleinden, vrezen critici binnen Google toch dat de stap naar drones die op eigen houtje beslissingen kunnen nemen en doelen uitschakelen, daarmee vervaarlijk dichtbij komt.

Aanvulling

Het Amerikaanse leger meent dat ze kunstmatige intelligentie enkel gebruiken als aanvulling op menselijke intelligentie, maar daarmee kan er nog steeds veel misgaan op het vlak van computerondersteunde militaire besluitvorming. Menselijke dronebestuurders zouden wel eens te afhankelijk kunnen worden van gebrekkige computeranalyses, en zonder een extern toezichtsorgaan dreigen dergelijke fouten onopgemerkt voorbij te gaan. Kunstmatige intelligentie is goed ingeburgerd bij de politie en het leger, maar specialisten waarschuwen dat er die technologie vaak vooroordelen verwerkt zitten die niet zo makkelijk te detecteren zijn. Zo berichtte ProPublica in 2016 nog over een algoritme dat wordt gebruikt om recidive bij gedetineerden in te schatten en dat systematisch vooroordelen vertoonde op basis van huidskleur.

Die ethische bezwaren worden volgens Google voldoende intern aangekaart. De Fortune500-titel “best company to work for” lijkt voldoende referentie om hen op hun woord te geloven. “We bespreken het onderwerp intern en werken blijvend aan onze richtlijnen omtrent de ontwikkeling en het gebruik van machine learning technologieën”, aldus Google. Dat strookt niet met het beeld dat anonieme bronnen in Gizmodo ophangen over de technologiegigant. De werknemers waren inderdaad een document met richtlijnen omtrent machine learning beloofd, maar dat document is er nog steeds niet gekomen. Die bron wordt bekrachtigd door een anonieme Google-werknemer, die vertelde dat de werknemers op de hoogte zouden worden gehouden over de vorderingen van het ethisch comité, maar dat ook daar in alle talen over wordt gezwegen.

Dure woorden

Vorig jaar spendeerde het Pentagon volgens The Guardian zo’n 7,4 miljard dollar aan kunstmatige intelligentie en dataverwerkingstechnologie. Het wijst op een trend waarbij internationale oorlogsvoering steeds meer op afstand en met steeds meer technologische snufjes uitgevoerd wordt. Het leger is in feite altijd een pionier geweest op het gebied van technologie. De voorloper van het moderne internet, het ARPANET, ontstond in de schoot van het Amerikaanse leger, en ook qua IoT-technologie staat het Pentagon sterk met geavanceerde afstandssensoren en draagbare state of the art computers in de rugzakken van hun boys in arms. Ook de F-35-gevechtsliegtuigen, zijn een ‘mooi’ voorbeeld van IoT-technologie; ze waarschuwen het Pentagon wanneer ze gebreken vertonen, en bestellen automatisch vervangingsonderdelen.

Sergey Brin, Medeoprichter van Google, zou volgens The New York Times hebben gezegd dat hij de opschudding omtrent het contract met het Amerikaanse leger begrijpt. Hij haast zich wel om te zeggen dat hij het beter vindt voor de wereldvrede als militairen samenwerken met een bedrijf zoals Google in plaats van alleen met defensieaannemers.

Wereldvrede is een duur woord, eentje dat zelfs miljardenbedrijf Google zich niet kan veroorloven.