Eerder dit jaar valt Israël, samen met de Verenigde Staten, Iran aan. Er wordt veel gerapporteerd over de aard van de oorlogsvoering die wordt toegepast. Het Amerikaanse leger maakt namelijk gebruik van kunstmatige intelligentie. Voorheen werd kunstmatige intelligentie ook al gebruikt op het gebied van oorlogsvoering, maar nu lijkt het een extremere vorm aan te nemen. Overheden investeren steeds vaker (én steeds meer geld) in kunstmatige intelligentie. Maar het is niet alleen maar rozengeur en maneschijn. Deze nieuwe vorm van oorlogsvoering brengt ook vragen met zich mee: wat zijn de gevaren, en wie heeft de macht?
Grote vrijheid in de Verenigde Staten
In de Verenigde Staten zijn de regulaties die verbonden zijn aan het ontwikkelen van AI-modellen minder streng dan in Europa. De afwezigheid van strenge wetgeving rondom AI in het algemeen maakt het mogelijk voor bedrijven in de Verenigde Staten om sneller te groeien dan in Europa. Een van die modellen die snel heeft kunnen groeien is het computerprogramma Maven Smart Systems. Dit systeem, onderdeel van Project Maven, maakt het mogelijk om snel doelwitten in kaart te brengen, en zo aanvallen op grote schaal sneller te organiseren. Op de vraag wat de grootste verschillen zijn tussen traditionele aanvallen en AI-gedreven aanvallen antwoordt dr. Stjepan Picek, universitair hoofddocent Digital Security aan de Radboud Universiteit dat “de grootste verschillen zitten in de schaal waarop de informatie kan worden verwerkt en worden ingezet, en de objectiviteit van het model dat wordt ingezet.” Een valkuil is alleen wel de transparantie rondom AI. Het is lastig om een goed beeld te krijgen over hoeveel het nou echt gebruikt wordt, omdat de berichtgeving niet altijd representatief is van wat er echt gebeurd. “Veel bedrijven zeggen dat ze succesvol kunstmatige intelligentie toepassen om mee te gaan met hun tijd” zegt dr. Picek. Het publiek zou hierin niet genoeg transparante informatie krijgen.
Grote speler
Een van de grote spelers in de verenigde Staten is het bedrijf Palantir. Palantir, vernoemd naar de magische alziende stenen uit de boekenreeks Lord of the Rings, is een bedrijf dat zich specialiseert in softwareplatforms voor het verwerken van data. De data die verwerkt worden zijn vaak data van grote bedrijven, en zelfs overheidsinstanties. Op hun site vermelden ze “Our software powers real-time, AI-driven decisions in critical government and commercial enterprises in the West, from the factory floors to the front lines.” Het bedrijf gebruikt AI-software om zo grote hoeveelheden aan data te analyseren. Door het verwerken van al deze gegevens, kan er al snel een profiel geschetst worden van personen.
Transparantie
Echter ligt het bedrijf regelmatig onder vuur als het gaat om de ethiek die ze er op na houden, hun werkwijze zou mensenrechten schenden. Amnesty International deed een onderzoek waaruit bleek dat de techniek die Palantir toepast zou leiden tot de massale monitoring, surveillance en beoordeling van personen. In de samenwerking met de Amerikaanse overheid, ook onder leiding van Donald Trump, zorgt dit er voor dat vaak niet-Amerikaanse burgers slachtoffer worden van deze werkwijze. Over de samenwerking met Trump, zegt Richard Evans (Palantir Technologies) in een programma bij deBalie, dat ze niet op basis van doctrine hun professionele banden opzeggen, opdat dit zou leiden tot een “techno-Authoritarianist” beleid.
Grote afhankelijkheid
De Nederlandse overheid is op moment van schrijven ook klant van Palantir. Het AI-model waarin zij de Nederlandse overheid voorzien, bezit en verwerkt gevoelige gegevens over Nederlandse burgers. Dat is lastig in tijden van conflict, omdat je niet wilt als land dat je digitale infrastructuur afhankelijk is van een Amerikaans bedrijf. Op dit moment heeft Nederland geen eigen model ontwikkeld als het gaat om het werk dat Palantir verricht. De service die Palantir verleent, helpt daar niet bij omdat de service niet gekocht wordt, maar als het ware, gehuurd wordt. Voor dataverwerking zijn we op dit moment dus grotendeels afhankelijk van de Verenigde Staten.
Hoe nu verder?
Hardware en software zijn twee belangrijke componenten als het gaat over deze ontwikkelingen. Hardware wordt vooral ontwikkeld in de Verenigde Staten. Nvidia is daar een grote speler in. Voor Europa wordt het lastig om te concurreren met de ontwikkelaars van hardware. Nvidia is namelijk zo veel verder in het ontwikkelingsproces dat zelfs andere grote spelers in de Verenigde Staten niet met Nvidia kunnen concurreren. Voor Europa, en Nederland, zitten er daarom meer kansen in het ontwikkelen van software. Dit betekent dat Nederland goed zou doen aan het ontwikkelen van een eigen AI-model. Dat vraagt echter wel dat de Nederlandse overheid geld vrij maakt om deze ontwikkelingen te subsidiëren.