REAIM Summit 2023

“War Against the Machine?” was de titel van het rondetafelgesprek van de Atlantische Commissie over kunstmatige intelligentie in oorlogen tijdens het REAIM 2023-congres over kunstmatige intelligentie in oorlogsvoering. Het congres werd ’s ochtends geopend door minister Hoekstra van Buitenlandse Zaken. Deelnemers aan de ronde tafel van de Atlantische Commissie waren professor dr. Mr. Lokke Moerel (moderator), David van Weel (NAVO), professor Lonneke Peperkamp (NLDA), professor dr. Haroon Sheikh (VU) en Anouk Vos MA MSc (RevNext).

Moderator Lokke Moerel, tevens de nieuwe bestuursvoorzitter van de Atlantische Commissie, opende de discussie voor een volle Kilimanjaro-zaal van ongeveer tachtig mensen in het World Forum in Den Haag door vraagtekens te plaatsen bij de betrouwbaarheid van –  en wie verantwoordelijkheid  is voor – kunstmatige intelligentie (AI). Dat er überhaupt vragen leven over AI moge duidelijk zijn. Dat blijkt ook uit een recente peiling van de Atlantische Commissie waaruit blijkt dat het Nederlandse publiek relatief onbekend is met AI, drones herkende als het meest voorkomende AI-systeem en zich relatief weinig zorgen maakt over AI in het militaire domein.

Als de pannelisten het zelf hadden over AI in het militaire domein ging het daarbij niet alleen om wapensystemen, maar ook over het verbeteren van logistiek en het onderzoeken van video’s en foto’s op oorlogsmisdaden. Ook werd gezichtsherkenning genoemd als voorbeeld om de daders van de slachting in het Oekraïense dorpje Boetsja op te sporen. Ook wordt AI gebruikt voor het onderscheppen, ontcijferen en analyseren van Russische berichten.

De discussie benadrukte ook de verschillen tussen verschillende partijen die gebruikmaken van AI. Het leger heeft juist veel systemen ontwikkeld om leed te veroorzaken, waardoor met name de noodzaak van regels binnen het militaire domein wordt benadrukt. Daarop aansluitend is ook de zogeheten automatiseringsbias benoemd, waarbij AI bijvoorbeeld bepaalde bevolkingsgroepen kan herkennen en kan uitsluiten. Ook als mogelijk doelwit in een oorlog. Dit alles is mede aanleiding geweest voor de oprichting van een speciaal beoordelingsteam door de NAVO om de AI-regels van de EU te implementeren.

Ook de psychologische complicaties van ‘human in control’ kwamen aan bod. Een genoemd risico was bijvoorbeeld dat door mensen gecontroleerde wapens bediend kunnen worden als in een videogame, waardoor het doden van tegenstanders onpersoonlijker is geworden en daarmee makkelijker. Uit onderzoek is echter gebleken dat psychologische effecten als Post Traumatische Stress Stoornis (PTSS) juist kunnen optreden bij de mensen die wapens op afstand besturen of verantwoordelijk zijn voor AI-systemen.

Hoewel AI-systemen kleinere foutmarges hebben, is de tolerantie voor fouten lager wanneer een machine ze maakt dan wanneer een mens ze maakt, waardoor het moeilijk te bepalen is wanneer een machine betrouwbaarder is dan een mens. Het voorbeeld van het debat over zelfrijdende auto’s en drones kwam ter sprake. De ontwikkeling van AI toont ook aan hoe het militaire domein steeds meer verweven raakt met de maatschappij, wat moeilijkheden met zich meebrengt en bijvoorbeeld techbedrijven en daarmee burgers betrekt bij oorlogen.

Het gebruik van internet voor het verzamelen van inlichtingen en drones die voor andere doeleinden zijn ontwikkeld en die in oorlogen worden gebruikt, zijn voorbeelden die worden genoemd. De discussie eindigde met een dilemma: al dan niet vertrouwen op AI als het doorslaggevend kan zijn in een oorlog. Enerzijds kunnen bij een droneaanval slachtoffers vallen, aan de andere kant kan die drone ook gerichter aanvallen en daarmee onschuldige mensenlevens redden.

 

Waar ontwikkelingen in het militaire domein vroeger voornamelijk plaatsvonden binnen krijgsmachten, vinden die nu vooral plaats binnen de private sector. Dit is een grote omslag waar volgens de deelnemers aan de ronde tafel goed op geanticipeerd moet worden. Daarom is tijdens de discussie ook  geopperd dat de juiste experts –  denk ook aan hackers –  aan tafel uitgenodigd moeten worden bij besluitvorming over AI.  Daarbij zijn transparantie, het laten deelnemen van alle sectoren, het gebruik maken van verschillende disciplines en een goede afstemming tussen maatschappij en defensie doorslaggevend bij het doorontwikkelen van AI.