Poetin wappert met kernwapens en dat is op zijn minst ongemakkelijk. Maar dat is zeker niet de enige aap die we uit de Russische mouw mogen verwachten.

De wetenschap ontwikkelt in zeer hoog tempo autonome systemen. Maandelijks wordt er wel ergens in de wereld een drone of communicatietoestel uitgevonden dat volledig zelfstandig opereert. De toepassing is steeds vaker militair en de Adviesraad Internationale Vraagstukken heeft de VN inmiddels dan ook aangeraden een verbod op volledig autonome wapens in te stellen. Ze willen dat staten investeren in automatische wapens, waarbij menselijke besluitvorming essentieel blijft. Dat roept de vraag op hoeveel zeggenschap wij mensen überhaupt nog hebben over aanval en verdediging.

Autonome wapens in Nederland?

De MQ-9 reapers die de Nederlandse krijgsmacht heeft aangeschaft, zullen medio 2023 volledig operationeel zijn en worden ingezet. In de tussentijd zal de MQ-9 alleen nog maar getest en geëvalueerd worden. De Reaper is een onbemand voertuig en maakt eigenlijk deel uit van een set van systemen, te weten 4 toestellen, een grondstation en communicatieapparatuur.

Slagschepen worden uitgerust met zelfstandige communicatie-systemen, die sneller dan mensen kunnen schakelen met systemen in de luchtmacht en landmacht.

Officieel is de Reaper slechts voor verkenning en dus niet bewapend. Wel beschikt het over ophangingspunten onder het toestel, waaraan wapensystemen kunnen worden bevestigd. Dan kun je dus denken aan explosieven. Defensie geeft dan ook aan de bewapening van de Reaper verder te onderzoeken en te ontwikkelen, in het kader van de operationele meerwaarde.

De Reaper speelt vaak een hoofdrol in de discussie over de ontwikkeling van autonome wapens. Ten onrechte. Het is zaak een duidelijke definitie te hanteren als het gaat om autonome wapen- of verdedigingssystemen. In de praktijk worden zowel geautomatiseerde als autonome wapens op één hoop gegooid. Maar veel militaire systemen die vooral in de media als autonoom worden aangemerkt, zijn dat feitelijk niet. Zoals de Reaper. Het klopt dat het systeem onbemand is en dat de MQ-9 reaper in hoge mate geautomatiseerd is. Er is echter wel degelijk sprake van een piloot die het voertuig bestuurt.

Verschil tussen automatisch en autonoom wapen

Deze militaire piloot, oftewel de vlieger, zit dan wel niet fysiek in de reaper, maar is uit de cockpit gehaald en bestuurt het vliegtuig vanuit een veilige locatie aan de grond. In het geval van deze menselijke besturing, weliswaar op afstand, is er dus geen sprake van een autonoom wapen.

Een heel stuk zelfstandiger waren de Turkse drones die in maart 2020 in de Libische burgeroorlog werden ingezet tegen de vrijheidsbeweging GNA. De VN heeft geoordeeld, dat deze aanval de eerste geregistreerde aanval was met autonome wapens. De bestemming van de drones was via GPS vastgesteld en er was een algoritme gebruikt dat de drones moest vertellen wie de doelgroep vormden.

Een nieuw tijdperk voor autonome wapens

Met dat VN oordeel, zijn we volgens militair historicus Christ Klep officiëel een nieuw tijdperk ingegaan. “Een paar jaar geleden zou ik nog niet gezegd hebben dat volledig automatische systemen snel realiteit worden. We zijn nu veel dichterbij dan je destijds zou zeggen. De technische innovaties gaan razendsnel en iedere 2 tot 4 jaar zijn militaire systemen aan vervanging of updates toe. We kunnen wel onze kop in het zand steken, maar er is niet niets aan de hand. En er is geen sprake meer van een wapenwedloop. Het is een absolute speed race geworden.”

Daar zijn een aantal factoren voor. Ten eerste is daar natuurlijk, net zoals gedurende de Koude Oorlog, de concurrentiestrijd tussen verschillende grootmachten. Bovendien ervaren veel krijgsmachten tegenwoordig ook interne competitie. Menig landmacht en marine kijkt bijvoorbeeld gretig naar de ontwikkelingen in de luchtmacht, militair genaamd de derde dimensie.

Vooral de luchtmacht van defensies hebben geprofiteerd van wetenschappelijk onderzoek. De landmacht en de marine zijn echter met een inhaalslag bezig.

Het is de laatste jaren met name de derde dimensie geweest, die van veel innovaties geprofiteerd heeft. Het luchtruim is een open ruimte, zonder veel obstakels, waarvoor autonome systemen makkelijk te ontwikkelen zijn. Integrale wapens, inzetbaar in de hele krijgsmacht, staan echter hoog op het verlanglijstje. En dat betekent: autonome systemen die kunnen schakelen tussen lucht-, land- en watervoertuigen.

Die integratie van systemen, werkt grootschalige inzet van autonome wapens in de hand, meent Klep. “Nu gaat het nog om een zwerm drones of een tiental vliegtuigen in relatief overzichtelijke gebieden als woestijnen, waar schade aan mens en omgeving nog enigszins beperkt blijft. Maar hoe ziet autonome oorlogsvoering er uit tijdens een grootscheepse operatie en als 100.000 systemen zich in beweging zetten? Door de stad of juist in oerwouden?”

VS dol op autonome wapens zonder menselijke "foutjes"?

Niet overal ziet men ethische bezwaren tegen verdergaande autonomie in wapenvoering. In de Verenigde Staten beargumenteren autonomie voorstanders in het congres juist het tegendeel. Het zou een ethisch voordeel zijn als menselijke besluitvorming in militair handelen aan banden wordt gelegd. Mensen zijn immers gevoelig voor religieuze en raciale sentimenten.

Autonome systemen zijn dat niet en zouden daarom meer objectieve en neutrale keuzes maken. Als die visie terrein wint en politieke consensus wordt, zal de menselijke inbreng verdwijnen, voorspelt de militair historicus. “Het kwartje kán zomaar die kant op vallen daar. Iedereen kijkt altijd naar landen als Rusland en China, maar bij de introductie van nieuwe wapens zie je dat democratieën vaak flexibeler reageren op technologische innovaties. En het ook sneller omarmen en implementeren. Kijk maar naar de ontwikkeling van atoomwapens.

Het waren ook de VS, die toen voorop liepen en het wapen ook voor het eerst gebruikten. En als de stemming in de VS pro-autonoom flipt, zullen andere landen volgen. Ook Nederland. Dan kun je niet de kop in het zand steken en als enige die menselijke besturing willen houden.”

Wetenschappelijk onderzoek voor militaire toepassingen

De ontwikkeling van autonome militaire middelen gaat tevens hand in hand met een toenemende civiele inmenging, zowel academisch als bedrijfsmatig. Ontdekkingen die toevalligerwijs aan het licht komen tijdens allerhande wetenschappelijk onderzoek, vinden zo steeds vaker hun weg naar militaire toepassingen.

Zo blijken quantumradars veelbelovend, als het gaat om het opsporen van vliegtuigen, die zonder deze radars lastig te detecteren zijn. Een quantumradar werkt met foton deeltjes en meet de verplaatsing hiervan in het luchtruim. Fotons zijn elementaire lichtdeeltjes. In de radartechniek, wordt een foton gesplitst, maar blijven de twee delen verstrengeld. Het ene deel is origineel, het andere is kunstmatig en daarmee gekenmerkt. Als beide foton deeltjes in aanraking komen met bijvoorbeeld een luchtvoertuig, zal er één deeltje weerkaatsen en het andere niet. Als je de metingen van de weerkaatste en niet weerkaatste deeltjes naast elkaar legt, kun je een beweging zien en ook of deze beweging van jou zelf afkomstig is.

Zelfs kleine en zeer laagvliegende objecten worden op die manier toch zichtbaar.

Marines en landmachten willen luchtmachten bijbenen

De marine blijft niet achter. Daar wordt gekeken naar de inzet van zeer nauwkeurige zwaartekracht sensoren in plaats van sonars. Met de meting van de zwaartekracht onder water kan de aanwezigheid van onderzeeboten worden vastgesteld. Zwaartekracht is een zwakke kracht en speelt niet alleen tussen de aardbol en de daarbij horende objecten. Ook voorwerpen onderling oefenen objecten zwaartekracht op elkaar uit. De zwaartekracht tussen kleine objecten, noemen we quantumzwaartekracht.

Deze duikboot gaat meer met zwaartekrachtmeters te maken krijgen, dan met sonars.

Hoewel deze jarenlang nauwelijks meetbaar was, zijn er nu nieuwe manieren om zelfs de geringste zwaartekracht tussen objecten te meten. De zwaartekracht van een object dat beweegt neemt toe of af, naarmate het object zich dichter of verder van het meetpunt bevindt. Met een laser kan gemeten worden wat de afstand is dit het licht erover doet om het object te bereiken. Door die twee gegevens te combineren, kun je de aanwezigheid en verplaatsing van een object zoals een onderzeeboot, vast stellen.

Iedere uitvinding krijgt toch militaire inzet

Ook civiel-wetenschappelijk onderzoek is sterk gericht op autonome systemen. Aan de universiteit van Massachusetts hebben wetenschappers drones met AI getraind om zelfstandig sneller te vliegen door ruimtes met obstructies. Hoewel de betreffende onderzoeksleiders krachtig ontkennen dat het systeem ontwikkeld is voor militaire doeleinden, heeft het onderzoek plaatsgevonden in opdracht van de US State Office for Naval Research.

Klep plaatst die ontkenningen dan ook in perspectief. “Dat de universiteit van Massachusetts bestrijdt dat het om militaire doelstellingen gaat voor die snelle drones, zegt niets. Dat zal best, maar in de praktijk is het zo dat áls er een techniek geschikt is om militair toe te passen, dat ook zal gebeuren. Of dat nu het doel was of niet. Elon Musk blijft ook volhouden dat hij niet voor defensie ontwikkelt. Desalniettemin zullen zijn technieken daar toch toepassing vinden. Het heeft misschien wel iets positiefs dat de wetenschap en het bedrijfsleven een plek hebben in militaire research en ontwikkeling. Dat maakt die wetenschappelijke ontwikkeling hopelijk een stuk opener en transparanter. En dat is beter dan dat je een militair apparaat hebt, dat verborgen in een technologisch ei van alles en nog wat ontwikkelt en waar je totaal geen zicht meer op hebt.”

De transparant wetenschappelijke ontwikkeling van autonome systemen, die kunnen worden ingezet als aanvalswapen, heeft ook een duidelijke keerzijde. Kwaadwillende civiele partijen kunnen óók makkelijker profiteren van de nieuwste innovaties.

“De aanval met de Turkse drones was een goed voorbeeld. Daar was geen ingewikkelde software voor nodig. Een algoritme met bij wijze van spreken simpele variabelen elk individu langer dan 1.50 meter en alles wat een langwerpig metalen voorwerp van meer dan 50 cm bij zich draagt. Dat soort algoritmes zijn binnen een handomdraai te regelen. Ook voor terroristen”, aldus Klep. De toegankelijkheid van software die benodigd is, voor de implementatie van autonome wapens is, volgens hem een zorgelijke factor. omdat toezicht minimaal is.

De mogelijkheden en beperkingen van AI

Een verbod op autonome systemen echter, is niet het antwoord, meent dr. ir. Mark Voskuijl, professor Wapen- en Luchtvaartsystemen van de Nederlandse Defensie Academie. “Een eis op verbod is zo’n algemene stelling dat het de discussie rondom een complex vraagstuk volledig plat slaat. Wie heeft er problemen mee als een robot zelfstandig mijnen opruimt? Of denk aan een luchtverdedigingssysteem dat beschermt tegen ballistische raketdreiging. Een dergelijk systeem moet wellicht zo snel reageren dat er helemaal geen tijd is voor menselijk overwegen.”

Verbod op autonome wapens: linke soep

Een verbod op de ontwikkeling en het gebruik van autonome systemen zou een aantal fikse problemen opleveren, die niet eenvoudig op te lossen zijn. Ten eerste zijn internationale afspraken niet makkelijk te realiseren en het toezicht op de naleving van die afspraken, wordt al helemaal een lastig verhaal. Controle op staten die zich niet aan het verbod houden en heimelijk doorontwikkelen, is onuitvoerbaar. Met alle veiligheidsrisico’s van dien, zoals de verborgen militaire ontwikkeling van Duitsland in de jaren van de 20e eeuw heeft aangetoond.

Deze drone ziet er vrij onschuldig uit. Maar met de juiste software en wat explosieven, maakt het dodelijke keuzes.

Bovendien ziet Voskuijl nog een heikel punt ontstaan. “Buiten-statelijke organisaties, zoals terreurgroeperingen, kunnen juridische afspraken makkelijk omzeilen. Naar aanleiding van de Jemenitische Burgeroorlog vond in 2019 een drone-aanval in Saudi-Arabië plaats. Daarbij hebben Houthi-rebellen de verschillende onderdelen online gekocht en over de grens gesmokkeld bij Jemen. Voor 9000 euro hadden de aanvallers een drone met een spanwijdte van 4,5 meter, waar gerust 20 kilo explosieven onder paste. Behoorlijk effectieve wapens, clandestien en toch makkelijk geregeld. Toezicht heeft in zo’n geval weinig nut. Je loopt vast op de uitvoering van wetten, namelijk controlemogelijkheden.”

Voor veel krijgsmachten is de beste manier om op de dreiging van zowel civiele als officiële autonome wapens te reageren: het verder ontwikkelen van nóg betere autonome systemen. Dat sluit aan op het klassieke concept van afschrikking om zelf wapens te gebruiken, waarvan je weet dat de andere partij ze ook kan inzetten. Bovendien heb je dan een voorsprong om civiele gevaren het hoofd te bieden.

Binnen de Nederlandse krijgsmacht houdt het kernteam CUAS (Counter Unmanned Aircraft Systems) zich bezig met de detectie en identificatie van drones die zich op locaties bevinden, waar ze niet mogen zijn. Dat gebeurt met radar, camera’s en akoestische detectie. Door akoestische detectie herkent een computer met richtinggevoelige microfoons het geluid van een drone. Ook vervolgstappen om die drones onschadelijk te maken,behoren tot de taken van CUAS.

Neutralisatie van mogelijk schadelijke systemen vindt plaats door opsporing van bestuurders en juridische maatregelen, maar ook met fysieke inzet zoals het vangen van de drone met een net of het neerschieten van de drone. Die acties in dichtbevolkte locaties niet altijd wenselijk. Maar dan zijn er nog andere technische middelen, zoals jamming en spoofing. Jamming is het verstoren van de satellietsignalen van drones met een sterker signaal, zodat je de besturing in de war kunt brengen. Spoofing gaat verder dan alleen verstoren, dan worden er ook eigen en dus eigenlijk valse signalen naar het object gestuurd, zodat je ook zelf kunt besturen en dus bijvoorbeeld een bestemming kunt wijzigen.

Nederlandse defensie voorzichtig met autonome wapens

Defensie start tegenwoordig het ene na het andere technologische project. De afdeling Concept Development & Experimentation experimenteert dan ook heel wat af, volgens eigen zeggen. Logisch, beaamt Voskuijl. “Een krijgsmacht zal niet snel van mening zijn, dat het de handjes niet wil branden aan al te autonome systemen.”

Het nut van de recent ontwikkelde drone die zelfstandig en snel hindernissen ontwijkt bijvoorbeeld, blijft niet onopgemerkt. Zo’n drone kan op locaties met obstakels zoals puin, bomen of dichte bebouwing verkenningswerk doen, zonder dat menselijke militairen onnodig risico lopen. In het geval van brandende gebouwen kan de drone snel gevaren in kaart brengen of juist overlevenden vinden. En in vijandelijk gebied kan de drone met beeldherkenning terroristen duiden, ook als deze zich op locaties bevinden met bebossing of dichte rotspartijen.

Toch zit de Nederlandse krijgsmacht niet te springen om ongebreidelde autonomie in de wapenvoering, zegt Voskuijl. “Met AI getrainde systemen, heb je handelingsmogelijkheden die je normaal niet zou hebben omdat je mensenlevens niet op het spel wilt zetten of omdat de inzet van mensen beperkingen heeft. Maar ook AI heeft zo zijn beperkingen. In een gecontroleerde omgeving een systeem van een algoritme voorzien, is een ander verhaal dan de uitwerking in de praktijk. Mocht er toch onverhoopt iets mis zijn met een algoritme, dan kunnen onschuldige burgers daar de dupe van zijn. En hoe makkelijk wordt het dan het algoritme te ontleren of een zelfstandige communicatie te onderbreken? Dat zijn vragen die je niet te makkelijk opzij kunt schuiven.”

Net binnen