‘Hoe België killer robots kan stoppen’

‘Een nationaal verbod zou de voortrekkersrol bevestigen die België in het verleden al speelde bij het verbieden van wapens die buitensporig menselijk leed veroorzaken zoals landmijnen en clustermunitie’, schrijven Pax Christi Vlaanderen, GRIP, en Mines Action Canada, die ons land oproepen om werk te maken van een verdrag om killer robots te verbieden.

Het Belgische parlement overweegt momenteel twee belangrijke initiatieven: een voorstel tot resolutie over een internationaal verbod op killer robots en een wetsvoorstel over een nationaal verbod op killer robots dat hier mooi op aansluit. Met deze parlementaire initiatieven heeft ons land een historische kans om te zorgen voor een wereld waarin technologie niet gebruikt wordt om te doden maar ter bevordering van vrede, gerechtigheid, mensenrechten en gelijkheid.

Wat zijn killer robots?

Killer robots, of autonome wapens, zijn wapensystemen met een hoge mate van artificiële intelligentie. Daardoor zijn de wapens in staat om volledig zelfstandig, en dus zonder enige menselijke controle, een doelwit op te sporen, te identificeren, te selecteren en aan te vallen. Hoewel de wapens technisch nog niet helemaal op punt staan, waarschuwen internationale experten op vlak van robotica en AI voor de mogelijke gevaren ervan. Een algoritme de opdracht geven (dodelijk) geweld te gebruiken op basis van sensor input leidt tot toenemende ontmenselijking. Mensen worden namelijk gereduceerd tot een eenvoudige combinatie van ‘nullen en enen’ en zullen niet langer als ‘mens’ herkend worden door machines. Voeg daar algoritmische bias aan toe en je hebt de ‘perfecte’ cocktail. Een algoritme is namelijk niet volledig objectief maar gebaseerd op een werkelijkheid die vol raciale, sociale, gender, … vooroordelen en ongelijkheden zit.

Daarnaast confronteert het verlies van menselijke controle over geweld ons met enkele belangrijke vragen. Zal het internationaal recht nog gerespecteerd worden? Wie wordt er ter verantwoording geroepen niet als, maar wanneer het fout loopt? Is dat de programmeur of de legerleiding of de officier die de machine inschakelde? Op welke manier zullen slachtoffers gerechtigheid vinden?

Uit berichten over de oorlog in Oekraïne blijkt duidelijk dat een nieuwe generatie wapensystemen met een toenemende mate aan autonomie wordt ingezet. Het toont aan dat killer robots geen vergezocht concept meer zijn. Naast de ethische en juridische gevaren die ze inhouden, vormen ze ook een bedreiging voor het internationale machtsevenwicht en kunnen ze een gevaarlijke destabilisatie veroorzaken, ook in België. Bovendien pleit 66% van de Belgen in een enquête uit 2020 voor een verbod op killer robots.

Een gemiste kans

Het maatschappelijk middenveld, staten en de VN buigen zich al een hele tijd over de problematiek. In december 2021, tijdens de toetsingsconferentie van het VN-Verdrag inzake bepaalde conventionele wapens in Genève (CCW), hadden de staten een historische kans om een duidelijk antwoord te bieden op de bezorgdheden rond killer robots. Het draaide uit op een mislukking. Er werd geen mandaat aangenomen om onderhandelingen te beginnen over een juridisch bindend instrument om de menselijke controle op het gebruik van geweld te waarborgen.

Het resultaat van de toetsingsconferentie weerspiegelt de blokkering door een handvol staten, waaronder de VS en Rusland, maar niet de wil van de overgrote meerderheid van staten, het maatschappelijk middenveld of de internationale publieke opinie. Na acht jaar besprekingen binnen de CCW toont deze mislukking aan dat een proces buiten het forum nu waarschijnlijk is, net zoals dat gebeurde voor landmijnen en clustermunitie. Meer zelfs, het lijkt de enige manier te zijn om eindelijk echte vooruitgang te boeken.

Wat kan België doen?

Hoewel België kosten noch moeite spaarde op het internationale toneel, onder meer als voorzitter van de ‘Group of Governmental Experts’ die binnen het kader van de CCW de opdracht kreeg oplossingen te zoeken, slaagde de Belgische diplomatie er jammer genoeg niet in de besprekingen over een internationaal verbodsverdrag nieuw leven in te blazen. In maart, na een nieuwe mislukking van de CCW gesprekken, ondertekende ons land nog een gezamenlijke verklaring met 22 andere staten waarin de urgentie en de dringende noodzaak aan regels en beperkingen om voldoende menselijke controle over geweld te garanderen, wordt benadrukt.

Tegelijkertijd is het standpunt van de Belgische regering meer afwachtend geworden, en wil men nu het standpunt over killer robots binnen de NAVO afwachten. Zonder met zekerheid te kunnen zeggen dat dit de verklaring is, valt op dat de oorlog in Oekraïne de bezorgdheid over wapenbeheersing opnieuw naar de achtergrond verschoven heeft. Maar in plaats van een nieuwe wapenwedloop aan te wakkeren, zou dit conflict net een herinnering moeten zijn aan het belang van wapenbeheersing. Het doel van het regeerakkoord om te onderhandelen over een internationaal verbod op autonome wapens is nog altijd even belangrijk, zo niet belangrijker dan voorheen. De diplomatie wordt ingehaald door de snelheid van technologische ontwikkeling. De tijd dringt.

Ons land moet dringend werk maken van en deelnemen aan een nieuw onderhandelingsproces over een verdrag om killer robots te verbieden en andere autonome wapensystemen te reguleren. En dat kan dankzij de parlementaire initiatieven die voorliggen. In de parlementaire ontwerpresolutie wordt de regering verzocht een actieve rol te spelen op internationaal niveau.

Daarnaast ligt er ook een wetsvoorstel op tafel om killer robots in België te verbieden. Een nationaal verbod zou de voortrekkersrol bevestigen die België in het verleden al speelde bij het verbieden van wapens die buitensporig menselijk leed veroorzaken (landmijnen en clustermunitie). Dit is een kans die ons land moet grijpen!

Jonathan Bannenberg is onderzoeker aan de Groupe de Recherche et d’Information sur la Paix et la sécurité (GRIP).

Merel Selleslach is beleidsmedewerker Veiligheid & Ontwapening bij Pax Christi Vlaanderen.

Lode Dewaegheneire is militaire adviseur bij Mines Action Canada.