Pieter Van Nuffel
Pieter Van Nuffel
Journalist DataNews.be
analyse

21/08/17 om 11:46 - Bijgewerkt om 12:14

Killer robots, een doos van pandora?

Een honderdtal CEO's van bedrijven gespecialiseerd in robotica en artificiële intelligentie, hebben opgeroepen tot een internationaal verbod op killer robots. Hoe moeten we hun alarmkreet inschatten? En hoe ver staat de technologie vandaag al?

Killer robots, een doos van pandora?

De Amerikaanse X47B kan al zonder afstandsbediening opstijgen, navigeren en landen. Binnenkort ook zelfstandig vijandelijke doelen vernietigen? © DARPA

Killer robots zijn wapensystemen die volledig autonoom ingezet worden en daardoor zelfstandig vijanden kunnen opsporen en vernietigen - denk aan drones, slimme tanks of volledig geautomatiseerde machinegeweren. Dergelijke systemen bestaan nog niet, maar zitten er wel aan te komen.

Het is niet de eerste keer dat de Verenigde Naties gewaarschuwd wordt over het gevaar ervan. Na een brief van onder meer Elon Musk, Steve Wozniak, Stephen Hawking en Human Rights Watch van twee jaar geleden, riep de VN een expertgroep in het leven om het gebruik van autonome wapens te bespreken. Die groep zou vandaag voor het eerst bijeenkomen, maar door geldgebrek zal dat nu op zijn vroegst in november gebeuren. De ondertekenaars van de brief roepen de VN op om deze nieuwe datum wél te halen.

De specialisten waarschuwen dat killerrobots na buskruit en kernwapens de derde revolutie in oorlogsvoering dreigen te ontketenen. 'Eenmaal ontwikkeld zullen gewapende conflicten met dodelijke autonome wapens op een grotere schaal dan ooit kunnen worden uitgevochten, en veel sneller dan mensen kunnen begrijpen. Ze kunnen worden ingezet door terroristen en despoten tegen onschuldige mensen. Daarnaast kunnen gehackte wapens zich op ongewenste manieren gedragen', aldus de briefschrijvers.

Dat fatalistisch scenario is geen science fiction. Maar vandaag staat de technologie nog lang niet zo ver. 'Volledig autonome systemen kunnen op dit moment nog niet ontwikkeld worden', vertelt Bram Vanderborght, professor in de robotica (VUB). 'De huidige sensoren kunnen zelfs nog geen onderscheid detecteren tussen burgers en vijandige soldaten, tenzij die laatsten misschien in oranje uniformen rondlopen. In de conventie van Geneve wordt dat onderscheid overgelaten aan de interpretatie van soldaat zelf. En als er één ding is dat computers nog niet kunnen, dan is het wel interpreteren.'

Dat probleem stelt zich niet in de Korean Demilitarized Zone, het buffergebied tussen Noord-en Zuid Korea. Daar mag namelijk niemand komen. Momenteel staat daar al de Hanwha Techwin SGR-A1 robot opgesteld. Die vereist vooralsnog een menselijke interventie om te vuren, maar heeft ook een automatische stand.

De Amerikaanse drone X-47B kan al volledig autonoom vanop een vliegdekschip opstijgen, navigeren en landen. Aanvankelijk investeerde het Pentagon miljoenen om de drone tegen 2020 ook zelfstandig gevechtsmissies te laten uitvoeren, maar die plannen werden vorig jaar bijgesteld. De autonome drone zal nu gewoon gebruikt worden om bemande gevechtsvliegtuigen bij te tanken.

Doos van Pandora

Momenteel staan zulke autonome wapens dus nog in hun kinderschoenen, maar als er verder in geïnvesteerd wordt, kan het snel gaan. De briefschrijvers wijzen erop dat er niet veel tijd is om die ontwikkeling tegen te gaan. De brief eindigt met: 'Als deze doos van Pandora eenmaal is geopend, wordt het heel moeilijk hem weer dicht te krijgen.' Die waarschuwing roept al snel beelden op van Robocops of Terminators, robots die hun eigen code overschrijven en zich massaal tegen de mensheid keren. Maar dat is wellicht niet het gevaar waar de briefschrijvers op doelen.

Het gaat erom dat ministeries van Defensie nu de mogelijkheden inzien van deze nieuwe technologie en er veel geld tegenaan willen gooien. Op het moment dat landen als de VS, China, Rusland en Israël al zwaar geïnvesteerd hebben in de ontwikkeling ervan, zullen ze minder snel bereid zijn om een verbod te aanvaarden. Daarom komt zo'n verbod er beter vóór er een nieuwe wapenwedloop op gang komt.

Onze partners