Wapensystemen worden nu al steeds autonomer.

Tot die conclusie komt vredesorganisatie PAX in een nieuw rapport. De organisatie presenteert het rapport vandaag in Genève, waar een VN-bijeenkomst over killer robots is begonnen.

Killer robots
Bij killer robots moet je denken aan “machines die zelf kunnen bewegen, dus zonder aansturing van de mens, en machines die zelf kunnen schieten,” zo vertelde Koen Hindriks, oprichter en CEO van Interactive Robotics eerder dit jaar aan Scientias.nl. “Dus bijvoorbeeld een drone die uitgerust is met wapentuig.” Gewapende drones zijn er op dit moment al. Maar ze worden nog – op afstand – door mensen bestuurd. En Hindriks wilde dat graag zo houden. “Machines moeten niet gaan bepalen op wie er wel of niet geschoten wordt.”

Ze komen eraan
Dergelijke machines lijken misschien nog ver weg. Maar schijn bedriegt, zo blijkt uit het PAX-onderzoeksrapport. In het rapport worden tal van wapensystemen aangehaald die op dit moment al in gebruik of in ontwikkeling zijn en een zekere mate van autonomie kennen. De meeste van deze wapensystemen worden nu nog op afstand door mensen bestuurd, maar kunnen in principe – hetzij met enige aanpassing – ook volledig autonoom worden ingezet.

Veel vragen
Met het rapport hoopt PAX een brede discussie aan te zwengelen. Want als het over autonome wapens gaat, moet er nog heel wat worden uitgekristalliseerd. “Kunnen deze wapens zich aan de internationale humanitaire wetten houden? Kunnen ze onderscheid maken tussen soldaten en burgers en bepalen of een aanval binnen proporties is? Kunnen deze wapens het gebruik van gewapend geweld laagdrempeliger maken? En wat gebeurt er als dictators of terroristen de handen op deze wapens kunnen leggen? Wie is verantwoordelijk als er iets mis gaat? En welke impact hebben ze op de mensenrechten als politiemachten ook deze technologie gaan gebruiken?” Het zijn zomaar wat vragen die PAX in het onderzoeksrapport opwerpt. En die – als het aan PAX ligt – leiden naar een heldere conclusie: een machine moet nooit zelf kunnen beslissen om mensen te doden of pijn te doen, want “dat gaat in tegen het principe van de menselijke waardigheid en besteedt het morele denken op onacceptabele wijze uit”.

Politiek
Zo uitgesproken als PAX is, zo onscherp is het standpunt van de internationale gemeenschap. Zo heeft elk land weer een andere mening over de kwestie (en zijn er zelfs landen die zich er helemaal niet over uitspreken). Sommige staten willen een verbod op killer robots. Anderen zien meer in regulering. En weer anderen – waaronder Nederland – ziet bestaand internationaal oorlogsrecht als afdoende. Kortom: er is nog geen consensus omtrent de killer robots. En de tijd dringt. “Het is essentieel dat staten deze korte tijd optimaal gebruiken om vooruitgang te boeken,” aldus Miriam Struyk, verbonden aan PAX. “De technologie dendert voort, zoals wij ook in ons rapport laten zien, terwijl de diplomatie vertraagt. Staten moeten nu duidelijk maken over welke beslissingen en functies we menselijke controle willen behouden.”

Deze week wordt de eerste stap gezet richting consensus, met de VN-bijeenkomst in Genève. Maar of er in een weekje tijd echt wat bewerkstelligd kan worden? Dat lijkt twijfelachtig. Maar het kan zeker het begin zijn van een breedgedragen discussie op politiek niveau die uiteindelijk uitmondt in een helder standpunt omtrent een gevaar dat rap op ons afstormt.

Hoewel de politiek het probleem van de killer robots nog maar net ontdekt, waarschuwen onderzoekers al jaren voor de geautomatiseerde wapensystemen. In 2015 riepen ruim 2000 experts op het gebied van kunstmatige intelligentie en robotica de VN op om in actie te komen en een standpunt in te nemen omtrent de killer robots. Afgelopen zomer kreeg die brief een vervolg. Dit keer werd deze ondertekend door technologiebedrijven en wetenschappers. Een unicum: het komt niet zo vaak voor dat wetenschappers én bedrijven de politiek oproepen om maatregelen te nemen die leiden tot beperkingen binnen hun eigen vakgebied.