Autonome wapens – ‘killer robots’ die zelf beslissen of ze iemand doden of niet – komen eraan. En de politiek hult zich in stilzwijgen.

Begin dit jaar luidden 116 deskundigen in een open brief – gericht aan de Verenigde Naties – de noodklok. In de brief waarschuwen ze voor de derde revolutie in oorlogsvoering. Na het buskruit en de nucleaire wapens zijn nu de volledig autonome wapens in aantocht. En daar waren de ondertekenaars van de brief heel stellig over. “Zodra ze ontworpen zijn, zullen ze ervoor zorgen dat gewapende conflicten op een grotere schaal dan ooit en veel sneller dan mensen kunnen begrijpen, worden uitgevochten. Het kunnen wapens van terreur zijn, wapens die dictators en terroristen gebruiken tegen onschuldige populaties, maar ook gehackte wapens die zich op ongewenste manieren gedragen.” Ferme taal. Maar er zit geen overdreven woord bij, zo verzekert Koen Hindriks, oprichter en CEO van Interactive Robotics en één van de ondertekenaars van de brief ons. Want de autonome wapens komen er – als we geen actie ondernemen – echt aan.

In de loop
“Simpel gezegd moet je dan denken aan machines die zelf kunnen bewegen, dus zonder aansturing van de mens en machines die zelf kunnen schieten,” vertelt Hindriks aan Scientias.nl. “Dus bijvoorbeeld een drone die uitgerust is met wapentuig.” Gewapende drones zijn er natuurlijk al. Maar nu worden ze nog op afstand, door mensen bestuurd. “En wij willen voorkomen dat de mens uit de loop gehaald wordt.”

“Machines moeten niet gaan bepalen op wie er wel of niet geschoten wordt”

Selectie
In theorie zou een gewapende drone al zonder mens uit de voeten kunnen. “Het grootste probleem is echter de kwaliteit van handelen. Zo kan een drone in theorie zelf zijn target bepalen, maar dat gaat dan op basis van beweging en is dus niet heel gedifferentieerd.” In andere woorden: de drone schiet op alles wat beweegt en gaat dus niet eerst rustig na wie er in zijn gezichtsveld loopt en of het wenselijk is dat die persoon wordt neergeschoten. “En daar gaat de brief in feite over,” stelt Hindriks. “Machines moeten niet gaan bepalen op wie er wel of niet geschoten wordt.”

Eerdere brief

De brief van Hindriks en collega’s is een vervolg op een soortgelijke brief die eerder verscheen en voornamelijk ondertekend werd door wetenschappers. Wat de meest recente brief zo bijzonder maakt, is dat de namen van bedrijven die zich bezighouden met robotica en kunstmatige intelligentie onder de brief staan. “Dat maakt direct duidelijk dat deze bedrijven zich in ieder geval niet bezighouden met de ontwikkeling van autonome wapens,” merkt Hindriks op. Zo is Hindriks zelf bezig met het tegenovergestelde van killer robots: sociale robots. “Humanoïde robots die ontworpen zijn om de interactie met mensen aan te gaan.” De robots kunnen bijvoorbeeld ingezet worden in het onderwijs, de verpleging of in kantoren voor de ontvangst van mensen. “Deze robots gaan er echt aankomen, we moeten alleen nog uitvinden welke robot het meest geschikt is voor welke taak.”

Tijdspan
Op dit moment lijkt dat ook nog niet aan de orde te zijn, simpelweg omdat we nog geen machines kunnen bouwen die geheel zelfstandig hun doelwitten kunnen selecteren, identificeren en elimineren. Maar dat gaat veranderen. Wanneer? Dat is lastig te voorspellen, stelt Hindriks. “Wij stellen – zeker hier in het westen – hoge eisen aan onze precisie-wapens. Als we die eisen ook aan onze autonome wapens stellen en ze in een onbekende omgeving in willen gaan zetten, kan het nog wel meer dan twintig jaar duren voor we zover zijn. Maar dat betekent dat we in die twintig jaar verschillende stappen moeten gaan zetten waarbij van alles mis kan gaan. Want dit soort technologieën werkt niet van de ene op de andere dag: die moet je doorontwikkelen.”

Zorg
Maar het is niet de wellicht door fatale fouten getergde ontwikkelingsfase waar Hindriks zich het meeste zorgen over maakt. “Mijn grootste zorg is dat de autonome wapens in verkeerde handen terecht komen. Hier in het westen gaan we de discussie over deze wapens nog aan. Maar er zijn samenlevingen waarin er – op nationaal niveau, want ik zie terroristische groeperingen zich niet zo snel ontwikkelen tot experts in dit soort technologieën – minder scrupuleus over wordt nagedacht. En hoe houd je daar grip op?”

Voorkomen
In het beste scenario hoeft er nergens grip op te worden gehouden en wordt de productie van autonome wapens voorkomen. Maar of het gaat lukken om ervoor te zorgen dat alle landen wereldwijd zich achter zo’n ban scharen? Dat lijkt twijfelachtig. En als autonome wapens in een paar landen toch geproduceerd gaan worden, zal het voor andere landen lastig zijn om achter te blijven. “Over de volgende stap wil je eigenlijk niet nadenken, maar dat is dat je je legers voor moet gaan bereiden op het feit dat anderen deze wapens in kunnen gaan zetten.” Dat kan eigenlijk maar op één manier: door ze zelf ook te omarmen. “En voor je het weet, zit je midden in een wapenwedloop.”

“We staan aan het begin van een discussie die op dit moment nog te veel vanuit de academische wereld gevoerd wordt”

Net als chemische wapens
Maar als een complete ban geen optie is, wat moeten we dan? “Ik denk dat je de autonome wapens op termijn goed vergelijken kan met chemische wapens,” vertelt Hindriks. “De technieken om chemische wapens te maken, zijn redelijk gemakkelijk te achterhalen en in de toekomst zal dat ook voor autonome wapens gelden.” Als het zover komt, moeten we die autonome wapens misschien wel net zo aanpakken als de chemische wapens. “Dat betekent dat je allereerst moet voorkomen dat die autonome wapens er komen. En als ze er toch komen, moet alles in het werk gesteld worden om ze weer op te ruimen.”

Een gewapende drone. Dergelijke drones worden reeds door verschillende landen ingezet, maar als er geschoten moet worden, zijn het nog altijd mensen die – op afstand – op de knop drukken. Afbeelding: Paul Ridgeway / Amerikaanse luchtmacht (via Wikimedia Commons).

De overheid
Hoewel nog onduidelijk is hoe we grip gaan houden op de autonome wapens, is wel duidelijk wie hierin een voortrekkersrol moeten spelen: overheden wereldwijd. “Maar het is lastig om overheden te mobiliseren,” weet Hindriks. Daar zijn verschillende redenen voor te bedenken. Allereerst zijn er wereldwijd genoeg andere crises die de aandacht vragen en urgenter lijken dan killer robots die wellicht over enkele decennia pas het levenslicht gaan zien. Daarnaast zullen veel van de technologieën achter de autonome wapens de gemiddelde politicus boven de pet gaan, waardoor de urgentie van dit probleem wellicht wordt onderschat. “We staan aan het begin van een discussie die op dit moment nog te veel vanuit de academische wereld gevoerd wordt,” erkent Hindriks. En dat is ook één van de redenen dat deze open brief de wereld is in geslingerd. “Er moet in de volle breedte het besef komen dat dit eraan zit te komen.”

De meeste landen hebben nog geen standpunt ingenomen over autonome wapens. Het Verenigd Koninkrijk vormt daarop een uitzondering en sprak zich in 2015 al uit tegen een ban. Maar inmiddels is het land – mede door de brief van Hindriks en collega’s – daarop teruggekomen. Het Verenigd Koninkrijk omarmde een week geleden een nieuwe militaire doctrine: wapens moeten altijd onder directe controle van mensen blijven.

De huidige stand van zaken
De meeste landen hebben zich nog niet over de kwestie uitgelaten (zie ook het kader hiernaast). De VN lijkt iets meer doordrongen van het dreigende gevaar en heeft een Group of Governmental Experts on Lethal Autonomous Weapon Systems samengesteld. In deze groep zitten deskundigen die onderzoek zullen gaan doen naar robotica en kunstmatige intelligentie en de VN op basis van hun onderzoek kunnen adviseren. Het is hoopvol. Maar met die werkgroep zijn we er zeker nog niet, zo benadrukt Hindriks. Want het is zaak dat ook alle lidstaten in de zorgen van de VN gaan delen. “En dat zien we nu nog niet. Het ene land heeft het hoger op de agenda staan dan het andere.” En zoals gezegd houden veel landen zich in deze discussie afzijdig. En dat terwijl er een grote behoefte is aan een helder standpunt van landen. Zo’n standpunt kan namelijk weer dienen als startpunt voor verdere discussies over manieren om de autonome wapens onder controle te houden.

Enige haast is wel geboden. “Ik denk dat we nog net op tijd aan de bel hebben getrokken.” Want het eerste autonome wapen mag dan nog enige tijd op zich laten wachten: ook een wereldwijde consensus die erop gericht is om grip te houden op deze wapens is er niet van de ene op de andere dag. En dit is duidelijk geen technologische ontwikkeling waarbij je het je kunt veroorloven om achter de feiten aan te lopen…