Daarvoor pleiten meer dan 150 deskundigen in een open brief, gericht aan de Europese Commissie.

De brief kan gezien worden als een reactie op een behoorlijk omvangrijk rapport dat al in 2017 verscheen. In dat rapport krijgt de Europese Commissie het advies om robots op termijn tot rechtspersonen te bombarderen “zodat in ieder geval de meest geavanceerde autonome robots de status van elektronische personen krijgen en verantwoordelijk kunnen worden gehouden voor alle schade die ze veroorzaken”.

Verantwoordelijkheid
Heel concreet wordt er dus gezegd dat we van de meest autonome robots rechtspersonen moeten maken, zodat we ze aan kunnen klagen als ze op eigen houtje iets stoms doen. Dat klinkt op het eerste gezicht misschien niet zo gek. Maar wie er wat langer over nadenkt, komt al snel tot de conclusie dat dit wel heel prettig is voor producenten van kunstmatig intelligente systemen en robots. Zij kunnen in principe een robot ontwikkelen die vervolgens niet hun verantwoordelijkheid is; de robot is immers een rechtspersoon en dus persoonlijk verantwoordelijk voor alle schade die hij veroorzaakt. Willen we dat?

Rechten
Wat je je ook af kan vragen, is waar het heengaat als robots eenmaal rechtspersonen zijn. Want als we ze verplichtingen en verantwoordelijkheid geven, verdienen ze dan – net als natuurlijke rechtspersonen – op termijn ook rechten? En is dat wenselijk?

Nog zo’n interessante vraag…

…die aangeeft dat technologische ontwikkelingen soms om nieuwe wetgeving vraagt: wie kun je aanklagen als een zelfrijdende auto jou aanrijdt? Lees er hier alles over!

Foute aannames
Maar er is meer op het voorstel aan te merken, zo blijkt uit de open brief, die inmiddels al door meer dan 150 deskundigen op het gebied van recht, robotica en kunstmatige intelligentie is ondertekend. Zo is het volgens de ondertekenaars gebaseerd op een aantal foute aannames:
– Op dit moment is het zo dat wanneer een robot in de fout gaat, de robot zelf niet verantwoordelijk is. In plaats daarvan ligt de verantwoordelijkheid bij de eigenaar, de producent van de hardware of de producent van de software, of een combinatie daarvan. Het advies om robots tot rechtspersonen te bombarderen, is gebaseerd op het idee dat het in de nabije toekomst onmogelijk is om precies vast te stellen wie verantwoordelijk is, omdat de systemen weinig transparant en heel gesloten zullen zijn. Onzin, zo stellen de ondertekenaars.
– Daarnaast is het advies volgens de onderzoekers gebaseerd op een overwaardering van de vaardigheden van zelfs de meest geavanceerde robots van dit moment en een oppervlakkig begrip van de onvoorspelbaarheid en het leervermogen van robots. Dat alles zou het resultaat zijn van sci-fi en “een paar recente sensationele persaankondigingen”. In andere woorden: de robotica ontwikkelt zich rap, maar niet zo rap dat het gerechtvaardigd is om hier nu overhaast een juridisch kader voor te creëren dat misschien niet eens in het voordeel van ons, de inwoners van Europa, is.

Iedereen moet profiteren
Dat de huidige wetgeving omtrent robots en kunstmatige intelligentie herzien moet worden zodra er autonome systemen komen, staat buiten kijf. Maar laten we daar alsjeblieft rustig over nadenken, zo stellen de ondertekenaars van de brief. En laten we daarbij niet handelen uit een door sci-fi ingegeven angst voor robots, maar vanuit het verlangen om alle mensen van de opkomst van robotica en KI te laten profiteren.

De ondertekenaars geven de Europese Commissie genoeg voer tot nadenken. Nu is het afwachten hoe dat uitpakt…