Wetenschapper maakt robot die ervoor kan kiezen mensen pijn te doen

Engineer en kunstenaar Alexander Reben heeft een robot ontwikkeld die autonoom en expres de eerste wet van Asimov kan breken.

De door Reben ontwikkelde robot is heel eenvoudig. Feitelijk is het een robotarmpje met aan het uiteinde een naald. Wanneer je je naast de robot legt, strekt de robotarm zich uit en kan deze besluiten de naald in je vinger te duwen. Maar dat hoeft niet: de robot kan er ook voor kiezen om je geen pijn te doen. “De robot besluit voor elke persoon die hij detecteert of hij deze verwondt,” stelt Reben. Of de robot dat doet, is zelfs voor hem – degene die de robot maakte – niet te voorspellen.

De wetten van de robotica
Reben noemt de robot ‘First Law’. Een verwijzing naar de drie wetten van robotica van Isaac Asimov. Deze sciencefictionschrijver stelde dat een robot aan drie wetten moet voldoen: ten eerste mag deze een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt. Ten tweede moet de robot de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de eerste wet. En ten derde moet een robot zijn eigen bestaan beschermen, tenzij die bescherming in strijd is met de eerst of tweede wet.

Aan het denken zetten
De robot van Reben breekt duidelijk de eerste wet. En dat is bijzonder. Natuurlijk zijn er reeds robots of systemen die mensen kunnen verwonden. Denk bijvoorbeeld aan drones met daarop wapens of landmijnen. Maar in het eerste geval is er altijd een persoon die uiteindelijk de beslissing neemt om die wapens wel of niet te gebruiken. En in het tweede geval geldt: de landmijn gaat altijd af als iemand deze raakt. “Deze robot onderscheidt zich hiervan door het besluitvormingsproces,” stelt Reben. “Een landmijn gaat bijvoorbeeld altijd af als iemand erop gaat staan, dus er wordt geen beslissing genomen.” Een drone wordt bestuurd door een persoon, dus ook in dat geval is de keuze om te vuren of niet geen machinaal proces. De robot van Reben onderscheidt zich duidelijk van deze systemen. “Het feit dat de robot soms besluit om iemand geen pijn te doen (en dat is onvoorspelbaar) brengt belangrijke vragen met zich mee en maakt deze uniek.”

Reben wil mensen met de ontwikkeling van de robot aan het denken zetten. Hij toont aan dat robots die mensen schade toebrengen eenvoudig te maken zijn. “Nu deze klasse robots bestaat, moeten we de confrontatie aangaan,” vindt hij

Bronmateriaal

"The First Law" - Areben.com

Fout gevonden?

Voor jou geselecteerd