Er is nog wel wat werk aan de winkel, maar kunstmatige intelligentie komt eraan. Reden tot zorg of reden tot vreugde?

Een machine die kan denken, die bewustzijn heeft: lang was het het domein van sciencefiction-schrijvers, maar dat is aan het veranderen. Vandaag de dag is kunstmatige intelligentie iets waar grote bedrijven en wetenschappers zich in alle ernst over buigen. En met name de laatste jaren neemt het onderzoek naar en de investeringen in AI een vlucht. “Grote bedrijven hebben miljarden dollars geïnvesteerd in de ontwikkeling van technologie op dit gebied,” zo schrijft onderzoeker Steve Omohundro in het bijzonder fascinerende boek ‘Machines die denken‘. “Een techniek als machinaal leren wordt al als vanzelfsprekend toegepast voor spraakherkenning, vertalen, gedragsmodellering, robotaansturing en risicobeheer. McKinsey voorspelt dat AI-technologieën rond 2025 een economische waarde van vijftig biljoen dollar zullen vertegenwoordigen.” Maar tegelijkertijd met de waarde nemen ook de zorgen omtrent AI toe. “Uit onderzoek naar het gedrag van zelfverbeterende systemen is gebleken dat deze systemen de neiging vertonen naar hun hoofddoel toe te werken via een reeks van ‘rationele’ subdoelen, zoals het voorkomen dat het systeem wordt stilgelegd, het verwerven van zo veel mogelijk computervermogen, het maken van een veelvoud aan kopieën van zichzelf en het vergaren van financiële reserves. Bij het realiseren van deze subdoelen zullen deze systemen nietsontziend te werk gaan, tenzij ze zo zijn ontworpen dat hun beslissingen en keuzes zijn gebaseerd op menselijke ethische waarden.”

Een supercomputer. Afbeelding: Argonne National Laboratory.

Een supercomputer. Afbeelding: Argonne National Laboratory.

Morele beslissingen
En daar komen we op een heel belangrijk punt: intelligente machines zijn leuk, zo lang ze zich aan de spelregels houden. Maar hoe moet het als die regels niet zo eenduidig zijn? Als ze een beroep doen op de moraal? Onderzoeker Benjamin K. Bergen, verbonden aan de universiteit van Californië geeft in zijn bijdrage aan het boek een voorbeeld. “Een zelfrijdende auto bespeurt op een drukke weg een voetganger die ineens voor hem langs rent. De auto heeft direct in de gaten dat schade niet te vermijden is. Als hij doorrijdt, volgt er een botsing en onvermijdelijk letsel bij de voetganger. Als hij snel remt, wordt de auto van achteren aangereden, met de daarmee gepaard gaande schade en mogelijk letsel. Dat gebeurt ook als hij van richting verandert. Op welk protocol moet een machine zijn beslissingen baseren? Hoe moet het verschillende soorten mogelijk letsel aan verschillende actoren bepalen en tegen elkaar afwegen? Hoeveel letsel, hoeveel kans daarop en van welke aard, is een slachtoffer waard? Hoeveel materiële schade weegt op tegen een kans van 20 procent op een whiplash? Dit soort vragen is lastig te beantwoorden. Het zijn vragen die niet op zijn te lossen met meer data of rekencapaciteit. Het zijn vragen die gaan over wat er moreel gezien juist is.”
Maar moreel inzicht is niet een trucje dat je even aan een superintelligentie leert. Want de moraal verandert door de tijd heen en verschilt van cultuur tot cultuur. En de kleinste details in een scenario kunnen een morele afweging compleet op zijn kop zetten. Om even terug te gaan naar het voorbeeld van de zelfrijdende auto: ga eens na hoe je afweging verandert als je je realiseert dat die voetganger die oversteekt een meisje van een jaar of twee is.

Empathie
En moreel inzicht is niet de enige tekortkoming die denkende machines op dit moment hebben. Ze missen nog heel wat andere menselijke vaardigheden, bijvoorbeeld creativiteit en empathie. Kortom: kunstmatige intelligentie is in opkomst, maar we zijn er nog lang niet. Een aantal onderzoekers dat momenteel werkt aan Google DeepMind denkt er net zo over. Ze wijzen erop dat er nog een aantal ingewikkelde kwesties moeten worden opgelost. “Al zijn ze moeilijk, we kunnen deze problemen verhelpen, maar daar is een generatie van getalenteerde wetenschappers voor nodig die kan beschikken over voldoende computercapaciteit en die zich laat inspireren door inzichten uit de systeem-neurowetenschappen en machineleren.” Het goede nieuws is dat dat ons ook de tijd geeft om ons voor te bereiden op de komst van AI en de vraagstukken die daarbij horen.

“De AI’s zullen onze redding zijn”

Redding
Er is dus nog veel werk aan de winkel, maar AI komt eraan. En is dat reden tot zorg? De meningen zijn verdeeld. Zo ziet onderzoeker Frank Tipler, verbonden aan Tulane University AI als de redding van de mensheid. Hij wijst erop dat de aarde ten dode is opgeschreven en we de ruimte zullen moeten koloniseren. “Mensen zijn niet aangepast aan een leven anders dan dat op aarde, geen enkele op koolstof gebaseerde levensvorm is dat. Maar AI’s zijn dat wel en het zullen uiteindelijk de AI’s zijn en human uploads (een met een menselijke geest geüploade computer) die de ruimte zullen koloniseren (…) Een human upload kan net zo snel denken als een AI en hoeft dus ook niet voor een AI onder te doen. If you can’t beat them, join them. Uiteindelijk zullen alle mensen zich bij hen aansluiten. De aarde is immers ten dode opgeschreven. Wanneer het einde nadert, zal ieder mens die wil blijven leven, die niet ten onder wil gaan, geen andere keus hebben dan een human upload te worden. En de biosfeer die deze human uploads willen behouden, zal door hen eveneens worden geüpload. De AI’s zullen onze redding zijn.”

Cognitiewetenschapper Joscha Bach, verbonden aan MIT, is iets voorzichtiger. Hij stelt dat de opkomst van AI een vloek en een zegen kan zijn, afhankelijk van hoe we de denkende machines inzetten. “De drijfveren van onze kunstmatige intelligenties zullen (althans in het begin) die van de organisaties, bedrijven, groeperingen en individuen zijn die er gebruik van maken. Getuigt een businessmodel van een bedrijf van slechte bedoelingen, dan heeft AI de potentie zo’n bedrijf tot een regelrecht gevaar te maken. En probeert een organisatie het lot der mensheid te verbeteren, dan helpt AI haar haar menslievende potentieel te realiseren. De motivatie van onze AI staat of valt bij de bestaande bouwstenen van onze maatschappij; elke samenleving krijgt de AI die ze verdient.”

Hoe denk jij over kunstmatige intelligentie? Laat het ons hieronder weten!

Machines die denken (****)
In het boek ‘Machines die denken‘ geven bijna 200 invloedrijke denkers – wetenschappers, auteurs en kunstenaars – antwoord op de vraag: Hoe denk je over machines die denken?’ De antwoorden stippen verschillende aspecten van AI aan – van veiligheid tot cognitieve tekortkomingen en van doemscenario’s tot hoopgevende verwachtingen. Daarmee geeft het boek een goed beeld van de huidige stand van zaken, maar bovenal van de vele vraagstukken en dilemma’s die de opkomst van AI met zich meebrengt. Een boek dat je aan het denken zet.