20121126-164437.jpg

De universiteit van Cambridge gaat een nieuw centrum beginnen, waar wetenschappers, filosofen en computertechnici kunnen discussiëren over de voor- en nadelen van kunstmatige intelligentie, en daarmee zelfs het voortbestaan van de mens.

Het centrum is een serieuze poging om wetenschappers beter inzicht te geven in de voors en tegens van AI, ‘Artificial Intelligence’. Want, zo redeneren de onderzoekers, dat zou mogelijk een gevaar kunnen gaan vormen voor de wereld.

Bestaansbedreigende technologiën
Het centrum wordt opgericht door een filosoof, een onderzoeker, en een computerwetenschapper. In het ‘Center for the Study of Existential Risk’ (CSER), kan over alles worden gediscussieerd wat met de toekomst van technologie te maken heeft, maar vooral over “technologieën die ons bestaan kunnen bedreigen.” Dat kan gaan over bio- en nanotechnologie, maar ook over klimaatverandering of over kunstmatige intelligentie.

Steeds slimmer
Er zijn tal van voorbeelden te noemen over robots die zichzef van alles aanleren: Tafeltennisen, op water lopen, of steen-papier-schaar spelen.

Nieuwe evolutie
“Kunstmatige intelligentie gaat straks ons leven beheersen,” zegt oprichter en filosoof Huw Price. “We zullen op een moment komen, in deze eeuw of misschien de volgende, dat de volgende grote stap voor de mensheid eraan gaat komen – misschien wel de grootste in onze hele kosmische historie.” Price doelt daarmee op het “verplaatsen van intelligentie buiten de grenzen van de biologie.”

Superintelligent
Price borduurt voort op een paper dat in 1965 door Irving Good werd geschreven. Good speculeerde toen al over een ‘ultra-intelligente machine’, die slimmer dan een mens zou zijn. Price: “De natuur verwachtte ons als mens niet, en toch zijn we er. Nu moeten wij niet dezelfde fout maken door AGI (Artificial General Intelligence) te onderschatten. We moeten accepteren dat we straks misschien wel een doos van Pandora gaan openen waar we niet meer van terug kunnen keren, en waarmee het voortbestaan van de mensheid wordt bedreigd.”

Ethiek bij AI
Price werd voor zijn idee geïnspireerd door gesprekken met Jaan Tallinn, mede-oprichter van Skype. Tallinn geldt als een expert op het gebied van ethiek bij AI. Price: “Ik begon na te denken over de mogelijke implicaties van AI toen Tallinn zijn zorgen erover uitsprak. Als iemand die er zo serieus over denkt, er zo bang voor is, dan weet je dat je met een serieus dilemma te maken hebt.”

Speculaties
Price en Tallinn noemen enkele voorbeelden van mogelijke gevaren van ultra-artificiële intelligentie. “Robots die mogelijk onze middelen nodig hebben, of sterker worden dan wij…” Price geeft gelijk toe dat het gaat om speculaties en er niks zeker is. “Maar juist omdát we het niet weten, moeten we er wel over na gaan denken.”

“We zijn, als mensheid, op een punt gekomen waarop we eindelijk kunnen erkennen dat onze technologie zo ver is dat deze ons bestaan zou kunnen bedreigen,” zegt Price. Hij verwacht wel dat het centrum een succes wordt, want steeds meer wetenschappers hebben volgens hem aangegeven dat het een goed idee is dat er over dergelijke zaken moet worden nagedacht. “We zouden in ieder geval een klein beetje van onze middelen in moeten zetten om over deze onzekere toekomst na te denken.”