Intelligente robots die veel meer dan mensen kunnen, zijn in opkomst. Staat het beroep van de menselijke arts op de tocht?

Mensen worden in onze huidige tijd steeds vaker vervangen door machines. Denk bijvoorbeeld aan de automatisering in fabrieken en kantoren, of bijvoorbeeld de zelfscan-kassa in de supermarkt. De ontwikkelingen op het gebied van automatisering gaan hard. Uit onderzoek van de Universiteit van Oxford blijkt bijvoorbeeld dat bijna vier op de tien Nederlandse werknemers de kans lopen om in de komende twee decennia vervangen te worden door computers, robots en andere machines. Vooral telemarketeers, belastingadviseurs en verzekeringsacceptanten moeten voor hun banen vrezen. Maar is het denkbaar dat onze vertrouwde huisarts ook aan dit rijtje toegevoegd gaat worden?

Veranderingen in de gezondheidszorg
Ook de gezondheidszorg automatiseert. En daar is op zich niets mis mee. Zo moet dit het werk van mensen juist verlichten en ondersteuning bieden. “Veel data-toepassingen kunnen zinvol zijn om bepaalde taken die saai, of tijdrovend zijn efficiënter in te richten,” vertelt medisch ethicus Karin Jongsma. “We willen niet dat de zorg te duur wordt en daardoor niet meer voor iedereen toegankelijk of betaalbaar is. Digitalisering kan ervoor zorgen dat het zover niet komt.” En tegenwoordig worden er steeds vaker slimme technologieën ingezet in de gezondheidszorg. “Denk bijvoorbeeld aan algoritmes die kunnen helpen bij het voorspellen van een lage bloeddruk tijdens operaties of het monitoren van chronische zieken thuis,” somt Jongsma op.


Maak kennis met dokter Watson
Sommige toepassingen gaan nog een stapje verder. De Amerikaanse computergigant IBM ontwikkelde bijvoorbeeld de supercomputer Watson. Stel je ‘m een vraag, dan kan hij na een zoektocht door een verzameling van encyclopedieën, boeken, tijdschriften, wetenschappelijke artikelen en gedownloade websites binnen enkele seconden het juiste antwoord formuleren. Nadat Watson dit trucje onder de knie kreeg, werd het werkveld verbreed en richtte de robot zijn pijlen op de gezondheidszorg. Zo werd Watson getraind op het gebied van medische taal en kennis. Onderzoekers investeerden duizenden uren zodat de robot zich de complexe en klinische informatie eigen kon maken. En met succes. Zo slaagde Watson na een jaar medicijnen gestudeerd te hebben aan de Memorial Sloan Kettering Cancer Center in New York, glansrijk voor zijn oncologie-examen. Op dit moment werkt de robot samen met artsen om de best mogelijke behandelplannen voor patiënten op te stellen.

Een vroeg prototype van supercomputer Watson. De computer had oorspronkelijk de grootte van een grote slaapkamer in 2011. Afbeelding: Clockready (via Wikimedia Commons)

Slimme robots
De gedachtegang dat robots op sommige vlakken in staat zullen zijn om de mens te overtreffen is geen hele gekke. De Zwitserse onderzoeker Jörg Goldhahn stelt bijvoorbeeld dat robots de potentie hebben om nauwkeuriger te zijn dan menselijke artsen bij het stellen van diagnoses in specialismen zoals radiologie, dermatologie en op de intensive care. Ook zou een robot beter zijn in het uitvoeren van chirurgische ingrepen, omdat hij een vastere hand heeft. Daarnaast kan alle beschikbare informatie over de gezondheidszorg door ‘machine learning’ aan de robot ‘gevoerd’ worden, zodat hij uiteindelijk over alle mogelijke feitenkennis beschikt. “Het idee dat artsen van vandaag de dag deze kennis zouden kunnen benaderen, is een illusie,” stelt Goldhahn. Met dit soort slimme, medische robots wordt in China al volop geëxperimenteerd. Zo ontwikkelden onderzoekers van de universiteit van Tsinhua de robot Xiaoyi, die twee miljoen medische dossiers en een miljoen bijbehorende afbeeldingen voorgeschoteld kreeg; veel meer dan een mens ooit zou kunnen onthouden. Xiaoyi werd vervolgens ingeschreven voor het nationale medische theorie-examen. En de robot schreef geschiedenis: zo was hij de eerste robot ter wereld die slaagde voor de toets. Om voor het examen te slagen zijn er minimaal 360 punten nodig, de maximale score is 600. Xiaoyi scoorde er 456, een ruime voldoende en beter dan menig menselijke arts in opleiding.

Aansprakelijkheid
Hebben we het over robots die zelf autonome beslissingen kunnen nemen, dan komt ook de vraag op wie er aansprakelijk is als het fout gaat. Wat als een robot bijvoorbeeld een verkeerde diagnose stelt? “Machines en robots kunnen daar zelf niet verantwoordelijk voor worden gehouden,” zegt Jongsma. “In dit geval zal de maker of de ontwikkelaar ervoor opdraaien. Zij ontwikkelen namelijk een machine die oncontroleerbaar of onvoorspelbaar is, en bouwen dus de potentie van onzekerheid in, en kunnen zich daarom niet ontdoen van hun verantwoordelijkheid.”

Wordt het werkelijkheid?
Het lijkt er dus op dat de mens het op veel vlakken moet afleggen tegenover de robot. En als de ontwikkelingen op dit vlak doorgaan, moeten we er dan rekening mee gaan houden dat we straks niet meer tegenover een mens, maar tegenover een robot in de spreekkamer van de huisarts komen te zitten? Nee, stelt Jongsma. “Ik denk dat het een grove misvatting is om te stellen dat een arts vervangen kan worden door een machine,” zegt ze. “Zorg is niet alleen maar het hebben van kennis over een diagnose of behandeling. Een groot deel van de zorg bestaat uit omgaan met onzekerheid en moeilijke beslissingen; in heel veel gevallen is het onduidelijk wat het juiste is om te doen. Er zijn zoveel ethische dilemma’s in de gezondheidszorg. Denk bijvoorbeeld aan morele keuzes zoals abortus, of de keuze of doorbehandelen op een bepaald moment nog goed is of niet. Hoe zou een robot moeten beslissen in zo’n situatie? Zulke dilemma’s kunnen niet genegeerd worden bij de ontwikkeling van dit soort technologie.” Ook de Zwitserse onderzoekers Vanessa Rampton en Giatgen Spinas denken dat de menselijke arts nooit helemaal afgeschreven gaat worden. Zo stellen zij dat de dokter-patiëntrelatie zo essentieel is, dat deze nooit vervangen kan worden door een robot. Een arts kan bijvoorbeeld rekening houden met de voorkeuren, waarden en sociale omstandigheden van een patiënt. “Het gevoel dat patiënten gehoord worden door iemand die de ernst van het probleem begrijpt en wie ze kunnen vertrouwen kan cruciaal zijn,” betogen Rampton en Spinas.


“Intelligentie is meer dan simpelweg rekenkracht”

Vooroordelen
Daar komt nog bij dat ook computers vooroordelen kunnen ontwikkelen. “Er is veel onderzoek naar vooroordelen die er bij algoritmes in kunnen sluipen,” zegt Jongsma. “Racistische en seksistische vooronderstellingen zijn al een vaak genoemd probleem. Ook op minder zichtbare verschillen, zoals beperkingen of handicaps blijken algoritmes te discrimineren.” Ook uit een studie van de Universiteit van Cardiff bleek dat computers in staat zijn om vooroordelen te ontwikkelen. In de studie moesten de computers geld doneren aan een robot binnen hun eigen groep, of iemand buiten hun groep. Na duizenden simulaties bleken de robots vooral te kiezen voor strategieën die hen op korte termijn winst opleverden. Als gevolg daarvan bleken ze steeds meer bevooroordeeld te zijn ten opzichte van robots uit andere groepen. Daarnaast zijn algoritmes niet opgewassen tegen de vooroordelen die op het internet wortel hebben geschoten. Op basis van zoekresultaten op het internet halen algoritmes namelijk informatie op. En deze informatie is niet vrij van stereotypering of vooroordelen. Google maar eens op CEO van bedrijven, en de eerste vier pagina’s zijn voornamelijk witte mannen. Google je op ‘playing with children’ dan vind je voornamelijk vrouwen, terwijl de zoekopdracht ‘kicking person’ weer juist meer mannen oplevert. “Deze informatie is geen realistische afspiegeling van de daadwerkelijke wereld, maar wel van vooroordelen en stereotyperende plaatjes als die gevoed worden aan een algoritme,” zegt Jongsma. “Dit laat zien dat hebben van data één ding is, maar dat de interpretatie daarvan ook intelligentie, reflectie en creativiteit vereist. Intelligentie is meer dan simpelweg rekenkracht.”

Moeten we het willen?
We zijn er dus nog niet. Toch hebben slimme robots heel wat potentie. Het vakgebied staat op dit moment eigenlijk nog maar in de kinderschoenen. Hoewel machines op dit moment nog niet op alle vlakken beter zijn dan de menselijke arts, is het slechts een technische uitdaging om de beperkingen waar we nu tegenaan lopen, te overkomen. Daarnaast heeft ook de mens zo zijn zwaktes. Denk bijvoorbeeld aan problematiek die om de hoek komt kijken door culturele of persoonlijke denkwijzen en voorkeuren. Machines zouden wellicht op den duur objectiever kunnen zijn dan de mens in het maken van keuzes en zichzelf kunnen verbeteren op een snelheid die de mens niet kan evenaren. Volgens Goldhahn zouden zelfs complexe, klinische redenaties kunnen worden gesimuleerd inclusief ethische en economische overwegingen. Maar dan is de vraag; moeten we dit eigenlijk wel willen? “Ik denk niet dat we hele intelligente robots moeten willen,” zegt Jongsma. “Intelligentie betekent ook in staat zijn tot creatief denken: het doorbreken van bepaalde heersende patronen en overstijgen van grenzen. Als we dit van een machine vragen, wordt hij oncontroleerbaar. In dat geval werkt hij niet meer voor ons en heeft hij dus geen ondersteunende taak meer, en juist het ondersteunende maakt technologie handig of wenselijk.”

Dat de huisarts volledig vervangen gaat worden door een robot is in ieder geval nu nog niet aan de orde. Zo geeft ook dokter Watson geen absolute antwoorden en treedt hij slechts op als adviseur en iemand om mee te sparren. De arts maakt uiteindelijk zijn eigen afweging, maar krijgt wel inzage in alle gegevens die ten grondslag liggen aan de aanbevelingen van Watson. Ook Rampton en Spinas denken dat robots zeer nuttig en een heel innovatief hulpmiddel in de gezondheidszorg kunnen zijn. Wel hopen ze dat er altijd ruimte zal blijven voor professionele, menselijke artsen. En daar sluit Jongsma zich bij aan. “Algoritmes kunnen ons wel helpen bij het analyseren van data,” zegt ze. “Maar de interpretatie en de zorg die daarop afgestemd wordt, moet volgens mij wel echt mensenwerk blijven.”