En onthult tevens waarom kunstmatige intelligentie onze wereld nooit helemaal zal doorgronden.

Het algoritme – dat opduikt in een nieuw boek, geschreven door Meredith Broussard, professor aan de New York University – houdt rekening met verschillende variabelen. Bijvoorbeeld de leeftijd en het geslacht van de passagiers, maar ook of ze eerste, tweede of derde klas reisden.

Klasse
En met die informatie op zak bleek het algoritme in 97% van de gevallen correct te ‘voorspellen’ of een passagier de reis overleefde of niet. De calculaties wijzen bovendien uit welke factor het meest bepalend was: de reisklassen. Zo hadden passagiers die eerste klas reisden betere overlevingskansen dan passagiers die tweede klas reisden.

Tekortkoming
Het algoritme was dus zeer accuraat. Maar kon het verder verbeterd worden, zodat het voor alle passagiers kon vertellen hoe de ramp was afgelopen? Dat lukte niet. En dat laat ons ook direct de grote tekortkoming van kunstmatige intelligentie zien, zo betoogt Broussard. “Onze statistische voorspelling van wie overleefde en wie stierf op de Titanic zal nooit 100% kloppen – geen enkele statistische voorspelling zal ooit 100% accuraat zijn – omdat mensen geen statistieken zijn en dat ook nooit zullen worden.” Zo waren er bijvoorbeeld twee passagiers aan boord van de Titanic wiens lot niet bepaald werd door leeftijd, geslacht of het feit dat ze eerste, tweede of derde klas reisden. Hun overlevingskansen werden bepaald door hoever ze konden springen toen ze van het zinkende schip wegvluchtten.

Waarschuwing
De constatering van Broussard moet gezien worden als een waarschuwing die zeker moet klinken in onze tijd, waarin beslissingen vrijwel louter gemaakt worden op basis van technologie en data. “We zouden ondertussen moeten weten dat er dingen zijn die machines nooit kunnen leren en dat een menselijk oordeel (…) en interpretatie altijd nodig is.” Broussard verzet zich in haar boek welbeschoud tegen de groei van technochauvinisme: het idee dat technologie altijd de oplossing is.

“We zouden ondertussen moeten weten dat er dingen zijn die machines nooit kunnen leren”

Ze wijst erop dat de digitalisering hardnekkige sociale problemen niet oplost, maar misschien zelfs vergroot. “Ons Titanic-model kan gebruikt worden om goed te praten dat je eerste klas-reizigers minder geld vraagt voor de reisverzekering, maar dat is absurd: we zouden mensen niet moeten straffen voor het feit dat ze niet rijk genoeg zijn om eerste klas te reizen (…) Als we prijsalgoritmes baseren op hoe de wereld eruit ziet, zullen vrouwen en arme mensen en minderheden onvermijdelijk meer moeten betalen. Wiskundigen worden daar altijd door verrast: vrouwen en armen en minderheden niet. Ras, geslacht en klasse beïnvloeden de prijs op verschillende duidelijke en slinkse manieren. Vrouwen betalen meer dan mannen voor het knippen van de haren, de stomerij, scheermesjes en zelfs deodorant (…) Afro-Amerikanen die in een restaurant bedienen krijgen minder fooi dan hun blanke collega’s.”

Eigenlijk stelt Broussard dat technologie er is voor de mensen en niet andersom. Technologie moet de wereld dus tot een betere plek maken. En niet alleen voor de rijken op aarde. Daarom moeten we goed nadenken over de tekortkomingen of grenzen van technologie en op basis daarvan beslissen wat we ermee doen.