Ook kunstmatige intelligentie kan vooroordelen ontwikkelen

Dat blijkt uit duizenden simulaties.

Voor het hebben van vooroordelen hoef je geen mens te zijn. Uit een nieuw onderzoek gepubliceerd in het tijdschrift Scientific Reports blijkt namelijk dat machines net zo goed vooroordelen kunnen ontwikkelen. Dit doen ze door eenvoudigweg dit gedrag van elkaar over te nemen.

Vooroordelen en machines
Het lijkt misschien zo dat het hebben van vooroordelen een mens-specifiek fenomeen is. Zo zou het menselijke kennis vereisen om een mening of stereotyperend beeld over iemand te vormen. Maar niets is minder waar. Zo bleek al eerder dat sommige soorten computeralgoritmen racisme en seksisme vertoonden. Dit leerden ze uit openbare registers die door mensen waren gegenereerd. De nieuwe studie laat echter zien dat computers ook in staat zijn zelfstandig vooroordelen te vormen.

Spel
De wetenschappers zette voor dit onderzoek een gesimuleerd spel op. In dit spel moest elke computer kiezen of hij iets zou geven aan iemand binnen zijn eigen groep, of aan iemand van een andere groep. Deze keuze maakten ze op basis van de reputatie van elke computer. Ook hun eigen strategie speelde een rol. En uit de bevindingen blijkt dat de computers steeds meer bevooroordeeld werden tegenover degenen uit andere groepen.

Simulaties
Na duizenden simulaties blijkt dat de computers nieuwe strategieën hadden geleerd door elkaar te kopiëren. Hierdoor begonnen de onderzoekers grip te krijgen op hoe vooroordelen evolueren over tijd en welke condities het bevordert of belemmert. Zo blijkt dat de computers strategieën ontwikkelden die hen op korte termijn een betere uitkomst opleverden. Dit betekent dus dat deze beslissingen geen hoge, cognitieve vaardigheden vereisen om vooroordelen te ontwikkelen.

Autonome machines
“Onze simulaties tonen aan dat het hebben van vooroordelen een sterke natuurkracht is,” stelt onderzoeker Roger Whitaker. “Daarnaast kan het gemakkelijk over tijd worden gestimuleerd in virtuele populaties.” Iets dat nog weleens nadelig kan gaan uitpakken. Zeker nu autonome machines – neem bijvoorbeeld zelfbesturende voertuigen of Internet of Things – steeds meer in opkomst komen. “Het is goed mogelijk dat autonome machines in de toekomst vatbaar zouden kunnen zijn voor de nadelige verschijnselen die we in de menselijke populatie tegenkomen,” waarschuwt Whitaker.

Toch is er ook nog hoop voor wie op dit moment grote teleurstelling voelt. Zo blijkt dat onder bepaalde omstandigheden, waaronder de aanwezigheid van afzonderlijke subgroepen binnen een populatie, er minder vooroordelen zijn. Wellicht dat dit de pijn wat verzacht.

Bronmateriaal

"Could AI robots develop prejudice on their own?" - Cardiff University (via EurekAlert)

Afbeelding bovenaan dit artikel: geralt / Pixabay

Fout gevonden?

Voor jou geselecteerd