Elk jaar viert de Universiteit Leiden Internationale Vrouwendag met de Annie Romein-Verschoorlezing. Dit jaar verzorgt Maaike Harbers, onderzoeker en lector Artificial Intelligence & Society aan de Hogeschool Rotterdam, de lezing. Ze neemt het publiek mee in de wereld van kunstmatige intelligentie, maar dan met een feministische invalshoek.
AI is niet neutraal
Het idee dat technologie objectief is, houdt hardnekkig stand. Computers rekenen, algoritmes optimaliseren, data spreekt voor zich. Een beeld dat waarschijnlijk voortkomt uit het feit dat technologie aan de rand van de exacte wetenschappen opereert – een domein dat nog steeds grotendeels door mannen wordt beheerst en dat daardoor vaak wordt gepresenteerd als neutraal en rationeel.
Maar dit idee van objectiviteit is niet alleen misleidend, het is gevaarlijk. Technologie wordt immers ontworpen door mensen, gevoed door data die voortkomt uit een ongelijke samenleving.
Harbers is als onderzoeker op het gebied van Artificial Intelligence & Society gespecialiseerd in de ethische vraagstukken rondom AI. Zij onderzoekt hoe kunstmatige intelligentie op een verantwoorde manier kan worden ontworpen en ingezet. Haar werk richt zich met name op de relatie tussen AI-technologie en inclusiviteit. Volgens Harbers moeten we ons veel beter bewust worden van het feit dat AI allesbehalve neutraal is. In plaats daarvan wordt het gestuurd door de vooroordelen die diep geworteld zitten in onze samenleving.
Benadelen van minderheden
“Vraag een AI om een afbeelding van een dokter of professor te genereren, en de kans is groot dat je een man te zien krijgt”, begint Harbers haar verhaal. Het is een treffend voorbeeld van hoe we technologie vaak als neutraal beschouwen, terwijl het allesbehalve dat is. Volgens Harbers zit er een fundamentele bias in de systemen die we zelf hebben gebouwd – en dat is precies waar haar onderzoek zich op richt.
Artificiële intelligentie (AI) is namelijk een technologie die minderheidsgroepen vaak benadeelt. Volgens Harbers is dat geen toeval. “Technologie weerspiegelt de samenleving, met al haar ongelijkheden”, zegt ze. “AI discrimineert sneller dan je denkt”. Een schrijnend voorbeeld daarvan is de beruchte toeslagenaffaire, waar AI-systemen massaal mensen op basis van etniciteit benadeelden. Maar ook gender is een factor die de technologie niet onberoerd laat. Dit is precies de reden waarom het zo’n relevante en urgentie discussie is, juist op Internationale Vrouwendag. Want als we niet kritisch blijven, dreigen we een toekomst te creëren waarin technologie de bestaande ongelijkheden versterkt.
Misschien denk je: ‘Wat maakt het uit of AI een professor als man of vrouw afbeeldt?’ Maar juist dat soort schijnbaar onschuldige representaties houden diepgewortelde stereotypen in stand. “In de maatschappij zijn mannen en vrouwen steeds gelijker, maar als AI constant oude vooroordelen bevestigt, zetten we die vooruitgang juist weer een stap terug”, legt Harbers uit.
AI beïnvloedt je leven – maar niet altijd op een goeie manier
Het onderwerp is des te urgenter omdat AI steeds dieper doordringt in vrijwel alle domeinen van de samenleving: van grote techbedrijven tot de zorg, van overheidsbeleid tot werving en selectie op de arbeidsmarkt. Voor de meeste mensen is kunstmatige intelligentie inmiddels geen abstract concept meer, maar een onzichtbare infrastructuur die dagelijks mee beslist. Dat zou geen probleem hoeven te zijn als iedereen gelijk werd behandeld. Maar dat is niet het geval.
Bij online vacatureplatforms sturen algoritmes wie welke banen te zien krijgt. “Mannen klikken vaker op goedbetaalde functies”, vertelt Harbers. “Het systeem leert daaruit dat mannen daarin geïnteresseerd zijn, en toont vrouwen vervolgens veel minder vaak die vacatures”. Het gevolg: vrouwen krijgen minder zicht op hogere functies en blijven structureel achter in salaris.
Ook in de gezondheidszorg nemen AI-systemen beslissingen op basis van data – maar die data is allesbehalve neutraal. “Hartaanvallen bij mannen worden sneller herkend dan bij vrouwen”, zegt Harbers, “simpelweg omdat er historisch veel minder onderzoek is gedaan naar hartproblemen bij vrouwen”. Wat ontbreekt in de data, ontbreekt ook in het algoritme. Zulke blinde vlekken kunnen letterlijk het verschil betekenen tussen leven en dood.
Geen toeval, maar structuur
Waar komt die hardnekkige bias in AI-systemen vandaan? Een belangrijke oorzaak is het gebrek aan diverse data. “Gezichtsherkenningssoftware werkt bijvoorbeeld aantoonbaar beter voor witte mannen dan voor zwarte vrouwen”, vertelt Harbers. “Niet omdat de technologie faalt, maar omdat het wordt getraind met datasets waarin vooral witte mannen zijn vertegenwoordigd”.
Maar data is slechts een deel van het verhaal. Minstens zo bepalend is wie de technologie ontwikkelt. Kunstmatige intelligentie is nog altijd grotendeels een mannenbolwerk. “Er studeren veel meer mannen kunstmatige intelligentie en zij domineren ook de banen als AI-developer”, stelt Harbers. Die scheve verdeling is volgens haar het resultaat van vroege socialisatie. Meisjes worden van jongs af aan minder aangemoedigd om ruimtelijk en technisch te denken, vaardigheden die cruciaal zijn in dit vakgebied. Harbers, die zelf promoveerde in kunstmatige intelligentie aan de Universiteit Utrecht, ziet hoe die ongelijkheid zich vervolgens vertaalt naar technologie die slechts een beperkt perspectief weerspiegelt.
Diversiteit en ethiek
Een eenvoudige oplossing bestaat niet, benadrukt Harbers. “Het is een lange weg”. Toch is de richting helder: “Als we als samenleving inclusiever en eerlijker worden, worden onze AI-systemen dat ook”. Dat vraagt allereerst om meer diversiteit in de techwereld. Méer vrouwen en méer mensen van kleur die betrokken zijn bij het ontwerpen en ontwikkelen van AI is volgens haar een noodzakelijke stap.
Daarnaast pleit Harbers voor een bredere benadering van kunstmatige intelligentie, waarin ethiek geen bijzaak is maar een integraal onderdeel. “AI mag geen exclusief domein zijn van techneuten”, vindt ze. “Ook ethici, sociale wetenschappers en de mensen die met deze systemen te maken krijgen, moeten structureel worden betrokken”.
Voor echt neutrale AI moet niet alleen de technologie veranderen, maar ook de wereld én onze blik daarop. Zolang we AI als onschuldig zien, blijven bestaande machtsverhoudingen onzichtbaar.
Telefoon Redactie
071 - 5425160
