Elk jaar viert de Universiteit Leiden Internationale Vrouwendag met de Annie Romein-Verschoorlezing. Dit jaar is geen uitzondering: op vrijdag 7 maart verzorgt Maaike Harbers, onderzoeker en lector Artificial Intelligence & Society aan de Hogeschool Rotterdam, de lezing. Van 19.30 tot 22.00 uur neemt ze het publiek mee in de wereld van kunstmatige intelligentie, maar dan met een feministische invalshoek: namelijk door een genderkritische lens.
AI is niet neutraal
“Vraag AI om een afbeelding van een dokter of professor, en je krijgt meestal een man te zien”, begint Harbers haar verhaal. “We zien technologie vaak als iets neutraals of objectiefs, maar het is verre van”, vervolgt ze. Het vormt de kern van haar lezing op vrijdagavond in het academiegebouw.
Artificiële intelligentie (AI) is namelijk een technologie die minderheidsgroepen benadeelt. Volgens Harbers is dat niet verrassend, want technologie weerspiegelt onze samenleving, inclusief de ongelijkheden die daarin bestaan, “AI discrimineert erg snel”. Dit gebeurt bijvoorbeeld op basis van etniciteit (denk aan de beruchte toeslagenaffaire), maar ook op basis van gender. En dat is natuurlijk een interessante invalshoek om dieper op in te gaan op internationale vrouwendag.
Misschien denk je Boeie! Wat maakt het uit of een AI een professor als man of vrouw afbeeldt? Maar juist dat soort schijnbaar onschuldige representaties houden stereotypering in stand. “In de maatschappij zijn mannen en vrouwen steeds gelijker geworden, maar als AI constant oude stereotypen bevestigt, zet dat die ontwikkeling steeds weer een stap terug”, zegt Harbers.
AI beïnvloedt je dagelijks leven (en niet altijd in positieve zin)
Het onderwerp is extra relevant omdat AI steeds dieper doordringt in onze maatschappij. Van grote techbedrijven tot de zorg, de overheid, en bij werving en selectie op de arbeidsmarkt. Kortom bijna overal wordt AI ingezet en de kans is groot dat je er op dagelijkse basis mee te maken krijgt, dit zou geen probleem zijn als iedereen gelijk behandeld werd, maar dat is niet het geval.
“Mannen klikken vaker op vacatures die goedbetaald zijn. Hierdoor leert het algoritme dat mannen geïnteresseerd zijn in goedbetaalde banen en krijgen vrouwen veel minder goedbetaalde vactures, en dus hogere functies, te zien krijgen waardoor ze vaak onderbetaald worden”, legt Harbers uit. En dit is nog maar het topje van de ijsberg.
Ook in de gezondheidszorg maakt AI beslissingen op basis van data—maar die data is vaak bevooroordeeld. “Bij hartaanvallen worden mannen veel sneller herkend dan vrouwen, simpelweg omdat er historisch gezien veel minder onderzoek naar hartaanvallen bij vrouwen is gedaan,” zegt Harbers. Dit soort blinde vlekken in AI kan letterlijk het verschil betekenen tussen leven en dood.
It’s a man’s world
Waar komt die bias vandaan? Een belangrijke oorzaak is een gebrek aan diverse data. “Gezichtsherkenningssoftware werkt bijvoorbeeld beter voor witte mannen dan voor zwarte vrouwen. Waarom? Omdat die systemen worden getraind met datasets waarin vooral foto’s van witte mannen zitten”.
Maar er is nóg een reden; AI wordt grotendeels ontwikkeld door mannen. “Er studeren veel meer mannen kunstmatige intelligentie en ze domineren de banen als AI-developer”, zegt Harbers. Ze behaalde zelf een PhD in kunstmatige intelligentie aan de Universiteit Utrecht, maar ziet dat meisjes van jongs af aan te weinig worden gestimuleerd in ruimtelijk en technisch denken— vaardigheden die essentieel zijn in dit vakgebied.
Diversiteit en ethiek
Volgens Harbers is de oplossing complex, zo is het een “lange weg”, maar het is wel duidelijk: “We moeten als maatschappij inclusiever en eerlijker worden, dan worden AI-systemen dat ook”.
Daarnaast is het cruciaal dat er meer diversiteit komt in de techwereld. “Meer vrouwen en meer mensen van kleur, die AI systemen ontwikkelen” is volgens Harbers een belangrijke stap. Verder moet er meer aandacht komen voor ethiek binnen kunstmatige intelligentie. Hier doet ze zelf ook onderzoek naar. “Niet alleen techneuten moeten aan AI werken, maar ook ethici, sociale wetenschappers en de mensen die daadwerkelijk met AI te maken krijgen”, stelt ze. Het problematische aan het feit dat AI voornamelijk door mannen wordt ontwikkeld, is dat technologie het wereldbeeld weerspiegelt van de mensen die het creëren. Dus zolang vooral het perspectief van de witte man de boventoon voert, zal AI dat blijven weerspiegelen.
Voor iedereen die enthousiast is geworden en meer wil leren over de invloed van AI op gender en ongelijkheid: je bent van harte welkom bij de lezing! De inloop start om 19.30 uur, en om 20.00 uur begint de lezing. De toegang is gratis, maar aanmelden is verplicht via deze link.
Telefoon Redactie
071 - 5425160
