De uitdagingen/ de problemen

De Nederlandse techsector wordt gedomineerd door mannen: het aandeel van vrouwen in techberoepen is slechts 16 procent. Bron: Vrouwen verlaten vaak vroeg de techsector: wat kunnen bedrijven daaraan doen? / AD.nl/ 31-5-2022
Programmeren is een mannending, nog altijd. ‘Vrouwen moeten vanaf het begin meedenken. Hetzelfde geldt voor mensen van kleur. De weinige vrouwen zijn witte vrouwen uit de middenklasse, die weer andere problemen hebben dan zwarte vrouwen. Er is hier aan de VU een interessante rechtszaak geweest van een zwarte studente die ondervond dat de verplichte antispieksoftware die ze hier gebruikten tijdens examens in coronatijd haar niet goed herkende’. Bron: Hoogleraar computerwetenschappen vreest opmars AI: ‘Wilt u 50 euro extra betalen voor een mens? Toets 1’/ Volkskrant / 16-03-2023

Met name vrouwen van kleur blijken vaak gediscrimineerd te worden door algoritmes. Zij vallen namelijk zowel onder de groep ‘vrouwen’ als onder de groep ‘mensen van kleur’. Vrouwen van kleur worden daarom gediscrimineerd als vrouw én als persoon van kleur. Algoritmes voor gezichtsherkenning die gebruikt werden door techgiganten zoals IBM, Microsoft en Amazon bleken bijvoorbeeld de gezichten van vrouwen van kleur het slechtst te herkennen. Dit kan verstrekkende gevolgen hebben: wanneer gezichtsherkenning bijvoorbeeld wordt gebruikt bij het opsporen van misdaad, kan een vrouw van kleur hierdoor onjuist worden beschuldigd, omdat haar gezicht niet goed is herkend (Buolamwini & Gebru, 2018: 1). Bron: Computer says no tegen zwarte vrouwen. Een interdisciplinair onderzoek naar discriminatie door algoritmes jegens zwarte vrouwen/ Scriptie/ juni 2020