Kunstmatige Onbedoelde Racisme in Technologie
Introductie
Kunstmatige intelligentie is een technologie die buiten onze menselijke capaciteiten ligt. Deze systemen genereren voorspellingen die door menselijke geesten alleen maar kunnen worden bereikt als ze met grote inspanning worden bekomen. Het is uiteraard ook een veelbelovende technologie omdat het een waaier aan oplossingen en toepassingen biedt. Helaas gaat met dit soort technologie ook een risico gepaard, het risico van onbedoeld racisme.
Wat is kunstmatige intelligentie?
Kunstmatige intelligentie is de capaciteit van een machine om op cognitieve wijze te leren, beslissingen te nemen op basis van data en interactie met zijn omgeving. Hierdoor beschikt de machine over vermogen dat vergelijkbaar is met een menselijke geest. Dat betekent dat deze systemen in staat zijn om te leren uit ervaringen, te analyseren en te beslissen.
Wat is onbedoeld racisme?
Onbedoeld racisme is een culturele bias die zich ondanks fysieke achtergronden of zogenaamde ‘ugly feelings’ kan opstapelen in een gemeenschap. Deze fenomenen gaan verder dan alleen racisme; inherente concepten, zoals gendervooroordelen, komen hier ook in voor. Deze vooroordelen hebben vaak een achterliggend fenomeen dat uitgaat van stereotypering of opgeleide veronderstellingen.
Waarom leidt technologie tot onbedoelde racisme?
Kunstmatig intelligentie wordt gevoed met data die, als ze niet goed zijn geanonimiseerd, hun eigen set biases kunnen inbrengen. Deze data worden gebruikt om het systeem op te stellen. Hierdoor worden vooroordelen en discriminatie die verankerd zijn in de data overgenomen in het systeem.
Bijvoorbeeld: Als het systeem alleen op data gebaseerd is, en de data is gebaseerd op recente past-ervaringen, dan hebben mensen die verschillen in afkomst, geslacht, seksuele oriëntatie of leeftijd, alsook eerdere ervaringen, een toenemend nadeel, aangezien de data niet representatief is.
Wat is de antwoord op het probleem?
Om dit probleem het hoofd te bieden, moeten we ons best doen om datasystemen betrouwbaar te maken. We moeten de data goed identificeren en de biases in de data verrekenen. Bijvoorbeeld, als je een systeem opstelt dat is getraind op data van mannelijke kandidaten, is het belangrijk om te verduidelijken dat je ook vrouwelijke kandidaten wilt aanspreken.
Verder is het belangrijk om een verscheidenheid aan data te gebruiken, om een brede set van gezichtspunten en ervaring te garanderen. Het gebruik van een diversiteit aan bevolkingscategorieën is cruciaal. Op deze manier kunnen bedrijven ernaar streven om systemen samen te stellen die representatief zijn voor de verschillende culturen en achtergronden, en wel zo dat onbedoelde racisme wordt vermeden.
Welke tools staan tot je ter beschikking om onbedoelde racisme te voorkomen?
Er zijn verschillende tools en technieken beschikbaar om onbedoeld racisme in technologie te verminderen. Dat omvat:
- Dataontledingssoftware, waarmee ze data kunnen doorzoeken, misgelopen patronen identificeren, vervagingen meten en data beoordelen om onzekerheden en onbedoeld racisme te verminderen.
- Software voor machinelearning die bedrijven helpt om hun systemen te trainen om onbedoelde racisme te verminderen.
- Tools voor handmatige verificatie en controle die systemen helpen om nauwkeurigheid en consistentie te verbeteren.
- Verschillende technieken zoals versluiering, Morton’s Law en de Fair Exchange Method.
Hoe kunnen bedrijven voorkomen dat hun technologie onbedoeld racisme stimuleert?
Bedrijven kunnen de volgende stappen nemen om te voorkomen dat hun technologie onbedoeld racisme voedt:
- Begrijp en herken de biases die inherent zijn aan data en hoe deze gebruikt worden in AI-systemen.
- Zorg ervoor dat de datasets waarmee de AI wordt opgeleid, representatief zijn voor de doelgroepen waarvoor de technologie bedoeld is.
- Gebruik een verscheidenheid aan technieken en tools om onbedoeld racisme te detecteren en te corrigeren, zoals dataontledingssoftware, machinelearning-software, technieken voor handmatige verificatie en beperkingsmechanismen.
- Gebruik een diversiteit aan bevolkingscategorieën in AI-systemen, en betrek gebruikers uit verschillende culturen en achtergronden.
- Test systemen en modellen regelmatig op voortdurende onbedoelde vooroordelen.
Conclusie
Kunstmatige intelligentie kan veel voordelen bieden voor bedrijven en hun markten. Helaas brengt de technologie ook het risico mee van onbedoeld racisme. Gelukkig zijn er verschillende tools en technieken beschikbaar om onbedoeld racisme te detecteren en verminderen, maar het is belangrijk dat bedrijven proactief zijn als het gaat om het bereiken van gelijke representativiteit onder de gebruikers.
