Hoe AI patronen oneerlijkheid vergroot

Tegenwoordig worden door bedrijven algoritmen steeds vaker ingezet om hun processen te verbeteren en de prestaties van werknemers te verhogen. Bijgevolg worden beslissingen steeds vaker gebaseerd op kunstmatige intelligentie (AI) in plaats van directe menselijke inbreng. Hoewel AI boeiende mogelijkheden biedt en handmatige processen kan vereenvoudigen, is het ook belangrijk om de mogelijke valkuilen en gevolgen ervan te bespreken, zoals de toenemende oneerlijkheid die veroorzaakt kan worden door AI-patronen.

Wat is oneerlijkheid, en waarom is het belangrijk?

Oneerlijkheid is het ongelijkmatig verdelen van voor- en nadelen in vergelijking met een andere groep, waardoor dat er eenzijdig voordeel is voor sommigen en een handicap voor anderen. Oneerlijkheid kan zich op vele manieren manifesteren, waaronder: discriminatie, vormen van veruitwendiging, het evenwicht tussen de haves en de have-nots, en economische ongelijkheid. In het algemeen kan oneerlijkheid leiden tot problemen met betrekking tot sociale stabiliteit, waardoor het een kwestie wordt die weigert onder de radar te blijven.

De invloed van AI patronen op oneerlijkheid

AI-patronen worden vaak gebruikt voor het ontwikkelen van systemen die beslissingen over mensen nemen, waaronder de berekening van beslissingen over salarissen, beoordelingen van werknemers en voorspellingen van persoonlijke kwaliteiten. Hoewel deze algoritmen in theorie neutraal zijn, kunnen ze in de praktijk gebruikers benadelen doordat ze oneerlijke resultaten genereren. Dit gebeurt omdat AI-patronen voorspellingen maken gebaseerd op bestaande gegevens en gerelateerde waarneembare kenmerken. Als deze gegevens oneerlijk verzameld zijn of gebaseerd zijn op voorgaande discriminatie, kan de algorithmen ook oneerlijkheid versterken.

Het voorbeeld van Amazon

In 2018 onthulde een onderzoeksrapport dat Amazon een algoritm had ontwikkeld met het doel ‘gender neutrality’ te bereiken bij het beoordelen van sollicitanten. Helaas liet deze algoritme oneerlijke technieken zien. Zo vertoonde het algoritme vrouwen de voorkeur bij het beoordelen van sollicitanten, wat resulteerde in minder vrouwen die sollicitatiegesprekken verkregen dan mannen. Dit komt omdat het algoritme gebaseerd was op gegevens van eerdere recruitment proces, waarvoor vrouwen nog minder kansen hadden.

Hoe oneerlijkheid voorkomen met AI?

Slechts een kleine aanpassing van algoritmen kan ervoor zorgen dat AI-patronen oneerlijkheid tegen gaan. Veel bedrijven moeten zich daarom richten op het identificeren van bevoorrechting en het omgekeerde om te beginnen. Daarnaast is het goed om de inputdata systematisch te controleren en te verifiëren om te voorkomen dat oneerlijke waarden worden geïnjecteerd. Daarnaast is het ook belangrijk dat AI-ontwikkelaars samenwerken met diverse afdelingen om lagere lagen sexis- en racistische vooroordelen te vermijden.

Hoe AI oneerlijkheid detecteren?

Als een algoritme buitengewoon veel één kant op leek te gaan bij het nemen van beslissingen, is het ontwikkelen van methoden om AI-oneerlijkheid te detecteren essentieel. Bedrijven kunnen hiervoor verschillende technieken gebruiken, zoals de detectie van het willekeurige benadelen van gebruikers of groepen. Deze technieken kunnen worden gebruikt om AI-gebaseerde systemen op te sporen die mogelijk oneerlijkheden veroorzaken, waardoor bevoorrechting of discriminatie op het werk kan worden geminimaliseerd.

Samenvatting

Hoewel AI veelbelovend is in veel sectoren, is het ook belangrijk om op de hoogte te blijven van de mogelijke oneerlijkheid die kan worden veroorzaakt door AI-patronen, zoals discriminatie en veruitwendiging. Gelukkig zijn er manieren om oneerlijkheid te voorkomen door methoges te ontwikkelen die AI-oneerlijkheid kunnen detecteren, waardoor we de verspreiding kunnen voorkomen in plaats van te moeten reageren.