Waarom AI niet neutraal is: bias #5 masking

ai recruitment selection

Waar we in eerdere artikelen spraken over hoe het gebruik van data mining en algoritmes onbedoeld kan leiden tot discriminatie bij de werving en selectie van personeel, draait dit laatste mechanisme de rollen een beetje om. Algoritmes bieden namelijk handvatten om juist bewust te discrimineren. We bespreken het laatste mechanisme genoemd door onderzoekers Barocas en Selbst: masking

Dag van de Inclusieve Arbeidsmarkt: 4 november

Dag van de Inclusieve Arbeidsmarkt Muntgebouw Utrecht

De NSvP, Goldschmeding Foundation en Instituut Gak organiseren op maandag 4 november 2019 de Dag van de Inclusieve Arbeidsmarkt. Tijdens dit symposium maken we de stand van zaken op rond de inclusieve arbeidsmarkt. Daarbij zoeken we met maatschappelijke organisaties, werkgevers, beleidsmakers en onderzoekers een concreet antwoord op de vraag welke praktische stappen er moeten worden ondernomen om de Nederlandse arbeidsmarkt inclusiever te maken.

Het algoritme is kapot

Bas van de Haterd OmkeerEvent Metaal Kathedraal 2019

Een algoritme is een eindige reeks instructies die vanuit een gegeven begintoestand naar een beoogd doel leiden.

Onze hersenen zijn in de basis ook algoritmes. Vanuit een reeks instructies, die we vaak onbewust geven, komen we tot een conclusie, bijvoorbeeld wie we uitnodigen voor een sollicitatiegesprek of wie na zo'n gesprek de baan krijgt.

Waarom AI niet neutraal is: bias #4 proxies

werving selectie algoritme bias proxy

Proxies zijn cijfers die correlaties aanduiden tussen bepaalde concepten, waardoor ze voor een algoritme dienen als een soort voorspellers. Blond haar is bijvoorbeeld een proxy voor een blank huidtype. Aan de hand van zulke correlaties worden mensen ingedeeld in groepen. Er ontstaan patronen waaruit blijkt dat bepaalde groepen gemiddeld slechtere prestaties, vaardigheden of capaciteiten vertonen, met als gevolg een systematische uitsluiting van die groepen. Wat kunnen we eraan doen?

Waarom AI niet neutraal is: bias #3

HR algoritme werving selectie bias

Als je algoritmes wil gebruiken om iets automatisch te voorspellen, moet je de wereld vereenvoudigen om het in programmeertaal te kunnen vastleggen. Bijvoorbeeld: wil je een slimme kandidaat - neem iemand met een universitair diploma. Organisaties maken dus keuzes over welke indicatoren ze opnemen in hun algoritmische analyses. Dit keuzeproces wordt ‘feature selection’ genoemd. Omdat algoritmes een vereenvoudigde wereld vereisen, kunnen biases ontstaan. Deel 3 uit een serie van vijf.

Waarom AI niet neutraal is: bias #2

Bias AI - werving & selectie recruitment algoritmes

Wat een algoritme leert, hangt af van de ‘trainingsdata’ waaraan het is blootgesteld. Deze gegevens trainen het algoritme om zich op een bepaalde manier te gedragen. De kwaliteit en waarde (en neutraliteit) van de ingevoerde data is hierbij dus essentieel. Dit valt onder te verdelen in twee categorieën: ‘labelling examples’ en ‘data collection’. Deel 2 in de (5-delige) serie Waarom AI niet neutraal is.

Waarom AI niet neutraal is: bias #1

Bias in AI - werving & selectie recruitment algoritmes

Organisaties gebruiken data als input voor algoritmes, die hen vervolgens kunnen ondersteunen in het maken van keuzes. Stel, een organisatie wil uit een grote groep potentiële medewerkers een selectie maken van 'goede' werknemers. Hoe definieer je ‘goed’ in meetbare eigenschappen? Is een goede werknemer iemand die de meeste producten verkoopt? Iemand die nooit te laat komt? In eerste instantie lijken dit redelijke overwegingen in het voorspellen van ‘goede’ werknemers, maar uitsluiting van groepen mensen is hierbij reëel. Deel 1 uit een serie: Waarom een doelvariabele kan leiden tot (onbedoelde) discriminatie.

Syrische vluchtelingen aan het werk

vluchteling werk integratie

Hoe zorg je dat het aannemen van een Syrische vluchteling in een organisatie een succes wordt? De positieve effecten komen makkelijker tot stand als er aandacht is voor de specifieke situatie van de nieuwe medewerker. Waar zitten de knelpunten, en wat kun je als werkgever doen om die te overbruggen? Onderzoekers van Windesheim, De Haagse Hogeschool en Inholland, schreven een praktisch e-boek om werkgevers daarbij te helpen. 

De beperking als bron van inspiratie

“De bijdrage van de NSvP in financiële en inhoudelijk zin hebben ons geprikkeld om nog beter te gaan begrijpen hoe het werkt wat we doen. Het heeft nieuwe inzichten opgeleverd, aangezet tot het maken van keuzes en het ontwikkelen en implementeren van nieuwe modellen en de ontwikkeling van een artistieke visie.” Het initiatief Partofit ontving in 2016 – onder de naam Heroes of the Sky – de publieksprijs van de OmkeerChallenge.

Effectieve Vrouwennetwerken

Er is tot op heden geen wetenschappelijke kennis voorhanden over de rol die vrouwennetwerken in de praktijk spelen als diversiteitsinstrument in organisaties. Deze brochure is een bijdrage aan het vullen van deze leemte.

Over NSvP

De NSvP is een onafhankelijk vermogensfonds, dat zich inzet voor een menswaardige toekomst van werk. Wij stellen de vraag hoe de arbeidsmarkt van morgen er uit ziet en wat dat vraagt van de talent-ontwikkeling van jongeren en werkenden.

Rijnkade 88
6811 HD Arnhem
info@nsvp.nl
026 - 44 57 800

logo footer

Vind ons op Facebook
Volg ons