Waarom AI niet neutraal is: bias #3

up down selection HR algoritme

Als je algoritmes wil gebruiken om iets automatisch te voorspellen, moet je de wereld vereenvoudigen om het in programmeertaal te kunnen vastleggen. Bijvoorbeeld: wil je een slimme kandidaat - neem iemand met een universitair diploma. Organisaties maken dus keuzes over welke indicatoren ze opnemen in hun algoritmische analyses. Dit keuzeproces wordt ‘feature selection’ genoemd. Omdat algoritmes een vereenvoudigde wereld vereisen, kunnen biases ontstaan. Deel 3 uit een serie van vijf.

AI en recruitment als kat-en-muisspel

Steeds vaker gebruiken organisaties HR-technologie en analytics ten behoeve van beter matchende en presterende medewerkers. Maar wat als individuele werkenden op hun beurt dit ook gaat inzetten om werkgevers en hun HR-beleid beter te kunnen inschatten?

"Ik kan nu nog beter doen waar ik goed in ben"

Floreo Sterke Punten Challenge

Deelnemer Bibianne Findhammer (leerkracht groep 8) vertelt haar ervaring met de Sterke Punten Challenge. "Ik laat de kinderen nu zelf plannen maken hoe ze hun leerdoelen gaan halen. De kinderen zetten zich enorm in, ze zijn zeer gemotiveerd. Wat een energie! En ikzelf kan veel gerichter en met aandacht begeleiden."

18 juni ’19: OmkeerEvent over AI in Recruitment

OmkeerEvent 2019 AI in recruitement

Hoe kan AI een goede en eerlijke arbeidsmarkt faciliteren of juist frustreren? Met het OmkeerEvent – AI in Recruitment – op 18 juni 2019 willen we partijen laten kennismaken met HR-technologie aangedreven door Artificiële Intelligentie (AI). Samen willen we scherper krijgen wat de tech-beloften de arbeidsmarkt van morgen écht te bieden hebben. Hoe beïnvloedt het de kansen op werk voor verschillende partijen – positief, maar mogelijk ook negatief? De AI-technologie is boeiend en interessant en kan zeer nuttig zijn. Maar welke vragen moeten we ons blijven stellen in zowel de wetenschap als praktijk? Denk en debatteer mee!

Waarom AI niet neutraal is: bias #2

Bias AI - werving & selectie recruitment algoritmes

Wat een algoritme leert, hangt af van de ‘trainingsdata’ waaraan het is blootgesteld. Deze gegevens trainen het algoritme om zich op een bepaalde manier te gedragen. De kwaliteit en waarde (en neutraliteit) van de ingevoerde data is hierbij dus essentieel. Dit valt onder te verdelen in twee categorieën: ‘labelling examples’ en ‘data collection’. Deel 2 in de (5-delige) serie Waarom AI niet neutraal is.

Waarom AI niet neutraal is: bias #1

Bias in AI - werving & selectie recruitment algoritmes

Organisaties gebruiken data als input voor algoritmes, die hen vervolgens kunnen ondersteunen in het maken van keuzes. Stel, een organisatie wil uit een grote groep potentiële medewerkers een selectie maken van 'goede' werknemers. Hoe definieer je ‘goed’ in meetbare eigenschappen? Is een goede werknemer iemand die de meeste producten verkoopt? Iemand die nooit te laat komt? In eerste instantie lijken dit redelijke overwegingen in het voorspellen van ‘goede’ werknemers, maar uitsluiting van groepen mensen is hierbij reëel. Deel 1 uit een serie van vijf: Waarom een doelvariabele kan leiden tot (onbedoelde) discriminatie.

Eerlijkheid binnen AI: het sollicitant-perspectief

Fairness in AI recruitment

De traditionele werving en selectie, waarbij HR-medewerkers zelf een CV en motivatiebrief lezen en beoordelen, heeft plaatsgemaakt voor het zogenoemde e-recruitment of ATS (Applicant Tracking System). Door middel van algoritmes worden CV’s en motivatiebrieven gescand op bepaalde vaardigheden of kenmerken. De kandidaat wordt op basis van deze analyse afgewezen of uitgenodigd voor een sollicitatiegesprek. Maar wordt deze manier van afwijzen als eerlijk ervaren? Een uiterst relevante vraag, want de sollicitanten zijn een belangrijke groep die met AI te maken krijgt en hun ervaring is bepalend voor maatschappelijke acceptatie van de inzet van AI bij recruitment.

Talent Management aan de Nederlandse universiteiten

Universiteit Twente

Bij de Universiteit Twente wordt gewerkt aan een 'talentenpool' voor alle medewerkers. Deze 'pool' moet talenten van medewerkers en posities verbinden en een lerende omgeving creëren voor talent management. In het kader van de NSvP Sterke Punten Challenge ontving de vakgroep HRM van de UTwente financiële ondersteuning voor dit project. Irene Felius schrijft als projectmedewerker regelmatig een blog over de totstandkoming van de talentenpool. 

Psychotechniek revisited

David van Lennep algoritmes psychotechniek

In het werving en selectieproces is in de afgelopen eeuw veel kennis ontwikkeld over het beoordelen en meten van geschiktheid, het kritisch toetsen van instrumenten op validiteit en betrouwbaarheid, en het terugdringen van bias. Er doet zich nu een nieuw fenomeen voor: de inzet van AI in recruitment en selectieprocedures. Claims zijn dat dat sneller, effectiever en met minder bias plaatsvindt dan met de tussenkomst van mensen. Opvallend is dat de ICT bij de ontwikkeling van algoritmes een belangrijke rol speelt, maar dat de link naar bestaande kennis vanuit de personeelsselectie weinig wordt gelegd. Wat is er nodig om de uitspraken over geschiktheid op zijn merites te kunnen toetsen en hoe kan door samenwerking tussen personeelspsychologie en ICT de kwaliteit verbeterd worden?

Bevrijdend om soms te kunnen zeggen: ik ben hier niet goed in

OM Openbaar Ministerie Talentversterker

Niemand heeft talent voor alles. Het is juist bevrijdend om soms toe te kunnen geven: ik ben hier niet goed in. Dat is geen smoes om onder een vervelende klus uit te komen. Integendeel, het kan het uitgangspunt zijn voor job crafting. Bij het Openbaar Ministerie Noord-Holland is een groep van 15 medewerkers aan de slag met kleine experimenten in het kader van de Sterke Punten Challenge. Door het ontwikkelen van de "Talent VerSterker" willen zij enerzijds dat medewerkers ontdekken welke talenten zij hebben en hen stimuleren deze ook daadwerkelijk in te zetten in hun werk.

Over NSvP

De NSvP is een onafhankelijk vermogensfonds, dat zich inzet voor een menswaardige toekomst van werk. Wij stellen de vraag hoe de arbeidsmarkt van morgen er uit ziet en wat dat vraagt van de talent-ontwikkeling van jongeren en werkenden.

Rijnkade 88
6811 HD Arnhem
info@nsvp.nl
026 - 44 57 800

logo footer

Vind ons op Facebook
Volg ons