Waarom AI niet neutraal is: bias #2

Bias AI - werving & selectie recruitment algoritmes

Wat een algoritme leert, hangt af van de ‘trainingsdata’ waaraan het is blootgesteld. Deze gegevens trainen het algoritme om zich op een bepaalde manier te gedragen. De kwaliteit en waarde (en neutraliteit) van de ingevoerde data is hierbij dus essentieel. Dit valt onder te verdelen in twee categorieën: ‘labelling examples’ en ‘data collection’. Deel 2 in de (5-delige) serie Waarom AI niet neutraal is.

Waarom AI niet neutraal is: bias #1

Bias in AI - werving & selectie recruitment algoritmes

Organisaties gebruiken data als input voor algoritmes, die hen vervolgens kunnen ondersteunen in het maken van keuzes. Stel, een organisatie wil uit een grote groep potentiële medewerkers een selectie maken van 'goede' werknemers. Hoe definieer je ‘goed’ in meetbare eigenschappen? Is een goede werknemer iemand die de meeste producten verkoopt? Iemand die nooit te laat komt? In eerste instantie lijken dit redelijke overwegingen in het voorspellen van ‘goede’ werknemers, maar uitsluiting van groepen mensen is hierbij reëel. Deel 1 uit een serie: Waarom een doelvariabele kan leiden tot (onbedoelde) discriminatie.

Psychotechniek revisited

David van Lennep algoritmes psychotechniek

In het werving en selectieproces is in de afgelopen eeuw veel kennis ontwikkeld over het beoordelen en meten van geschiktheid, het kritisch toetsen van instrumenten op validiteit en betrouwbaarheid, en het terugdringen van bias. Er doet zich nu een nieuw fenomeen voor: de inzet van AI in recruitment en selectieprocedures. Claims zijn dat dat sneller, effectiever en met minder bias plaatsvindt dan met de tussenkomst van mensen. Opvallend is dat de ICT bij de ontwikkeling van algoritmes een belangrijke rol speelt, maar dat de link naar bestaande kennis vanuit de personeelsselectie weinig wordt gelegd. Wat is er nodig om de uitspraken over geschiktheid op zijn merites te kunnen toetsen en hoe kan door samenwerking tussen personeelspsychologie en ICT de kwaliteit verbeterd worden?

Basisbaan in Nederland? Een vooronderzoek

Mensen maatschappij inclusie

Het antwoord op de vraag hoe een inclusieve en duurzame arbeidsmarkt gerealiseerd kan worden, is complex. De NSvP zet zich in voor een menswaardige toekomst van werk: een inclusieve arbeidsmarkt ligt daar aan de basis van. Marieke Stolp (universiteit Leiden) schreef in opdracht van de NSvP een Vooronderzoek Basisbaan. Ze onderzoekt vanuit wetenschappelijk psychologisch perspectief wat de betekenis van werk is voor de mens, en omgekeerd, wat de psychologische effecten zijn van exclusie op werkzoekenden. Hoe werkt het nu, wat werkt er niet en waarom niet? Hoe zou de basisbaan kunnen bijdragen aan het huidige beleid, en wat zijn de verwachte maatschappelijke en psychologische opbrengsten?

Kansen voor jongeren op de arbeidsmarkt van morgen

De Omkering

Hoe kunnen jongeren zich eerder en beter voorbereiden op werk en ondernemerschap? Hoe verbinden we aankomend en gesetteld talent?Hoe kunnen jongeren zich blijven ontwikkelen, ook buiten werk en school om? Drie maatschappelijke projecten ontvingen in 2016 subsidie van de NSvP om deze vraagstukken aan te pakken. Welke kennis en inzichten hebben de projecten opgeleverd?

Algoritmes leiden niet automatisch tot eerlijkere selectie

Steeds meer werkgevers zetten algoritmes in voor werving en selectie. Bij Nike en Unilever is het niet meer ongewoon om pas in de derde ronde van de sollicitatieprocedure in gesprek te komen met een menselijke medewerker. Vooroordelen en ongelijkheid kunnen zo meer ruimte krijgen, volgens Annemarie Hiemstra en Isabelle Nevels.

Werk voor iedereen: nu en in de toekomst

Wordcloud Problemen Arbeidsmarkt

Hoe ziet de arbeidsmarkt van vandaag en morgen eruit en hoe kunnen we die zo optimaal mogelijk maken voor iedereen? Zo’n 170 beleidsmedewerkers en onderzoekers kwamen samen om hierover van gedachten te wisselen tijdens een symposium van stichting Instituut Gak. Volgens hen is de grootste uitdaging op de arbeidsmarkt over tien jaar ongelijkheid, op de voet gevolgd door tweedeling en mismatch.

Werk voor iedereen - de waarde van werk

Werk voor iedereen - de waarde van werk

Hoe kunnen we ervoor zorgen dat er duurzaam werk is en blijft voor iedereen die wil en kan werken? En dat er niet steeds grotere groepen mensen buiten arbeidsmarkt en maatschappij komen te staan? Hoe richten we de toekomst van werk zo in, dat basale menselijke waarden en behoeften optimaal tot hun recht komen? Een breed en uitdagend maatschappelijk vraagstuk dat raakt aan diverse gebieden, van filosofie, tot psychologie en economie. Maakt werk gelukkig? Maakt werkloosheid ongelukkig? Waarom? En wat betekent ‘werk’ in 2018?

De beperking als bron van inspiratie

“De bijdrage van de NSvP in financiële en inhoudelijk zin hebben ons geprikkeld om nog beter te gaan begrijpen hoe het werkt wat we doen. Het heeft nieuwe inzichten opgeleverd, aangezet tot het maken van keuzes en het ontwikkelen en implementeren van nieuwe modellen en de ontwikkeling van een artistieke visie.” Het initiatief Partofit ontving in 2016 – onder de naam Heroes of the Sky – de publieksprijs van de OmkeerChallenge.

Preach what you practice?!

Heroes of the Sky - Holland Dance Festival

Iedereen heeft zijn beperkingen, maar wat kun je juist wel? Of wat kun je door je beperking juist beter? Heroes of the Sky: "Andersom denken loopt als een rode draad door onze projecten en organisatie."

Over NSvP

De NSvP maakt zich hard voor een menswaardige toekomst van werk. We stellen de vraag hoe de arbeidsmarkt van morgen eruit ziet en onderzoeken hoe werk zodanig kan worden ingericht dat het bijdraagt aan de menselijke waarden en behoeften. We zijn een onafhankelijke stichting. We financieren als vermogensfonds innovatieve projecten op het snijvlak van mens, werk en organisatie.

Rijnkade 88
6811 HD Arnhem
info@nsvp.nl
026 - 44 57 800

 

Vind ons op Facebook
Volg ons