Onderzoek draagt bij aan Explainable en Responsible AI in recruitment

de mens in de black box

Hoe zet je de kracht van artificiële intelligentie in ten gunste van werkenden en werkzoekenden? Een van de projectteams uit de NSvP AI x Recruitment Challenge heeft zich over deze vraag gebogen. Jaap Jan van Assen en collega’s van eelloo ontwikkelden een AI-gedreven instrument “Mark My Words – daarmee zoeken mensen op een Tinder-achtige manier naar banen die matchen bij hun profiel én geven zij feedback aan het systeem over de passendheid van de voorgestelde vacatures. Ze gaan als het ware in gesprek met het algoritme. Met als beoogd resultaat: betere kansen voor werkzoekenden op de arbeidsmarkt en betere loopbaanbeslissingen voor werkenden. Bovendien draagt dit instrument bij aan meer Responsible en Explainable AI in recruitment. 

 

Feedback geven bevordert proactief loopbaangedrag

De werkzoekende geeft aan op basis van welke kenmerken hij of zij de voorgestelde vacature aantrekkelijk of passend vindt. En welke aspecten van de vacature juist niet bevallen. Door op deze manier bezig te zijn met vacaturematching, stellen de gebruikers zich meer de vraag waarom ze bepaalde banen wel of niet vinden passen. De werkzoekende krijgt hierdoor een beter zicht op het eigen profiel en mogelijkheden, en – zo is de hypothese – het geven van feedback is op zichzelf een interventie waarmee proactief loopbaangedrag wordt gestimuleerd. Het geven van feedback vergroot de mate van controle en daarmee proactief loopbaangedrag.

Het team van eelloo ontwikkelde hiervoor “Mark My Words”, een online tool gekoppeld aan een bestaand recruitment-platform. Met Mark My Words kunnen mensen op een Tinder-achtige manier zoeken naar banen die matchen met hun eigen profiel. De gebruikers geven feedback op de passendheid van de voorgestelde vacatures. Zo ‘leert’ het onderliggende algoritme persoonlijk betere aanbevelingen te doen. Geen black box AI waarbij compleet onduidelijk is waar suggesties vandaan komen, maar ‘in gesprek met AI’ steeds scherper krijgen wat past. 

Het algoritmische mes snijdt dus aan meerdere kanten: betere kansen voor werkzoekenden op de arbeidsmarkt (uitdrukkelijk óók voor mensen met een afstand tot de arbeidsmarkt); betere loopbaanbeslissingen door werkenden; en tegelijkertijd bijdragen aan meer Responsible en Explainable AI in recruitment. 

Vertrouwen tussen mens & AI

Hoe kunnen de mens en AI samen komen tot Responsible en Explainable AI? Vertrouwen is hierbij cruciaal, vergelijkbaar met hoe mensen elkaar vertrouwen: vertrouwen beïnvloedt gebruik, effect en ervaring. De black box van AI ondermijnt het vertrouwen van de gebruiker. No trust? No use!* Transparantie over wat AI doet en de controle over AI vergroten juist het vertrouwen. Het onderzoek van eelloo draagt zo bij aan kennis over de vraag wat belangrijke ontwerpcriteria zijn voor Responsible en Explainable AI. En wat zijn de psychologische (positieve) effecten van Responsible en Explainable AI?

Wetenschappelijk onderzoek

Het wetenschappelijk team bestond uit onderzoekers van eelloo, Neddo Siebum (stagiair UvA) en Ute Klehe (Justus Liebig Universiteit in Giessen) en Markus Langer (domeinexpert op het vlak van psychologie, Universiteit Saarland). De uitdaging was om tot een goede onderzoekopzet te komen die toegepast kon worden in een ‘echt’ instrument.
Eelloo ontwikkelde de tool en draaide een pre-pilot, waarbij de pilotversie van het instrument Mark My Words werd ingezet. De eerste resultaten vanuit de pre-pilot waren voorzichtig positief. Echter, de doorontwikkeling van Mark My Words heeft méér tijd nodig dan van tevoren gedacht – het wetenschappelijk onderzoek zal daarom in een later stadium worden gedaan. 

Ontwerpcriteria voor Explainable AI 

Daarnaast zet eelloo sterk in op het delen van kennis over ontwerpcriteria voor meer Explainable AI binnen het vakgebied van HR en recruitment. “Want”, zegt Jaap Jan van Assen, “het is van belang om de noodzaak van meer transparantie bij de inzet van AI niet alleen te benoemen, maar ook daadwerkelijk te laten zien dat het mogelijk is om dit te bereiken.”
Zij hopen hiermee een actieve discussie aan te jagen en meer bewustwording te creëren over hoe de kracht van AI kan worden ingezet om mensen nog beter hun plek te laten vinden op de arbeidsmarkt. Een plek die echt bij hen past en betekenis geeft.

 

Zelf aan de slag met het interactieve vacature-instrument Mark My Words?

Dat kan via deze link. 

 

* uit het Trust in Automation-model van Hoff & Basir, 2015 
 

Het volledige onderzoeksrapport van eelloo kun je hier downloaden: Responsible / Explainable AI in recruitment: voor betere kansen en loopbaanbeslissingen voor mensen
 

Lees ook de artikelen over de uitkomsten van de andere onderzoeken binnen de NSvP AI x Recruitment Challenge: 

Meer feiten zonder fictie over algoritmisering van de arbeidsmarkt en de vragen die tot de AI x Recruitment Challenge leidden vind je in het dossier algoritmisering van de arbeidsmarkt.
 

Bijlage

Thema's

Onderwerpen

Over NSvP

De NSvP is een onafhankelijke stichting en vermogensfonds, en zet zich in voor een menswaardige toekomst van werk. Wij ontwikkelen, delen en verspreiden kennis op het gebied van mens, werk en organisatie. We stellen de vraag hoe de arbeidsmarkt van morgen eruit ziet en wat dat vraagt van de talentontwikkeling van jongeren en werkenden. 

Rijnkade 88
6811 HD Arnhem
info@nsvp.nl
026 - 44 57 800

 

Vind ons op Facebook
Volg ons