Eerlijkheid binnen AI: het sollicitant-perspectief

Op 21 maart 2019 werd tijdens de conferentie Nederland Digitaal volop gesproken over de invloed van Artificial Intelligence (AI) op de samenleving. Verschillende onderwerpen kwamen aan bod, waaronder de digitalisering van recruitment. De traditionele werving en selectie, waarbij HR-medewerkers zelf een CV en motivatiebrief lezen en beoordelen, heeft plaatsgemaakt voor het zogenoemde e-recruitment of ATS (Applicant Tracking System). Door middel van algoritmes worden CV’s en motivatiebrieven gescand op bepaalde vaardigheden of kenmerken waar de kandidaat aan moet voldoen. De kandidaat wordt op basis van deze analyse afgewezen of uitgenodigd voor een sollicitatiegesprek. Maar wordt deze manier van afwijzen als eerlijk ervaren?

Eerlijkheid

Dat is een uiterst relevante vraag, want de sollicitanten zijn een belangrijke groep die met AI te maken krijgt en hun ervaring is bepalend voor maatschappelijke acceptatie van de inzet van AI bij recruitment. Naar aanleiding de AI-ontwikkelingen binnen recruitment, zijn er enkele onderzoeken verricht naar het effect van deze ontwikkelingen op sollicitanten. Zo toont onderzoek van Randstad¹ aan dat 82% van de kandidaten het prefereert als er naast alle innovatieve technologieën ook ruimte is voor persoonlijk contact. Dit komt overeen met ander onderzoek² waarbij een derde van de sollicitanten aangeeft dat ze offline solliciteren prefereren boven online solliciteren, ook al hadden ze in het verleden een goede ervaring met e-recruitment. Maar wat vinden kandidaten nu precies van recruitment op basis van AI?

Fairness is hierbij een belangrijk begrip: in hoeverre wordt de manier van selectie als eerlijk ervaren? Er bestaan twee soorten ervaren eerlijkheid: eerlijkheid gebaseerd op de procedure (procedural justice) en eerlijkheid gebaseerd op de uitkomsten (distributive justice). Dit artikel richt zich op procedural justice. Of er wel of niet sprake is van een ‘eerlijk proces’ volgens de sollicitant, hangt af van drie aspecten: transparantie, objectiviteit en - voor de sollicitant het belangrijkste aspect - feedback. Deze drie begrippen worden nader toegelicht.

Transparantie

Of een selectieprocedure als eerlijk wordt ervaren door de kandidaten, hangt dus onder meer af van de transparantie binnen het proces. Maar wat betekent transparantie nu precies? Volgens een van de woordvoerders van de ECP (Platform voor de InformatieSamenleving) die tijdens de conferentie Nederland Digitaal sprak over eerlijkheid, betekent transparantie “dat actoren wetenschap hebben van het feit dat AI toegepast wordt, hoe besluitvorming tot stand komt en welke consequenties dit mogelijk voor hen heeft”. Problemen die sollicitanten en gebruikers van de algoritmen ervaren met betrekking tot transparantie is dat het lang niet altijd duidelijk is hoe de beslissing wordt genomen om iemand al dan niet aan te nemen. Hoe komt het dat de transparantie en uitlegbaarheid van algoritmes vaak beperkt is? Dat heeft in de eerste plaats te maken met privacy-gerelateerde aspecten, zoals het gebruik van trainingsdata. Daarnaast zijn er commerciële redenen, namelijk de mate van concurrentie binnen AI-ontwikkeling en innovatie, waardoor algoritmes door organisaties niet snel vrijgegeven worden. Tenslotte zijn veel algoritmes zelf lerend en daardoor ook voor de ontwikkelaars niet altijd transparant. 

Naar aanleiding van de zorgen die het publiek heeft over de algoritmisering van de arbeidsmarkt, wordt er binnen de overheid nagedacht over transparantie bij toepassing van algoritmes. Er is inmiddels zelfs een motie ingediend bij de voorzitter van de Eerste Kamer over de transparantie van de algoritmes die worden gebruikt bij de overheid. Daarbij zijn verschillende oplossingsrichtingen mogelijk. Zo zijn er bijvoorbeeld al manieren om de algoritmes te controleren aan de hand van andere algoritmes, de zogenoemde Explainable AI. Ook wordt er gekeken naar richtlijnen voor ethische toepassing van aIgoritmes³. Hoe dit in de toekomst op het terrein van AI bij recruitment zal uitpakken is nog de vraag.

Objectiviteit

Naast het belang van transparantie is er het aspect van objectiviteit dat mede bepaalt hoe eerlijk het werving en selectieproces wordt ervaren. Dit aspect is met name belangrijk als we kijken naar biases binnen beslissingen. Een van de opvallendste voorbeelden uit de praktijk is het verhaal van schrijfster en wiskundige Cathy O’Neil⁴. Zij heeft een boek geschreven genaamd ‘Weapons of math destruction’ over de implicaties van de keuzemodellen van algoritmes. Zij schreef haar boek naar aanleiding van het verhaal van Sarah Wysocki, een lerares in de Verenigde Staten, die werd aangenomen omdat zij volgens velen een van de beste leraren was die zij kenden. Echter, na twee maanden werd zij op basis van een beoordeling door een algoritme ontslagen.

De beoordeling kwam tot stand op basis van een complex model dat het aandeel van de docent in de toetsuitslagen van leerlingen op rekenen en lezen vaststelt. En terwijl de schoolleiding zeer tevreden was over haar presteren, werd de ontslagbeslissing niet herzien. Hier was sprake van een duidelijke tegenstelling, namelijk haar prestaties als lerares en de conclusies die de algoritmes trokken. Toen Cathy O’Neil naar de inzage van deze algoritmes vroeg, werd haar verzoek geweigerd. Dit en vele andere voorbeelden, zoals het schandaal van Amazon⁵ en Google⁶, waarbij bepaalde groepen werden achtergesteld in het recruitment en selectieproces, laten zien dat algoritmes niet per definitie objectief zijn en dat biases ook kunnen optreden in het beslisproces van algoritmes. Helaas is deze subjectiviteit (nog) niet volkomen te verhelpen binnen de machine learning algoritmes, des te meer omdat deze algoritmes leren uit bestaande datasets (training set) terwijl deze data al gekleurd kunnen zijn. Het belangrijk om hier als recruiters in ieder geval bewust van te zijn.

Feedback

Het belangrijkste aspect van eerlijkheid binnen de recruitment en selectieprocedure volgens sollicitanten is feedback. Dit bleek uit onderzoek² waarbij zowel de andere twee aspecten, transparantie en objectiviteit, samen werden gemeten met het aspect feedback. Hoewel feedback dus belangrijk is, blijkt uit onderzoek verricht door de Britse carrièreplatform Debut⁷ dat 83% van de kandidaten geen feedback ontvangt; in België⁸ ontvangt maar liefst 86% van de sollicitanten geen feedback. Overigens verwacht rond de 49% van de kandidaten wél feedback na een sollicitatie (gemiddeld in Europa)⁹. Uit deze cijfers blijkt dat een groot deel van de sollicitanten het moet doen met de standaardafwijzingen, terwijl feedback juist als belangrijkste aspect wordt gezien van eerlijkheid. Op basis hiervan kunnen we zeggen dat één ding vast staat, namelijk dat het vragen om feedback als sollicitant en het leveren van feedback als organisatie geen overbodige zaak is. 

Conclusie

Waar veel artikelen zich vooral richten op de belangen en behoeften van recruiters en ontwikkelaars, is het goed om stil te staan bij de verwachtingen en ervaringen van de sollicitanten. De vraag is wat zij vinden van de technische ontwikkelingen binnen de werving en selectie. Is beslissingen nemen op basis van de uitkomsten van een machine een eerlijke manier van beslissen? Dat hangt vooral af van de mate van transparantie, de ervaren objectiviteit en de feedback. Dit zijn dan ook de aspecten waar de organisaties aan kunnen werken, als zij de mening en ervaring van sollicitanten serieus nemen. Daarnaast blijkt dat kandidaten de procedure als eerlijker ervaren als ze meer informatie over zichzelf kunnen aanleveren tijdens het sollicitatieproces¹⁰.

Selectie is uiteindelijk een tweezijdig afwegingsproces, waarbij de organisatie kiest voor de sollicitant, maar waarbij ook de sollicitant kiest voor de organisatie. Eén ding is duidelijk: er zijn wel degelijk bedenkingen bij sollicitanten over de eerlijkheid van procedures bij werving en selectie door AI. Voor organisaties is het dus van belang om deze aspecten bij e-recruitment in de gaten te houden en waar nodig te verbeteren. En als kandidaat is het ook belangrijk met een kritisch oog te blijven kijken naar de manier waarop organisaties jou aannemen. Misschien is het tijd om als toekomstige sollicitanten en werkgevers hier goed over na te denken.

¹ www.randstadusa.com/about/news/an-over-automated-recruitment-process-lea...

² Thielsch, M. T., Träumer, L., & Pytlik, L. (2012). E-recruiting and fairness: the applicant’s point of view. Information Technology and Management, 13(2), 59-67.

³ https://dataschool.nl/deda/

⁴ https://www.volkskrant.nl/wetenschap/wiskundige-cathy-o-neil-waarschuwt-...

⁵https://www.ad.nl/tech/amazon-draait-sollicitatierobot-de-nek-om-na-disc...

⁶https://nationalpost.com/life/is-the-google-algorithm-sexist

⁷https://www.hrmacademy.nl/geef-sollicitant-feedback/

⁸https://www.bloovi.be/artikels/persoonlijk-groeien/2018/onderzoek-amper-...

⁹https://www.werf-en.nl/de-jacht-op-talent-wat-kandidaten-in-europa-verwa...  en https://intelligence-group.nl/nl/nieuws/wat-vinden-europese-kandidaten-b...

¹⁰ Faliagka, E., Iliadis, L., Karydis, I., Rigou, M., Sioutas, S., Tsakalidis, A., & Tzimas, G. (2014). On-line consistent ranking on e-recruitment: seeking the truth behind a well-formed CV. Artificial Intelligence Review, 42(3), 515-528.