Hogeschool van Amsterdam komt met AI Recruitment Discussietool tegen bias

In opdracht van gemeente Amsterdam heeft de Hogeschool van Amsterdam onderzoek gedaan naar het gebruik van kunstmatige intelligentie in werving- en selectieprocessen. Doel van dit onderzoek is om organisaties te helpen vooroordelen (bias) in recruitment tegen te gaan met goed gebruik van artificial intelligence. Met de AIR(ecruitment) Discussietool kunnen organisaties hun recruitment langs de lat leggen.

Gevaar, weinig diverse status quo gehandhaafd

Onderzoekers Hans de Zwart en Pascal Wiggers van de HvA Faculteit Digitale Media en Creatieve Industrie deden literatuuronderzoek en interviewden 22 ontwikkelaars van recruitmentsoftware, recruiters, gebruikers van deze software en domeinexperts. Juist omdat veel van deze technologie uitgaat van de huidige – succesvolle – werknemers is er de kans dat een weinig diverse status quo gehandhaafd wordt stellen de onderzoekers. Het is niet uit te sluiten dat specifieke vormen van bias met betrekking tot bepaalde groepen in het systeem blijven zitten. Ook omdat dit soort systemen nog niet heel goed raad weten met kandidaten die op een of andere manier afwijken van de norm. Die bias die – ook na een zorgvuldige implementatie – overblijft, is dan wel meteen systematisch en schaalt mee met de inzet van de technologie. En dat is link. Want – systematische – bias bij de sourcing en selectieprocessen is niet alleen ongewenst, het kan ook op termijn tot ongewenste juridische repercussies voor organisaties leiden. Daarnaast hebben dit soort systemen veel data nodig. Dit kan op het gebied van privacy problemen opleveren.

Sourcing & selection

De inzet van AI (Artificial Intelligence) recruitmentsoftware binnen het het werving- en selectieproces van organisaties is erop gericht eerst zoveel mogelijk geschikte kandidaten te laten solliciteren; de sourcing. De volgende stap is om uit die pool de meest geschikte kandidaat te kiezen, de selectie. Voor allebei deze fasen van recruitment zijn er kunstmatige intelligentiesystemen op de markt die organisaties kunnen helpen bij het proces. Die technologieën hebben gevolgen voor wie er wel of niet worden geselecteerd en moeten dus uiterst zorgvuldig worden ingezet.

Bewustwording en zonodig actie

Het is dus meer dan de moeite waard om tot bewustwording en zonodig actie te komen als het gaat om het vermijden van bias. Ook al wordt vaak gezegd dat we ons geen zorgen hoeven te maken over de inzet van kunstmatige intelligentie binnen werving- en selectie, omdat voorlopig nog steeds de mens die de uiteindelijke beslissing neemt. Dit klopt tot nu toe vaak nog wel voor het aannemen van de kandidaat. Maar voor de kandidaten die worden afgewezen, ligt dat nu al echt anders. Daar is het vaak al de machine die kiest, zonder enige menselijke tussenkomst.

Voordelen AI recruitmentsoftware

Na deze waarschuwende woorden, is het goed om ook de potentie van AI-recruitmenttechnologie te benoemen. Want deze technologie kan juist ook helpen bij het verminderen van bias binnen het proces. Zo kunnen irrelevante persoonskenmerken automatisch buiten beschouwing worden gelaten. Bovendien is het in principe een stuk makkelijker dan bij een menselijke recruiter om te meten op wat voor manier het systeem biased is. Hoewel er ook signalen zijn, zoals hierboven al aangestipt, dat juist omdat AI zelflerend is het nog helemaal niet zo makkelijk is om als een systeem al een tijdje draait uit te vinden waar het ‘verkeerde afslagen’ neemt die bias in de hand werken.

Daarnaast biedt de technologie de mogelijkheid nieuwe groepen van kandidaten te vinden, die eerder nog niet in beeld waren. Tenslotte is het gebruik van kunstmatige intelligentie efficiënt. Delen van het proces kunnen worden geautomatiseerd, en de werkwijze kan meer uniform worden gemaakt, wat tot tijdwinst voor vaak drukbezette recruiters kan leiden.

AIR Discussietool

Organisaties die kunstmatige intelligentiesystemen binnen werving- en selectieprocessen inzetten, dienen dat op een verantwoorde manier te doen. Bewust van de de mogelijke bias die deze manier van recruitment met zich mee kan brengen.

De door de Hogeschool Amsterdam ontwikkelde AIR Discussietool kan daarbij goede diensten bewijzen. Deze bestaat uit twintig vragen in vijf verschillende thema’s:

Wat is voor jouw organisatie eerlijke en rechtvaardige werving en selectie?
Hoe zit het met de benodigde data?
Blijft de mens de baas over het proces?
Is jouw organisatie en is de technologie onbevooroordeeld?
Weet je zeker dat de technologie werkt en dat het blijft werken?

Het idee is om degenen die betrokken zijn bij het implementeren van de AI recruitmentsoftware deze vragen zo goed en zorgvuldig mogelijk te laten beantwoorden. Als dat samen met de leverancier van de recruitmentsoftware kan, is dat extra nuttig natuurlijk.