25/11/'21 - Sollicitatieprocedures kunnen erg tijdrovend zijn en het kan soms lastig zijn om goede kandidaten te vinden. Er zijn verschillende toepassingen ontwikkeld waarbij artificiële intelligentie (AI) recruiters en werkgevers kunnen helpen bij het vinden van ‘de ideale kandidaat’. Zo zijn er systemen die een eerste selectie uit CV’s kunnen maken op basis van bepaalde competenties, systemen die met behulp van een assessment kunnen beoordelen of de sollicitant geschikt is, of systemen die op basis van gezichtsuitdrukkingen de meest gemotiveerde sollicitanten kunnen selecteren. Zulke modellen, waarbij gebruik wordt gemaakt van AI, dienen op een juiste manier te worden toegepast – zo vindt ook de Autoriteit Persoonsgegevens (AP). De AP heeft aangegeven dat de uitvoering van een data protection impact assessment (DPIA) meestal verplicht is bij de inzet van AI en algoritmes.
Hieronder leg ik uit waar je op moet letten bij de uitvoering van een DPIA wanneer AI wordt ingezet tijdens sollicitatieprocedures.
In het DPIA-rapport omschrijf je systematisch de gegevensverwerkingen en beoordeel je de risico’s voor de betrokkenen en de mogelijke mitigerende maatregelen. Daarnaast is het van belang dat de gegevensverwerking rechtmatig is. Dit betekent dat er een geldige doel en grondslag voor de gegevensverwerking is.
Bij de uitvoering van een DPIA op AI en algoritmes dien je volgens de AP, naast de reguliere vereisten aan een DPIA, specifiek aandacht te besteden aan de keuze voor een bepaald algoritme, bias, transparantie en uitlegbaarheid van het algoritme en de inzet daarvan en de rechten van betrokkenen.
De inzet van een algoritme kan (onbedoeld) leiden tot bias en discriminatie. Een bekend voorbeeld hiervan is de machine learning tool dat door Amazon was ingezet. Mannen kregen namelijk een hogere score dan vrouwen, waardoor meer mannen dan vrouwen werden aangenomen. Ook is het belangrijk om te voorkomen dat sollicitanten niet door de selectie komen vanwege een (medische) uitzonderingssituatie. Wanneer bijvoorbeeld een deel van het gezicht van de sollicitant verlamd is en het systeem dit niet herkent, zou een sollicitant bijvoorbeeld onterecht als ongemotiveerd kunnen worden aangemerkt. Tevens dient te worden onderzocht wat het effect op de kwaliteiten en emoties van sollicitanten is wanneer zij worden beoordeeld met behulp van AI. En hoe makkelijk is het voor sollicitanten om deze systemen te ‘bespelen`? En wat voor effect heeft dit op een eerlijke sollicitatieprocedure voor de andere sollicitanten? Er zijn dus genoeg (privacy)risico’s waar bedrijven op dienen te letten bij de inzet van AI tijdens sollicitaties.
Een belangrijk deel van deze risico’s zou kunnen worden ondervangen door menselijke tussenkomst. Dit betekent dat er altijd een mens dient te beoordelen of het oordeel van het algoritmisch systeem ‘correct’ is en de juiste afwegingen zijn genomen om tot het oordeel te komen. Het kan helpen om een onafhankelijke derde (de werking van) het algoritmisch systeem (periodiek) te laten controleren en het algoritmisch systeem periodiek te trainen. Ook stelt de AP dat je betrokkenen, in dit geval de sollicitanten, dient te informeren over de onderliggende logica van het algoritmisch systeem en de mogelijke gevolgen voor de betrokkene. Daarnaast is het goed om ook een ethische afweging te maken.
De inzet van AI voor sollicitatieprocedures is een delicate kwestie. De gevolgen voor sollicitanten kunnen groot zijn als hier niet goed mee om wordt gegaan. Bedrijven zijn dan ook verplicht een DPIA uit te voeren om de (privacy)risico’s in kaart te brengen en passende mitigerende maatregelen te treffen. Daarnaast dient te worden beoordeeld of de gegevensverwerking rechtmatig is. Tevens moet specifiek aandacht besteed worden aan de keuze voor een bepaald algoritme, bias, transparantie en uitlegbaarheid van het algoritme en de inzet daarvan en de rechten van betrokkenen. Hierdoor kunnen bedrijven ervoor zorgen dat de impact op de persoonlijke levenssfeer van de betrokkenen zo klein mogelijk is en op een zorgvuldige manier wordt omgegaan met de persoonsgegevens van sollicitanten.
Considerati helpt u graag met het uitvoeren van een DPIA bij de inzet van AI voor sollicitatieprocedures. Ook adviseren we bij de ethische vraagstukken die bij geautomatiseerde beoordeling van kandidaten komen kijken en adviseren we over het inrichten van verantwoorde AI processen. Lees ook ons onderzoek naar het voorkomen van ongewenste effecten van zelflerende algoritmen met speciale aandacht voor HR toepassingen.
Wilt u meer weten over de inzet van AI voor sollicitatieprocedures? Neem dan contact met ons op.