Steeds meer bedrijven maken gebruik van AI-ondersteunde systemen om kandidaten te selecteren of sollicitanten te rangschikken. Hoewel deze systemen tijd kunnen besparen, kunnen ze ook bestaande discriminatiepatronen versterken of nieuwe vormen van discriminatie veroorzaken. Onderzoekers van het Horizon Europe-project Fairness and Intersectional Non-Discrimination in Human Recommendation (FINDHR), met het Information Retrieval Lab van de Universiteit van Amsterdam als partner, presenteren nieuwe instrumenten, methoden en aanbevelingen om deze problematiek aan te pakken.
Het FINDHR-project identificeert de risico’s van discriminatie bij geautomatiseerde werving als een reëel probleem dat boven theoretische discussies uitstijgt. Interviews in zeven Europese landen lieten zien dat sollicitanten van verschillende achtergronden vaak oneerlijke uitsluitingen ervaren. De onderzoekers richten zich specifiek op intersectionele discriminatie waarbij combinaties van kenmerken zoals geslacht, leeftijd of afkomst meerlagige belemmeringen kunnen vormen.
Bij het IRLab is onderzocht hoe eerlijkheid en non-discriminatie kunnen worden ingebouwd in algoritmische rangschikking en aanbevelingsalgoritmen. Technische tools en handleidingen zijn ontwikkeld die rekening houden met wettelijke vereisten, eerlijkheids- en transparantiebeginselen. Deze zijn gebundeld in gratis beschikbare Engelstalige bronnen van FINDHR.
De materialen omvatten richtlijnen en toolkits voor werkzoekenden, beleidsmakers, productmanagers, algoritmische auditors, wervingsprofessionals en software developers. Voorbeelden zijn impact assessments, auditing frameworks, het Equality Monitoring Protocol en een Software Development Guide voor eerlijke recruitmentsoftware.
Lees ook
