Depuis quelques années, l’Intelligence Artificielle (IA) révolutionne le domaine du recrutement avec des outils toujours plus performants et polyvalents. Cependant, ces avancées technologiques ne sont pas exemptes d’effets pervers, tels que les biais discriminatoires.
L’IA peut amplifier les distorsions lorsque les données utilisées pour l’entraînement sont biaisées ou discriminatoires, même involontairement. Un exemple connu est l’IA de sélection des candidats d’Amazon, qui écartait les profils féminins.
Stéréotypes et Discriminations
Une étude récente a démontré que les IA génératives d’images peuvent reproduire des stéréotypes liés à l’ethnie et au genre. Les images générées pour certains emplois et la criminalité renforcent ces stéréotypes, avec une sous-représentation des femmes et des personnes de couleur dans les emplois les mieux rémunérés.
Vers une Utilisation Responsable de l’IA
Pour les plateformes de recrutement, il est crucial d’entraîner l’IA avec des données représentatives et en nombre suffisant. Il faut également être attentif au risque de déterminisme, qui peut enfermer les candidats dans un champ des possibles restreint.