Pourquoi les recruteurs doivent tenir compte des préjugés de l'IA dans leurs processus de recrutement
Paul Naha-Biswas, PDG et fondateur de Sixley, explique pourquoi les responsables du recrutement doivent tenir compte des biais de l'IA dans leurs processus de recrutement.
Il y a des moments dans l'histoire où une invention change le monde entier.
En 1876, Alexander Graham Bell a passé le tout premier appel téléphonique à son assistant, Thomas Watson.
En 1879, Thomas Edison a inventé l'ampoule électrique et a illuminé le monde, et, à peine six ans plus tard, Karl Benz a créé la voiture et, soudain, la planète s'est rétrécie.
Ces neuf années ont changé la trajectoire de la race humaine. Et nous sommes maintenant au milieu d'une période d'innovation similaire.
La transition vers un monde numérique
Au cours des 25 dernières années, la bande vidéo a été supplantée par le DVD qui lui-même a été supplanté par les services de streaming.
De même, les téléphones sont devenus mobiles et ont considérablement diminué en taille, les plus petits ayant un taille d'écran de 1.2 pouces.
Cependant, contrairement aux inventions du XIXe siècle, bon nombre des innovations qui se produisent aujourd'hui n'impliquent pas d'éléments tangibles.
Nous vivons maintenant à une époque où nous sommes à moins de 30 ans de voitures sans conducteur devient omniprésent et un code Google AI peut créer de nouvelles chansons d'artistes qui mort il y a plus de 50 ans.
Le passage au numérique a touché toutes les facettes de la vie, y compris la recherche d'un emploi.
La digitalisation de l'industrie du recrutement
Le recrutement n'implique plus uniquement un responsable du recrutement qui passe en revue les CV envoyés par les candidats.
De nos jours, il est rare qu'un candidat postule pour un emploi qui n'implique pas d'élément en ligne, qu'il s'agisse d'envoyer un CV par courrier électronique ou de remplir un formulaire de candidature via Internet.
De plus, les recruteurs utilisent désormais souvent des ordinateurs pour «lire» et filtrer les candidatures avant même de les examiner. Il existe également une planification automatique des entretiens et un système permettant d'envoyer des e-mails présélectionnés à un certain stade.
On prétend que l'automatisation du processus de recrutement aide les responsables du recrutement à trouver plus rapidement de meilleurs candidats et supprime certaines des tâches chronophages et de faible valeur associées à la recherche de talents.
Cependant, ce n'est pas sans controverse.
Le problème des préjugés raciaux dans les systèmes d'IA
La promesse des systèmes d'IA dans presque tous les domaines de la vie est qu'ils sont plus rapides, moins chers et plus précis. Pourtant, le danger est qu'ils sont irresponsables et incontestables, ce qui ne fait que renforcer les hiérarchies existantes et les préjugés humains.
Prenez le logiciel de reconnaissance faciale d'Amazon, Rekognition, par exemple. Le logiciel était à l'origine destiné à être utilisé par les services de police à travers les États-Unis, mais a été retiré après que de nombreuses études aient révélé des biais dans le logiciel qui ciblaient de manière disproportionnée les Noirs et d'autres minorités ethniques.
La American Civil Liberties Union a découvert en 2018 que le logiciel Rekognition associait à tort 28 membres du Congrès à des personnes arrêtées pour un crime et que les fausses correspondances concernaient de manière disproportionnée des personnes de couleur, dont six membres du Congressional Black Caucus.
Ces préjugés raciaux intégrés à l'IA ne surprendront personne qui connaît bien le domaine.
Au cours des 12 derniers mois seulement, nous avons vu plusieurs cas où des systèmes d'IA basés sur une compréhension humaine inadéquate des problèmes de société complexes et des données imparfaites ont été exposés - comme le Le fiasco des examens du Baccalauréat au Royaume-Uni et le placement de personnel médical de première ligne à l'arrière de la file d'attente de vaccins COVID-19 de l'autre côté de l'étang.
Comment ces préjugés pourraient avoir un impact sur l'industrie du recrutement
Dans le contexte de l'industrie du recrutement, ces biais pourraient faire en sorte que les demandeurs d'emploi issus de communautés défavorisées soient ignorés pour des postes sans raison particulière.
Cela devrait sonner l'alarme si l'on considère qu'un travailleur sur trois appartenant à une minorité ethnique déclare avoir été injustement refusé pour un emploi, contre seulement un travailleur blanc sur cinq (19 %), selon le Congrès des syndicats.
Et, recherche séparée ont constaté que plus de la moitié des offres d'emploi (52 %) sont formulées avec un libellé sexospécifique, ce qui les rend biaisées en faveur des hommes.
Une solution à ce problème consiste à modifier la composition démographique de l'industrie technologique et à promouvoir une plus grande diversité parmi les personnes impliquées dans l'écriture d'algorithmes.
Cependant, le nombre de femmes titulaires d'un baccalauréat en informatique dans les universités américaines ayant plus que diminué de moitié pour 18% depuis 1984, nous devons prendre des mesures plus immédiates en rendant la formation en technologie plus accessible et soutenue financièrement ou encouragée.
Pourquoi les renvois pourraient surmonter ces biais
Ceux qui ont utilisé les recommandations sauront qu'elles sont un moyen inestimable d'embaucher de nouveaux talents et d'attirer des candidats issus de couches de la société souvent négligées. En prenant en charge le partage individuel sur les réseaux sociaux et les comités de référence de groupe dédiés, les responsables du recrutement peuvent inviter de manière proactive la diversité et cibler les travailleurs issus de groupes marginalisés.
LIRE LA SUITE:
- Un ancien ingénieur en véhicules autonomes de Google a volé des secrets commerciaux
- Waymo améliore les véhicules autonomes avec DeepMind
- Pourquoi les conversations avec les clients sont vitales pour la survie de la marque dans un monde post-COVID-19
- Que peuvent apprendre les entreprises de la transformation numérique à l'ère du COVID ?
Et les références sont tout aussi cruciales pour les demandeurs d'emploi issus de milieux défavorisés, car les candidats référés ont 15 à 20 fois plus de chances d'être embauchés qu'un candidat à un site d'emploi. Une invitation personnelle à postuler est également le meilleur moyen pour les demandeurs d'emploi de surmonter le syndrome de l'imposteur et de contourner les algorithmes mutants.
L'espoir est que les systèmes d'IA à l'avenir seront débarrassés des préjugés humains et favoriseront la diversité et éradiqueront les privations socio-économiques. Cependant, pour le moment, l'erreur humaine et le manque de diversité dans l'industrie technologique signifient que les systèmes d'IA qui sont intégrés dans notre vie quotidienne perpétuent, et non éradiquent, ces préjugés. Les chefs d'entreprise et les recruteurs doivent être conscients de ces enjeux et diversifier leurs pratiques de recrutement pour s'assurer qu'aucun candidat ne soit oublié.
Pour plus d'actualités de Top Business Tech, n'oubliez pas de vous abonner à notre bulletin quotidien !
Suivez-nous sur LinkedIn et Twitter
