Algorithmes de recrutement : les données historiques sous surveillance

Dans le recrutement, l’intelligence artificielle ne décide pas toujours à la place d’un recruteur. Elle peut trier des CV, établir une liste de profils à contacter, noter l’adéquation d’un candidat à un poste ou organiser la visibilité des travailleurs sur une plateforme. Ces opérations, souvent présentées comme de simples gains de productivité, déterminent pourtant qui accède au premier entretien et qui demeure hors du champ de la sélection.

Les algorithmes de recrutement posent donc moins une question abstraite de performance technique qu’un problème de pouvoir sur le marché du travail. Le critère apparemment le plus rationnel — l’expérience déjà acquise, le nombre de missions effectuées ou la qualité des évaluations antérieures — est aussi celui qui peut prolonger l’inégalité d’accès aux occasions de faire ses preuves.

L’Union européenne a fait de cette situation un objet de régulation. Le règlement (UE) 2024/1689 sur l’intelligence artificielle inscrit les outils utilisés dans l’emploi, la gestion des travailleurs et l’accès au travail indépendant parmi les systèmes à haut risque. Ce classement ne prohibe pas leur usage. Il impose en revanche aux fournisseurs et, selon leurs fonctions, aux organisations qui les déploient, une discipline de documentation, de gestion des risques et de supervision humaine.

Les algorithmes de recrutement apprennent du passé

L’erreur courante consiste à limiter le risque de discrimination à la présence directe de variables telles que le sexe, l’âge ou l’origine. Les retirer d’un formulaire ne garantit pas la neutralité des algorithmes de recrutement. Un modèle peut s’appuyer sur des variables de substitution : interruptions de carrière, établissements fréquentés, localisation, réseau professionnel, volume de contrats antérieurs ou appréciations laissées par des clients.

Ces données ne sont pas produites dans un vide social. Elles résultent de décisions prises auparavant par des employeurs, des clients, des plateformes et des intermédiaires. Si certains candidats ont reçu moins de premières missions ou ont été moins souvent sollicités à caractéristiques comparables, un système entraîné à repérer les profils les plus visibles peut interpréter cet écart comme un signal de qualité. Il ne crée pas nécessairement le désavantage initial ; il lui donne une forme calculable et reproductible.

Le mécanisme devient plus sensible encore dans les marchés de prestations en ligne. Une première sélection favorable procure des missions ; ces missions améliorent l’historique et les notes ; cet historique accroît la probabilité d’être retenu lors du classement suivant. À l’inverse, un candidat peu exposé demeure pauvre en données positives et se voit proposer moins d’occasions de modifier cette situation. La sélection alimente ainsi les données qui justifieront la sélection future.

De l’outil RH à une infrastructure d’accès à l’emploi

Pour une entreprise, l’automatisation répond à une contrainte tangible : traiter un grand nombre de candidatures à un coût limité et raccourcir le délai de recrutement. Mais lorsque les algorithmes de recrutement interviennent en amont, ils ne se contentent pas d’accélérer une procédure. Ils fixent l’accès à une ressource rare : l’attention d’un recruteur.

La question devient alors celle de l’objectif assigné au système. Optimiser la probabilité qu’un candidat reproduise les performances observées dans les données passées revient, en pratique, à privilégier les parcours déjà reconnus. Cet objectif peut être légitime pour certains postes très spécialisés. Il devient plus fragile lorsqu’il est appliqué uniformément à des emplois où les compétences peuvent être démontrées autrement que par un historique continu, ou lorsque les données disponibles reflètent des pratiques de sélection anciennes.

Les effets ne se répartissent pas nécessairement selon une seule ligne. Les jeunes actifs disposent par définition d’un capital d’expérience plus faible. Les personnes ayant connu des interruptions de carrière peuvent être pénalisées par des indicateurs conçus pour valoriser la continuité. Des désavantages peuvent aussi se cumuler lorsque plusieurs caractéristiques sociales influencent indirectement l’accès aux premières opportunités. L’absence de variable explicitement sensible ne suffit donc pas à écarter le risque.

Ce que change la qualification de « haut risque »

Le règlement européen sur l’IA déplace le centre de gravité du contrôle. Il ne suffit plus d’affirmer que le système ne demande pas une information relative au sexe ou à l’origine. Les acteurs concernés doivent pouvoir retracer les données mobilisées, préciser l’usage prévu, évaluer les risques pour les droits fondamentaux et organiser un contrôle humain effectif. Pour les entreprises, le sujet remonte ainsi de la direction des ressources humaines vers la conformité, les équipes de données, les achats et la direction juridique.

Cette exigence est particulièrement importante lorsque l’outil est fourni par un prestataire extérieur. Le recruteur peut être tenté de déléguer la responsabilité à l’éditeur du logiciel, au motif que le modèle ou ses paramètres ne lui sont pas accessibles. Or le déploiement local — choix des critères, seuils de sélection, données injectées, modalités de contestation — détermine lui aussi les effets du système. La chaîne de responsabilité ne s’arrête pas à la boîte noire du fournisseur.

En France, le Défenseur des droits a déjà attiré l’attention sur la diffusion différenciée d’offres d’emploi par des systèmes publicitaires. Ce précédent rappelle que l’enjeu ne concerne pas seulement le classement final des candidatures : l’exposition même à une offre peut être inégalement distribuée. Le filtre algorithmique peut donc agir avant toute décision formelle d’embauche.

Auditer les données plutôt que promettre la neutralité

Une gouvernance crédible des algorithmes de recrutement suppose d’abord d’identifier les variables qui structurent réellement la recommandation ou le classement. Il faut ensuite examiner si elles mesurent une compétence pertinente, ou si elles enregistrent surtout un avantage accumulé. Des tests comparatifs sur des profils équivalents, une analyse des taux de sélection par groupes et la conservation de traces permettant de contester une décision constituent des garde-fous plus utiles qu’une déclaration générale sur l’éthique de l’IA.

Le contrôle doit aussi porter sur la boucle de rétroaction. Une organisation qui constate qu’un groupe reçoit moins d’entretiens ne peut se contenter de corriger ponctuellement la base de données. Elle doit vérifier si les règles de visibilité, les critères d’évaluation ou les pratiques des recruteurs produisent à nouveau le même écart. Sans ce suivi, le dispositif recrée chaque année les données qui semblent confirmer son diagnostic initial.

Le débat européen sur l’IA se joue ainsi sur un terrain très concret : la capacité des employeurs et de leurs prestataires à justifier les critères qui ouvrent ou ferment l’accès au travail. L’enjeu n’est pas de substituer une neutralité fictive à la décision humaine, mais d’empêcher qu’une inégalité passée devienne, par l’automatisation, une règle de sélection durable.

À lire aussi : Alliance entre Canada et UE : Ottawa cherche un levier face à Washington