Illustration symbolique montrant le processus de tri automatisé des CV par intelligence artificielle dans le recrutement
Publié le 15 mars 2024

Contrairement à la croyance populaire, le rejet de votre CV par une IA n’est pas une simple erreur de mots-clés, mais souvent le symptôme d’une discrimination systémique, illégale en Belgique.

  • Les algorithmes de recrutement, entraînés sur des données historiques, apprennent et amplifient les biais sexistes et racistes du passé.
  • Le droit européen (RGPD) et belge vous donne des armes pour contester une décision 100% automatisée, notamment le « droit à l’explication ».

Recommandation : Cessez de vous battre contre des « boîtes noires » opaques. Auditez les pratiques de votre entreprise et, en tant que candidat, connaissez et utilisez vos recours légaux auprès d’Unia pour exiger la transparence et l’équité.

Vous avez passé des heures à peaufiner votre CV. Vous correspondez parfaitement au profil. Pourtant, quelques minutes après avoir cliqué sur « postuler », vous recevez un email de refus automatique. Frustrant, n’est-ce pas ? La cause probable est un ATS (Applicant Tracking System), un logiciel de tri utilisé par une majorité de grandes entreprises pour gérer le flot de candidatures. On vous a sans doute conseillé de truffer votre CV de mots-clés ou d’utiliser un formatage ultra-simple pour « plaire à l’algorithme ». C’est une platitude dangereuse, car elle masque la réalité du problème.

Le véritable enjeu n’est pas technique, il est éthique et légal. Ces systèmes, souvent présentés comme objectifs, peuvent devenir de puissants vecteurs de discrimination, écartant systématiquement des profils sur la base de critères illégaux comme l’origine, le genre ou l’âge. Le problème n’est pas que l’algorithme est « cassé » ; c’est qu’il fonctionne parfaitement en reproduisant les biais de la société sur laquelle il a été entraîné. En Belgique, où le cadre légal anti-discrimination est strict, cette opacité n’est plus tenable.

Cet article n’est pas un guide de plus pour « déjouer l’ATS ». C’est un audit. Nous allons ouvrir la boîte noire pour comprendre comment un algorithme devient discriminant sans jamais avoir été programmé pour l’être. Nous verrons comment les RH peuvent vérifier la conformité de leurs outils avec les recommandations d’Unia, et surtout, quels sont les recours légaux concrets pour un candidat qui se sent lésé. Il est temps de passer de la soumission à la machine à l’exigence de responsabilité.

Comment un algorithme devient raciste ou sexiste sans avoir été programmé pour l’être ?

Le péché originel de l’intelligence artificielle en recrutement ne réside pas dans le code, mais dans les données. Un algorithme n’est pas une entité neutre ; il est le reflet statistique de l’historique sur lequel il a été entraîné. Si une entreprise a, pendant 20 ans, majoritairement recruté des hommes blancs pour des postes de direction, l’IA va apprendre à identifier les caractéristiques de ces profils (écoles, loisirs, vocabulaire, voire le nom de famille) comme étant des signaux de succès. Inversement, il considérera les profils différents comme des anomalies à écarter.

C’est le principe du biais hérité : l’IA ne fait que reproduire et amplifier à grande échelle les discriminations humaines passées. Une étude a ainsi montré qu’un algorithme accordait un privilège de 85,1% pour les noms à consonance blanche. Ce n’est pas une malveillance programmée, mais la conséquence mathématique d’un entraînement sur un corpus de données déséquilibré. L’algorithme n’a pas conscience du racisme ou du sexisme ; il ne voit que des corrélations statistiques. Il en déduit que certains noms, certaines adresses (codes postaux), ou l’évocation d’une école à majorité féminine sont des prédicteurs négatifs de performance, simplement parce que les données du passé le suggèrent.

Comme le souligne très justement Unia, l’organisme public indépendant qui lutte contre la discrimination en Belgique, l’intelligence artificielle peut être « source de discrimination, d’exclusion et générer des situations de profilage problématiques ». Cette amplification est d’autant plus insidieuse qu’elle se pare des atours de l’objectivité technologique. On ne peut donc pas se contenter de « nettoyer » les critères évidents (genre, origine) ; il faut auditer les critères indirects et les corrélations que la machine établit elle-même.

Ce mécanisme de biais hérité est la pierre angulaire du problème, et il est essentiel de bien saisir comment un algorithme devient un agent discriminant pour pouvoir le combattre efficacement.

Mots-clés et formatage : l’erreur qui rend votre offre invisible aux meilleurs profils

La focalisation obsessionnelle sur les mots-clés est une fausse solution à un vrai problème. Penser qu’il suffit d’aligner le vocabulaire du CV sur celui de l’offre d’emploi, c’est ignorer la complexité des biais algorithmiques profonds. L’exemple d’Amazon est à ce titre un cas d’école. L’entreprise a dû abandonner son propre outil de recrutement basé sur l’IA car il discriminait systématiquement les femmes.

Étude de cas : Le fiasco de l’IA de recrutement d’Amazon

Amazon a développé un système pour automatiser le tri des CV. L’IA a été entraînée sur les données des dix dernières années, une période où le secteur technologique était massivement masculin. Résultat : l’algorithme a appris à pénaliser les CV contenant des termes comme « femmes » (ex: « capitaine de l’équipe féminine de volley ») et à valoriser des verbes d’action plus typiquement associés aux candidatures masculines. Même après que les ingénieurs ont tenté de neutraliser ces critères, ils n’ont pu garantir que le système ne trouverait pas d’autres « proxys » (critères indirects) pour discriminer. L’entreprise a finalement démantelé le projet.

Ce cas illustre la limite fondamentale de l’approche par mots-clés. Le problème n’était pas un mauvais formatage de CV, mais un biais conceptuel que l’IA avait intégré. Pour les RH, se concentrer uniquement sur la qualité des mots-clés dans les offres d’emploi ou les CV revient à repeindre la façade d’un immeuble aux fondations fissurées. L’usage de jargon trop spécifique, de verbes d’action genrés (« agressif », « ambitieux » vs « collaboratif », « soutenir ») ou de références à des technologies ou des écoles spécifiques peut involontairement exclure des pans entiers de candidats qualifiés, simplement parce qu’ils n’utilisent pas le même « langage tribal ».

Alors que près de 70% des grandes entreprises utilisent un ATS, l’enjeu est de s’assurer que ces outils ne créent pas des chambres d’écho culturelles, où l’on ne recrute que des clones des employés existants. Cela appauvrit l’entreprise et la prive de talents essentiels à son innovation et à sa performance.

L’obsession pour les mots-clés est un piège. Comprendre que le formatage est secondaire face aux biais profonds est la première étape pour un recrutement plus juste.

Biais de confirmation : pourquoi l’algorithme vous montre toujours ce que vous voulez croire ?

Le biais de confirmation, cette tendance humaine à privilégier les informations qui confirment nos propres croyances, trouve un allié puissant et dangereux dans les algorithmes. Dans le recrutement, cela se manifeste par des outils qui prétendent mesurer des qualités intangibles de manière « scientifique », mais qui ne font en réalité que valider les préjugés existants. L’histoire de l’analyse faciale par IA en est une illustration flagrante et inquiétante, relevant presque de la phrénologie numérique.

Le cas de l’entreprise HireVue est emblématique. Pendant des années, cette société, leader des entretiens vidéo analysés par IA, a utilisé des algorithmes pour évaluer les micro-expressions, le ton de la voix et le choix des mots des candidats pour prédire leur adéquation à un poste. Sous la pression légale et scientifique, l’entreprise a dû admettre que cette technologie était non seulement peu fiable, mais aussi potentiellement discriminatoire. Les recherches ont prouvé que ces systèmes de vision par ordinateur performaient très différemment selon la couleur de peau, la morphologie du visage ou même l’éclairage, introduisant des biais systématiques contre certains groupes.

Étude de cas : HireVue et l’abandon de la pseudo-science faciale

HireVue, dont la technologie était utilisée par plus de 700 grandes entreprises, a fait l’objet d’une plainte auprès de la Federal Trade Commission américaine. Les plaignants arguaient que l’analyse des expressions faciales pour déduire des compétences professionnelles était une pseudo-science sans fondement, et qu’elle désavantageait injustement les personnes dont les expressions faciales ne correspondaient pas à la « norme » sur laquelle l’IA avait été entraînée. En 2021, HireVue a finalement annoncé l’abandon de cette fonctionnalité controversée, un aveu implicite de ses défaillances et des risques légaux associés.

Cet exemple montre comment un algorithme peut renforcer le biais de confirmation du recruteur. Si un manager croit (consciemment ou non) qu’un « bon » commercial doit être extraverti et souriant, un outil qui note positivement ces traits ne fera que valider son préjugé, en y ajoutant un vernis de légitimité technologique. L’algorithme ne découvre pas la vérité, il reflète les croyances de ses concepteurs et utilisateurs.

Comment prouver qu’une IA a plagié votre style sans votre consentement ?

Dans le contexte du recrutement, la question du « plagiat de style » par une IA prend une dimension particulière. Il ne s’agit pas pour l’algorithme de copier votre style d’écriture, mais de « plagier » les biais et les schémas de pensée des recruteurs humains sur lesquels il a été formé. Prouver qu’une IA a été discriminatoire, c’est en quelque sorte prouver qu’elle a parfaitement imité le « style » de décision biaisé de ses prédécesseurs humains.

Paradoxalement, de nombreux candidats sont prêts à faire davantage confiance à l’IA. Une étude récente révèle que 57,2% des candidats estiment que les recruteurs humains sont plus sujets aux biais que les algorithmes. Cette perception, bien que compréhensible face aux expériences de discrimination humaine, est naïve. Elle ignore que l’IA, sans un audit et une conception éthique rigoureux, est la machine parfaite pour blanchir et industrialiser ces mêmes biais humains. L’algorithme ne se fatigue jamais, ne doute jamais et applique le préjugé avec une cohérence implacable.

Prouver ce « plagiat » de biais est complexe, car l’entreprise se retranche souvent derrière l’opacité de sa « boîte noire ». C’est ici que le droit intervient. La preuve ne repose pas sur la capacité du candidat à décortiquer le code source, mais sur le principe du partage de la charge de la preuve, très important dans le droit anti-discrimination belge. Le candidat doit apporter des éléments de fait qui laissent présumer une discrimination (par exemple, un profil hautement qualifié, appartenant à une minorité, rejeté automatiquement pour un poste où cette minorité est sous-représentée). Il incombe alors à l’employeur de prouver que sa décision était basée sur des critères objectifs, non discriminatoires et pertinents.

L’argument « c’est l’algorithme qui a décidé » n’est pas une défense valable. L’entreprise reste entièrement responsable des outils qu’elle déploie. Ainsi, prouver que l’IA a « plagié » les biais humains, c’est mettre l’entreprise face à ses responsabilités et l’obliger à justifier le fonctionnement et les résultats de son système de tri.

La confiance aveugle dans la neutralité de l’IA est une erreur. Pour la contester, il faut comprendre comment prouver que son mode de décision est une copie des préjugés existants.

Comment vérifier si votre logiciel RH respecte les recommandations d’Unia ?

Pour une entreprise en Belgique, utiliser un ATS ou une solution de recrutement par IA n’est pas un acte anodin. C’est une décision qui engage sa responsabilité légale et sociétale. Se cacher derrière l’argument « c’est un outil standard du marché » est une défense extrêmement faible face à une plainte pour discrimination. Les départements RH doivent adopter une posture proactive et devenir des auditeurs critiques de leurs propres technologies. Il ne s’agit plus seulement d’acheter un logiciel, mais de s’assurer qu’il est conforme à l’éthique et au droit belge.

Unia, en tant qu’organisme de référence, fournit un cadre clair pour évaluer ces outils. Un logiciel RH qui crée une « boîte noire » impénétrable est un risque juridique majeur. La transparence n’est pas une option, c’est une obligation découlant, entre autres, du RGPD. En tant que responsable RH ou D&I (Diversité et Inclusion), vous devez exiger des garanties de la part de vos fournisseurs de logiciels. Ne vous contentez pas de promesses marketing sur « l’équité » ; demandez des preuves et des fonctionnalités concrètes.

L’audit de votre système de recrutement automatisé doit devenir une pratique régulière. Il ne s’agit pas de rejeter la technologie, mais de la maîtriser et de s’assurer qu’elle sert des objectifs de diversité et de performance, plutôt que de renforcer des stéréotypes obsolètes. Cet audit interne est votre meilleure défense et la preuve de votre engagement pour un recrutement non-discriminatoire.

Plan d’action : Votre audit de conformité Unia

  1. Traçabilité des décisions : Exigez de votre fournisseur la preuve que le système conserve un journal d’audit complet. Pouvez-vous, pour n’importe quel candidat rejeté, retracer précisément QUELS critères ont conduit à cette décision ?
  2. Protection contre les proxys : Demandez comment le logiciel empêche la discrimination indirecte. Comment garantit-il que des données comme le code postal, l’école ou les loisirs ne sont pas utilisées comme des « proxys » pour l’origine ou le genre ?
  3. Mesure de l’impact différentiel : Votre fournisseur peut-il produire des rapports montrant que l’algorithme n’écarte pas de manière disproportionnée les candidats issus de certains groupes protégés par la loi belge ?
  4. Droit à l’explication : Simulez une demande d’un candidat. Êtes-vous capable, avec votre outil, de fournir une explication claire et légitime sur les raisons du rejet, comme l’exige l’Article 22 du RGPD ?
  5. Double validation : Faites valider la conformité de votre outil auprès de l’Autorité de Protection des Données (APD) pour les aspects RGPD et consultez le Conseil National du Travail pour anticiper les implications sociales.

La responsabilité de l’entreprise est engagée dès le choix de l’outil. Procéder à une vérification rigoureuse de la conformité de votre logiciel RH n’est plus une option, c’est une nécessité légale et éthique.

Quand votre entreprise devra-t-elle nommer un responsable d’éthique algorithmique ?

La question n’est plus « si » mais « quand ». Avec l’arrivée de l’AI Act européen, la gestion de l’éthique et de la conformité des systèmes d’intelligence artificielle va passer du statut de « bonne pratique » à celui d’obligation légale formelle. Pour les entreprises qui utilisent l’IA dans des domaines jugés critiques, la nomination d’une personne ou d’une équipe dédiée à la gouvernance de l’IA va devenir inévitable.

L’AI Act classifie les systèmes d’IA en fonction de leur niveau de risque. Sans surprise, les outils utilisés dans le « recrutement ou la sélection de personnes physiques, notamment pour le tri et l’analyse de CV et de candidatures » sont explicitement classés comme des systèmes d’IA à « haut risque ». Cette classification n’est pas anodine ; elle déclenche une série d’obligations très strictes pour les entreprises qui les déploient.

Les outils utilisés dans le recrutement (tri de CV, scoring, analyse automatisée, pré-sélection) sont classés « systèmes d’IA à haut risque », soumis à des obligations renforcées : transparence, supervision humaine, documentation, audits, suivi des incidents et conformité technique.

– CCI Paris Île-de-France, Guide d’application de l’AI Act pour le recrutement

Gérer cette conformité ne sera pas une tâche que l’on pourra confier à un stagiaire ou au département informatique en plus de ses missions. Cela exigera une expertise transversale, à la croisée du droit, de la technique et de l’éthique. Un « responsable d’éthique algorithmique » ou « AI Compliance Officer » aura pour mission de s’assurer que les systèmes sont documentés, que les audits d’impact sont menés, que la supervision humaine est effective et que l’entreprise est capable de répondre aux demandes des autorités de régulation et des citoyens. Le calendrier est serré : les entreprises doivent se préparer dès maintenant. Les systèmes à haut risque, incluant ceux pour le recrutement, devront être conformes à partir du 2 août 2026. L’attentisme n’est plus une option.

L’ère de l’expérimentation non régulée de l’IA en RH touche à sa fin. Anticiper la nomination d'un responsable de la conformité algorithmique est une décision stratégique pour toute entreprise moderne.

Quel recours légal avoir face à un refus de crédit ou d’emploi 100% automatisé ?

Face à un mur numérique qui rejette votre candidature sans explication, le sentiment d’impuissance peut être immense. Pourtant, en tant que citoyen européen et résident belge, vous n’êtes pas démuni. Le droit vous offre des armes concrètes pour contester une décision que vous estimez injuste et discriminatoire. Le principe fondamental, renforcé par le RGPD et l’AI Act, est clair : aucune décision produisant des effets juridiques majeurs, comme le refus d’un emploi, ne peut être basée exclusivement sur un traitement automatisé.

Une supervision humaine significative est requise. Si vous avez de fortes raisons de penser que votre CV a été écarté par une machine sans aucune intervention humaine, vous êtes en droit de demander des comptes. La première étape n’est pas d’attaquer, mais de questionner. Votre premier droit est celui à l’information et à l’explication, inscrit à l’article 22 du RGPD. Vous avez le droit de savoir si une décision a été prise de manière automatisée et de comprendre la logique qui y a mené.

Si la réponse de l’entreprise est évasive, insatisfaisante, ou si les faits laissent présumer une discrimination basée sur un des 19 critères protégés par la loi belge (origine, sexe, âge, conviction religieuse, handicap, etc.), vous pouvez alors passer à l’étape supérieure. Unia est votre allié principal dans cette démarche. Il ne s’agit pas d’un parcours du combattant solitaire ; la loi est conçue pour rééquilibrer le rapport de force entre l’individu et l’organisation.

Checklist essentielle : Votre procédure en cas de discrimination algorithmique

  1. Demandez l’explication : Contactez l’entreprise par écrit (email avec accusé de réception) en invoquant votre droit à l’explication (RGPD Article 22) et demandez les raisons objectives du rejet de votre candidature.
  2. Collectez les preuves : Rassemblez tous les éléments : l’offre d’emploi, la date de votre postulation, la réponse automatique, votre CV, et tout élément qui montre l’adéquation de votre profil avec le poste.
  3. Signalez à Unia : Si vous n’obtenez pas de réponse ou si elle est insatisfaisante, déposez un signalement sur la plateforme en ligne d’Unia. Documentez votre cas avec les preuves collectées.
  4. Invoquez le partage de la charge de la preuve : En Belgique, si vous présentez des faits qui font « présumer » l’existence d’une discrimination, c’est à l’employeur de prouver que sa décision était légitime et non-discriminatoire.
  5. Saisissez la justice : Avec le soutien d’Unia, l’ultime recours est de porter l’affaire devant le Tribunal du travail, qui est la juridiction compétente pour les litiges de discrimination à l’embauche.

Ne subissez pas l’opacité. Connaître et utiliser vos recours légaux est le seul moyen de transformer un droit théorique en une protection effective.

À retenir

  • Le principal danger des IA de recrutement n’est pas le bug, mais leur capacité à reproduire et amplifier les biais humains (racisme, sexisme) présents dans les données historiques.
  • Le droit européen (RGPD) et belge (lois anti-discrimination) vous protège : une décision de recrutement 100% automatisée est illégale et vous avez un « droit à l’explication ».
  • La solution n’est pas de « tromper » l’algorithme, mais d’exiger la transparence par l’audit (pour les entreprises) et l’exercice de ses droits légaux (pour les candidats), notamment via Unia.

Comment éclater votre bulle de filtres pour accéder à une information politique neutre en Belgique ?

Le titre de cette section peut sembler décalé, mais il est au cœur de la stratégie de contournement. Dans le contexte de l’emploi, la « bulle de filtres » n’est pas celle des réseaux sociaux, mais celle des grandes plateformes de recrutement automatisées. Y rester prisonnier, c’est s’exposer en permanence aux biais que nous avons décrits. « Éclater cette bulle », c’est refuser de n’être qu’une ligne dans une base de données et réintroduire le facteur humain et la diversité des approches dans votre recherche d’emploi. C’est une stratégie essentielle, particulièrement en Belgique, où la Belgique a le taux d’emploi de personnes nées hors Union européenne parmi les plus bas de l’UE, un signe de frictions systémiques sur le marché du travail.

Se fier uniquement aux portails de recrutement des grandes entreprises, c’est jouer à une loterie où les dés sont pipés. La solution est de diversifier radicalement vos canaux, en privilégiant les interactions qui ne peuvent être facilement automatisées. Une candidature spontanée, méticuleusement ciblée et accompagnée d’une lettre qui démontre une compréhension fine des enjeux de l’entreprise, passera souvent au-dessus de la pile des CV triés par l’ATS.

De même, les services publics de l’emploi, souvent perçus comme bureaucratiques, offrent une garantie essentielle : un accompagnement humain. Un conseiller Actiris à Bruxelles, du Forem en Wallonie ou du VDAB en Flandre a pour mission de vous aider et peut directement contacter des employeurs. Enfin, les réseaux d’anciens élèves (alumni) de grandes universités belges comme l’UCLouvain, la KU Leuven ou l’ULB sont des mines d’or pour des mises en relation directes et de confiance, court-circuitant totalement les filtres algorithmiques.

  • Multiplier les canaux de candidature au-delà des plateformes automatisées : privilégier les candidatures spontanées ciblées avec lettre personnalisée.
  • Activer les réseaux professionnels d’alumni de votre université (UCLouvain, KU Leuven, ULiège, VUB, UGent) qui proposent des mises en relation directes.
  • S’inscrire et utiliser activement les services publics de l’emploi selon votre région : Forem (Wallonie), Actiris (Bruxelles), VDAB (Flandre).
  • Participer à des salons de l’emploi et événements de networking sectoriels où le contact humain prime.

Pour une recherche d’emploi plus équitable et efficace, il est impératif de comprendre les fondements de la discrimination algorithmique pour mieux la contourner.

La lutte contre la discrimination algorithmique n’est pas une bataille technique, mais un combat pour les droits civiques à l’ère numérique. En tant que candidat, armez-vous de connaissance et de vos droits. En tant qu’entreprise, assumez votre responsabilité et faites de l’équité un avantage compétitif. Ne laissez pas une boîte noire dicter l’avenir de vos talents ; exigez la transparence, auditez vos processus et remettez l’humain au centre d’un recrutement juste et performant.

Rédigé par Lucas Peeters, Docteur en Informatique de l'Université de Liège, Lucas Peeters compte 13 ans d'expérience en Big Data et cybersécurité bancaire. Il développe des modèles de Deep Learning et audite la sécurité des systèmes. Il est certifié CISSP et expert Python/R.