FICHE · CAS DOCUMENTÉ
Amazon — Abandonner un outil de recrutement biaisé
Un modèle de notation des CV pénalisait les candidatures féminines ; Amazon a renoncé à l’utiliser.
Cas publiquement documenté, avec entreprise identifiable et source.
L’ESSENTIEL
Le cas en bref
- Le problème
- Trier un grand volume de candidatures techniques en repérant les meilleurs profils.
- La réponse
- Un modèle de notation des CV pénalisait les candidatures féminines ; Amazon a renoncé à l’utiliser.
- Le type de solution
- Produit : l’humain garde la décision.
- Le résultat clé
- Le modèle, entraîné sur des CV majoritairement masculins, pénalisait les CV contenant le mot « women’s » et déclassait des diplômées de deux universités féminines.
Le mécanisme / workflow
- ModèleApprendre sur dix ans de CV
- ModèleNoter les nouveaux CV
- HumainConstater le biais
Données et entrées
- CV des dix années précédentes
Outils et systèmes cités par la source
- Modèle de notation des CV
Impact observé ou attendu
Résultats rapportés par la source
- RAPPORTÉLe modèle, entraîné sur des CV majoritairement masculins, pénalisait les CV contenant le mot « women’s » et déclassait des diplômées de deux universités féminines.
- RAPPORTÉAmazon a corrigé ces termes, sans pouvoir garantir l’absence d’autres biais, puis a dissous l’équipe ; selon l’entreprise, l’outil n’a jamais servi seul à évaluer des candidats.
Valeur attendue dans la fiche
- ProductivitéAccélérer le tri des candidatures.
Type d’impact envisagé
- équité du recrutement
- réputation
Pour se lancer · estimation Acolyte
Ce qu’il faut réunir
- Données : CV des dix années précédentes
Délai : estimation d’après la complexité (aucune durée citée par la fiche). Grille estimée par Acolyte à partir de la fiche ; elle se vérifie avec vos données et vos équipes. Le Diagnostic Data & IA ↗
Et dans une PME ? · estimation Acolyte
Pour une PME qui recrute, la leçon est de ne pas laisser un outil trier les candidatures sur la base des recrutements passés.
- Interdire le tri automatique des CV ; l’IA peut aider à rédiger l’annonce ou préparer l’entretien
- Si un outil classe des candidatures, vérifier les écarts entre femmes et hommes
- Documenter les critères de sélection
Le tri automatique de candidats relève du haut risque dans l’AI Act. Transposition proposée par Acolyte, pas un résultat de la source.
ANALYSE
Ce qu’il faut en retenir
- Un modèle entraîné sur des décisions passées reproduit leurs biais.
- Le recrutement fait partie des usages « haut risque » de l’AI Act : obligations applicables à partir du 2 décembre 2027.
Limites et risques
- Discrimination à l’embauche
- Reproduction des biais historiques
- Les faits viennent d’une enquête de Reuters (2018) ; Amazon n’a pas publié de détails techniques.
- Données d’entraînement reflétant un déséquilibre passé
- Biais impossibles à exclure complètement par correction de termes
Cadre réglementaire · lecture indicative
Haut risque possible
Le cas touche à un domaine listé à l’annexe III du règlement (emploi et gestion des salariés). Si l’IA y évalue des personnes ou pèse sur une décision les concernant, les obligations « haut risque » s’appliqueront à partir du 2 décembre 2027.
Lecture indicative d’Acolyte, pas un avis juridique. Comprendre les niveaux de risque →
Résultats et sources
Preuve et source
CNBC (Reuters)Ouvrir la source ↗Résultat rapporté par la source.PROVENANCE
Source publique
https://www.cnbc.com/2018/10/10/amazon-scraps-a-secret-ai-recruiting-tool-that-showed-bias-against-women.htmlCONFIANCE
ÉlevéeET CHEZ VOUS ?
Ce que HOCUS ferait ici
Un cas publié ne se recopie pas : il se transpose à vos données, vos équipes et vos contraintes.
Vérifier que ce cas a du sens chez vous, avec quelles données, et ce qu’il rapporterait.
Découvrir ↗2 · WORKSWorks · Scoring & prédictionDes scores recalculés et expliqués (attrition, valeur, appétence, demande) branchés là où l’action se passe.
Voir ↗3 · EN PARLERÉcrire à HOCUSUne question sur ce cas ou sur votre situation.
hello@hocus.works ↗