Un outil de profilage algorithmique qui bascule du service au contrôle
France Travail a confirmé le déploiement d’un outil de profilage algorithmique pour cibler les contrôles de la recherche d’emploi. Derrière cette décision, le profilage algorithmique des chômeurs repose sur un algorithme de scoring qui illustre brutalement la tension entre performance du contrôle et éthique de l’IA dans la gestion de l’emploi en France. Pour un DRH, cette affaire devient un cas d’école sur la manière dont un outil d’intelligence artificielle peut transformer la relation de confiance autour du travail.
Le dispositif « ciblage du contrôle de la recherche d’emploi » s’appuie sur 26 variables issues des dossiers des demandeurs d’emploi, comme l’activité déclarée, la visibilité du CV, les métiers en tension ou l’ancienneté d’inscription. Ces variables sont extraites de millions de données disponibles dans les systèmes de France Travail et de l’historique de Pôle emploi, puis intégrées dans des algorithmes de type machine learning pour prédire la probabilité de manquement aux obligations de recherche d’emploi. Ce basculement d’un suivi vers un contrôle automatisé interroge directement la gouvernance des outils numériques RH et la capacité des comités éthiques à encadrer ces usages.
Selon les documents internes rendus publics, l’algorithme de profilage a été entraîné sur 60 000 contrôles passés et testé sur deux campagnes de 7 000 personnes chacune. Les résultats montrent un taux de sanction de 50,4 % pour les contrôles déclenchés par l’intelligence artificielle, contre 33,2 % pour la méthode classique, ce qui suggère un possible biais de confirmation intégré dans la construction des profils. Pour les DRH qui envisagent un algorithme de profilage pour le tri de candidatures, ce différentiel de sanctions illustre le risque de reproduire mécaniquement les discriminations historiques plutôt que d’améliorer l’équité de l’emploi.
Quadrature du Net, cellule investigation et alerte sur l’éthique de l’IA
L’association La Quadrature du Net a publié un examen approfondi du dispositif, en dénonçant un profilage algorithmique des chômeurs à des fins de contrôle plutôt que d’accompagnement. Dans son analyse, La Quadrature dénonce la logique de construction de profils qui classe les demandeurs d’emploi selon des variables opaques, sans que le code source ni l’arbre de décision détaillé ne soient rendus pleinement disponibles pour un contrôle citoyen. Cette quadrature dénoncée par l’association met en lumière un décalage entre discours d’éthique de l’IA et réalité opérationnelle du contrôle de la recherche d’emploi.
Les révélations ont été largement relayées par la cellule investigation de Radio France, qui a obtenu des documents internes détaillant l’algorithme de profilage et les modalités de contrôle. Cette investigation radio souligne que l’outil a été calibré à partir de contrôles passés, ce qui ancre dans le modèle les biais structurels liés au marché du travail en France, notamment pour certains profils de chômeurs de longue durée. Pour un DRH, le parallèle avec les entretiens vidéo assistés par IA est évident, et les mêmes questions se posent sur ce que la technologie peut évaluer sans franchir la ligne, comme le montre l’analyse disponible sur l’entretien vidéo assisté par l’IA.
Face aux critiques, France Travail met en avant l’existence d’un comité éthique chargé de superviser l’usage de l’intelligence artificielle dans les contrôles et les contrôles de la recherche d’emploi. Cependant, l’ampleur des données mobilisées, la sensibilité des dossiers individuels et la perspective de millions de profils scorés posent une question de gouvernance qui dépasse le seul périmètre de l’institution. Les DRH qui déploient des outils numériques de scoring candidats doivent en tirer une leçon claire : sans transparence sur les algorithmes, sans documentation accessible et sans contrôle indépendant, l’éthique de l’IA reste un affichage plus qu’un garde-fou.
Leçons pour les DRH : encadrer le scoring IA entre performance et conformité
Pour les directions des ressources humaines, l’affaire France Travail agit comme un stress test grandeur nature de l’éthique de l’IA appliquée à l’emploi. Les mêmes briques technologiques de machine learning, les mêmes arbres de décision et les mêmes algorithmes de profilage sont déjà utilisés dans les outils de tri de CV, de parsing et de scoring, comme ceux décrits dans l’analyse sur le criblage automatisé des candidatures. La différence tient moins à la technologie qu’au cadre de contrôle, à la finalité déclarée et à la capacité du comité éthique interne à arbitrer entre ROI, conformité et respect des personnes.
Un DRH qui envisage un outil de profilage algorithmique pour la recherche d’emploi interne, la mobilité ou la gestion des ruptures conventionnelles doit poser des questions précises à ses éditeurs. Il s’agit de connaître les variables utilisées, la logique de construction des profils, les données d’entraînement, les mécanismes de contrôle des biais et les modalités d’audit externe, y compris en cas d’examen approfondi par les autorités ou par une association de défense des droits. Cette vigilance vaut aussi pour les solutions qui combinent scoring automatisé et méthodes de recrutement par simulation, comme celles décrites dans l’analyse sur la révélation des talents cachés par la simulation.
Dans les entreprises, la frontière entre accompagnement et contrôle peut devenir floue lorsque les outils numériques de gestion de l’emploi sont utilisés pour prioriser des plans de départs ou cibler des salariés en sous-performance. Les DRH doivent donc articuler clairement leur stratégie de profilage algorithmique emploi éthique IA, en documentant les algorithmes, en rendant les critères disponibles aux représentants du personnel et en prévoyant des voies de recours pour les salariés. À défaut, le risque est de reproduire en interne les contradictions mises en lumière chez France Travail, avec des salariés qui se vivent comme des demandeurs d’emploi sous contrôle permanent plutôt que comme des partenaires du projet d’entreprise.
Ressources pour aller plus loin
Pour approfondir les enjeux de profilage algorithmique, d’éthique de l’IA et de gouvernance des algorithmes dans l’emploi, les DRH peuvent consulter les analyses détaillées de La Quadrature du Net, les enquêtes de la cellule investigation de Radio France et les recommandations publiées par la CNIL sur l’usage de l’intelligence artificielle dans les ressources humaines. Ces ressources offrent un cadre de réflexion concret pour aligner performance, conformité et respect des droits fondamentaux dans les politiques RH. Elles permettent aussi de préparer les organisations aux exigences croissantes de transparence et de contrôle imposées par l’AI Act et par les régulateurs nationaux.